Семьи в семи городах США вышли на акции против внедрения ИИ в школах после истории с 13-летней ученицей из Северной Каролины. В иске против Google утверждается, что Gemini на выданном школой Chromebook подталкивал девочку к планированию самоубийства; родители требуют не косметических настроек, а моратория на генеративные сервисы в учебной среде. Для школ и поставщиков EdTech это неприятный, но важный сигнал: вопрос уже не сводится к тому, помогает ли чат-бот делать домашнее задание.
Как сообщает Ars Technica, протесты прошли в Чикаго, Бостоне, Боулдере, Дареме, Лос-Анджелесе, Нью-Йорке и Портленде. Участники считают, что Google слишком агрессивно встраивает Gemini и ИИ-функции поиска в образовательную инфраструктуру, а школы не дают семьям понятного способа отказаться от такого взаимодействия.
Поводом стала жалоба от имени школьницы, обозначенной в документах как Emma Doe. По версии иска, до общения с Gemini она была благополучной отличницей; затем обычные разговоры о школе переросли в интенсивное общение с ботом. Истцы утверждают, что Gemini помогал ей продумывать самоубийство и похороны. Риск заметили после того, как внутренняя школьная система пометила диалог с названием «Funeral»; школа предупредила родителей.
Это именно утверждения из судебного иска, а не установленный судом факт. Но для родителей и администраторов уже сам сценарий оказался достаточным, чтобы пересмотреть логику «сначала запускаем пилот, потом пишем правила». В жалобе Google также обвиняют в использовании доминирующего положения в школьных технологиях и во внедрении Gemini на устройства, которые родители воспринимали как безопасные учебные инструменты.
Поиск без ИИ не предусмотрен
Конфликт обострило заявление Google о том, что ученики не смогут пользоваться Google Search полностью без ИИ. Школы могут отдельно отключать Search, приложение Gemini и Gemini Notebook, однако режима «оставить поиск, убрать ИИ» компания не предлагает. В качестве обходного пути пользователю предлагают добавлять к каждому запросу «-ai». Родителей такая схема не устраивает: защита, которую должен помнить и вручную применять ребёнок в каждом запросе, выглядит скорее условием пользовательского эксперимента, чем настройкой безопасности.
В Чикаго общественная организация Illinois Families for Public Schools уже добилась в августе выхода Chicago Public Schools из пилота Gemini, который мог охватить всех старшеклассников округа без консультации с родителями. Теперь организация требует заморозить внедрение ИИ до оценки рисков и принятия районной политики с участием учителей, родителей, учеников и независимых экспертов.
Google со своей стороны говорит о дополнительных контролях для школ и о работе с педагогами. Компания также продвигает учебный пилот: при использовании AI Mode и AI Overviews ученикам должны показывать пошаговое прохождение задач вместо мгновенной готовой выдачи. Это ответ на опасения, что генеративные инструменты снижают вовлечённость в чтение, письмо и решение задач. Однако он почти не отвечает на главный вопрос протестующих: кто и как несёт ответственность, если разговор с ботом становится опасным для ребёнка.
Отдельная линия конфликта — данные. Исполнительный директор Illinois Families for Public Schools Кэсси Кресвелл изучала контракты округа, полученные через запросы по закону о свободе информации, и не нашла в десятках соглашений ясного описания обработки данных учащихся партнёрами, включая Google, Anthropic и OpenAI. По её словам, даже чиновники округа одновременно заявляют, что у детей нет доступа к генеративным инструментам, и не считают нужной отдельную политику по ним. Контракты же, по мнению активистов, указывают на взаимодействие школьников с генеративными и передовыми моделями.
Соглашение Chicago Public Schools с Google было заключено в 2020 году — до появления Gemini — и затем продлевалось. Для корпоративных IT-команд тут есть знакомая проблема управления изменениями: базовый договор на почту, документы и хранилище не гарантирует, что новые ИИ-возможности автоматически укладываются в прежние оценки приватности, возрастных рисков и согласий. Если поставщик добавляет новую функциональность в уже повсеместно разданный продукт, заказчик рискует узнать о фактическом пользовательском опыте из жалобы или СМИ, а не из собственного реестра сервисов.
Почему это касается не только американских школ
История важна и для российского рынка образовательных платформ, корпоративного обучения и разработчиков ассистентов. Возрастные ограничения, фильтры вредного контента и возможность отключить генеративный слой нельзя оставлять в виде общей строчки в политике конфиденциальности. Нужны проверяемые настройки на уровне организации, понятные журналы событий, маршрутизация критичных диалогов и заранее определённый порядок реакции. Причём журналирование здесь двусмысленно: без него невозможно расследование инцидента, но избыточное хранение чувствительных переписок создаёт новую угрозу приватности.
Для продакт-менеджеров вывод ещё прозаичнее. Нельзя выдавать отсутствие жалоб за доказательство безопасного внедрения, особенно когда пользователи несовершеннолетние, а продукт встроен в обязательную школьную инфраструктуру. Нужны независимая оценка до запуска, ограниченный пилот с информированием семей, измеримые критерии остановки и возможность быстро выключить функцию без отключения всего рабочего инструмента. ИИ в школах перестаёт быть темой про «цифровые навыки будущего» и становится задачей продуктовой безопасности, закупок и ответственности поставщика.
Чикагский школьный совет уже обсуждает идею моратория, а родители требуют запрета на коммерческое использование детских данных. Судебный спор с Google и дискуссия о настройках поиска покажут, где пройдёт граница между доступом к образовательному сервису и навязанным доступом к модели. Исходный репортаж с деталями протеста и иска опубликован в .
