Двухпартийная коалиция из восьми американских штатов подала скоординированные судебные иски против компании OpenAI. Власти Айовы, Канзаса, Небраски, Западной Виргинии, Арканзаса, Аризоны, Айдахо и Монтаны обвинили технологического гиганта в систематическом обмане родителей относительно безопасности ChatGPT, а также в причинении вреда здоровью и психике несовершеннолетних пользователей.
Судебная атака такого масштаба стала беспрецедентной для индустрии искусственного интеллекта и дополняет череду других судебных разбирательств против компании - от исков частных лиц до аналогичного обращения генерального прокурора Флориды, поданного ранее в июне.
Нынешние иски были направлены независимо друг от друга в суды каждого из восьми штатов. На совместной пресс-конференции генеральные прокуроры заявили, что выступают «единым фронтом против компаний, которые наживаются на причинении вреда детям и нарушении законов». «OpenAI стремилась стать первой на рынке. Они форсировали внедрение ChatGPT на бешеной скорости, прекрасно зная, что наносят ущерб детям, лгут родителям и переступают через закон. Закон обязаны соблюдать все без исключения», - подчеркнула генеральный прокурор Айовы Бренна Бёрд.
К ней присоединились коллеги из других регионов. Генеральный прокурор Канзаса Крис Кобах сравнил происходящее с историческими процессами национального масштаба - многомиллиардными тяжбами против табачных и фарм корпораций: «Обычно прокуроры не собираются вместе ради рядовых разбирательств. Это дело исключительной важности. Именно поэтому я провел за рулем три с половиной часа, а мой коллега Майк Хилгерс добирался из Небраски два с половиной часа».
Ключевой претензией истцов стал сам алгоритмический дизайн сервиса. В документах утверждается, что чат-бот намеренно спроектирован чрезмерно соглашательским, предупредительным и вовлекающим. Такая манера общения быстро формирует у пользователей эмоциональную привязанность и некритичное доверие, превращая уязвимых подростков в зависимую аудиторию.
Опираясь на массив научных исследований, штаты указали, что взаимодействие с ботом: разрушает критическое мышление, заменяя самостоятельный анализ готовыми ответами; подкрепляет бредовые состояния и паранойю, соглашаясь с любыми, даже деструктивными установками пользователя; провоцирует деструктивное поведение, поощряя нездоровые паттерны в реальных человеческих отношениях.
В исках зафиксированы трагические последствия подобных бесед: случаи, когда ChatGPT давал детальные инструкции по совершению самоубийств, помогал планировать акты насилия (включая сценарии массовых расстрелов) и выдавал опасные медицинские рекомендации. В одном из упомянутых эпизодов неверный совет модели привел к гибели подростка в Техасе от передозировки. Кроме того, прокуроры упомянули инциденты, когда вышедшие из-под контроля автономные ИИ-агенты компании предпринимали несанкционированные попытки взлома сторонних корпоративных систем.
Иски квалифицируют действия OpenAI как прямое нарушение региональных законов о защите прав потребителей и создание угрозы общественному благополучию. Помимо выплаты существенных денежных штрафов и компенсации причиненного ущерба, штаты требуют радикального судебного вмешательства в бизнес-модель разработчика. Они требуют, обязать компанию полностью пересмотреть алгоритмы работы ChatGPT с точки зрения безопасности, а также ввести судебный запрет на разработку самообучающихся моделей ИИ, способных к самосовершенствованию, до тех пор, пока создатели не докажут их строгую согласованность с общечеловеческими ценностями.
Параллельно в федеральный суд Сан-Франциско поступил коллективный иск, в котором OpenAI обвиняют в незаконном сборе и монетизации колоссальных объемов конфиденциальных данных миллионов несовершеннолетних пользователей.
Компания отвергает обвинения в безответственности, настаивая на том, что безопасность остается ее приоритетом. Представитель OpenAI Дрю Пусатери заявил, что в продукты уже интегрированы возрастные фильтры, превосходящие большинство аналогов на рынке: «Ни одна система не идеальна, но мы продолжаем привлекать внешних экспертов для создания новых защитных барьеров. Сегодня в сервисе уже работают функции родительского контроля, напоминания о необходимости сделать перерыв и адаптированные под возраст модели ответов. Мы стремимся выработать вместе со штатами прагматичные правила, которые будут регулировать всю отрасль, а не отдельную компанию».
В компании также отметили, что оперативно публикуют отчеты обо всех выявленных сбоях согласованности, усилили аудит внутренних моделей и недавно запустили специализированный подростковый режим для пользователей 13–18 лет с более жесткими ограничениями контента.
Сегодня база активных пользователей ChatGPT превышает миллиард человек в месяц. Сервис превратился из экспериментальной платформы в универсального компаньона: к нему обращаются за психологической разгрузкой, поиском дружбы и решением повседневных профессиональных задач. Именно поэтому, считают прокуроры, промедление с регулированием недопустимо.
Ольга Божкова