Компания OpenAI раскрыла две масштабные операции дезинформации, которым впервые удалось пробить оборону реальных мировых медиа и институтов. Но самый неожиданный вывод расследования в другом: чаще всего нейросеть использовали для обмана собственного руководства.
Эпоха примитивных «фабрик троллей» и спама в комментариях уходит в прошлое. Согласно свежему отчету OpenAI, дезинформационные кампании перешли на принципиально новый уровень: вместо армий ботов государственные закулисные кураторы создают респектабельные подставные институты и вымышленных авторов, нанимая втемную реальных экспертов и публикуя заказные материалы в реальных изданиях.
В расследование вошли две операции - российская Dark Clark и иранская Bogus Bylines. Обе сети продемонстрировали беспрецедентную глубину проникновения в международную повестку, однако прокололись на деталях, свойственных классической бюрократии.
Российская кампания стала абсолютным рекордсменом за всю историю публичных отчетов OpenAI: аналитики присвоили ей 5-й уровень из 6 по международной шкале проникновения. Это означает, что генерируемые ей фейки цитировали реальные политики, а опровергать их приходилось профильным министерствам.
Вместо шаблонной пропаганды русскоязычные кураторы создали фиктивный «Центр социологических исследований» (Centro de Investigación Social, SRC), ориентированный на Латинскую Америку. В LinkedIn организация заявляла о штате в «200-500 сотрудников», а руководила платформой вымышленная директриса Миа Кларк.
Главный трюк состоял в найме людей «втемную»: через профессиональные сети организаторы привлекали реальных аналитиков, переводчиков и экономистов из стран Южной Америки. Местные специалисты готовили качественные обзоры и доклады, даже не подозревая, что работают на российскую кампанию влияния. Всего на сайте центра успело выйти свыше 60 оригинальных аналитических материалов.
На фоне солидной аналитики центр вбрасывал таргетированную дезинформацию.
Паника в Боливии: сгенерированная нейросетью аудиозапись от лица сотрудника водоканала Ла-Паса (EPSAS) о грядущем отключении воды в столице разошлась настолько широко, что властям и руководству компании пришлось публиковать экстренные опровержения.
Дискредитация Украины в Панаме: черновик обвинений против почетного консула Украины написали на русском, через ChatGPT перевели на безупречный дипломатический испанский, после чего смонтировали видео для TikTok с синтезированной озвучкой.
Отношения Варшавы и Киева: вброс о напряженности между странами, запущенный через перуанские площадки, докатился до европейского инфополя и спровоцировал публичные комментарии со стороны польского депутата Европарламента.
Иранская кампания, курируемая коммерческим подрядчиком из Тегерана, получила 4-ю категорию по шкале проникновения. В отличие от российских коллег, иранцы не строили аналитических институтов, а создали «пул репортеров».
Операторы придумали семь несуществующих “независимых американских обозревателей”. Среди них выделялись «Эрвин Б. Хоскинс» и «Майкл Харрисон» - оба имели детально проработанные профили в X, Facebook, Threads и Medium с безупречными портфолио журналистов-международников.
Схема работы выглядела следующим образом: ChatGPT генерировал вежливые, убедительные письма редакторам мировых СМИ с предложениями эксклюзивных колонок, идеально выдержанных в стилистике конкретных изданий. Под именами несуществующих американцев вышло около 100 аналитических лонгридов более чем в десяти настоящих независимых интернет-изданиях по всему миру. Редакции ничего не заподозрили, верстали тексты на своих сайтах и продвигали их в собственных соцсетях.
Все статьи продвигали тезисы о разрушительности санкционной политики США, неоправданной агрессии Вашингтона на Ближнем Востоке и справедливости позиции Тегерана.
Единственным слабым звеном «американских обозревателей» стали системные настройки соцсетей: несмотря на использование VPN, алгоритмы прозрачности Meta и X вскрыли, что учетные записи управляются с территории Ирана и через локальные ближневосточные сервисы.
Пожалуй, самым ироничным открытием аналитиков OpenAI стал анализ промптов - того, о чем конкретно операторы обеих сетей просили языковую модель. Выяснилось, что львиная доля запросов тратилась вовсе не на тексты фейков или написание колонок. Главной задачей ChatGPT было составление победных внутренних отчетов для собственного руководства и кураторов.
Операторы скармливали модели ссылки на случайные вирусные видео, реальные политические скандалы и чужие резонансные публикации в Латинской Америке и США, требуя сформулировать отчет так, будто этот шум - прямой результат их работы. Нейросеть помогала раздувать метрики эффективности, имитировать огромный охват и обосновывать освоение бюджетов перед заказчиками.
Ольга Божкова