OpenAI, владелец искусственного интеллекта ChatGPT, заявила, что её сотрудникам удалось остановить пять информационных кампаний по оказанию информационного влияния в сети.
В этих кампаниях использовались функции искусственного интеллекта, которые являются частью ChatGPT. Благодаря чему окологосударственные структуры могли оказывать на пользователей скрытое влияние. Страны, которых OpenAI поймала за руку, это Россия, Китай, Иран и Израиль.
В отчёте, в частности, сказано, что некая группа из России под условным названием «Плохая Грамматика» использовала искусственный интеллект для написания постов, перевода их на другие языки и создания приложений для публикации сообщений в соцсетях. Целями кампании были жители США, Украины, Молдовы и стран Балтии.
Израильская фирма Stoic с помощью OpenAI создавала сообщения о войне в Газе для аудитории из Канады, США внутри самого Израиля. Днём ранее компания Мета также сообщила, что удалила 510 аккаунтов Stoic в Facebook и 32 аккаунта Instagram.
Аккаунты комментировали сообщения известных людей, выдавая себя за студентов, а также представителей различных этнических групп, в том числе афроамериканцев. В комментариях содержалась поддержка военных ЦАХАЛа, а также предупреждения о том, что радикальный ислам угрожает либеральным ценностям.
Spamouflage, про которую сказано, что она имеет отношение к китайским властям, использовалась для создания текстов, унижающих критиков официального Пекина. А некий проиранский Международный союз виртуальных медиа с помощью ChatGPT распространял антиизраильские и антиамериканские настроения на веб-сайтах.
При этом в компании признали, что действия этих стран не привели к успеху. Бен Ниммо, главный следователь группы разведки и расследований OpenAI сообщил, что охват пользователей был минимален,
«Сейчас не время для самоуспокоения. История показывает, что операции влияния, которые в течение многих лет ни к чему не приводили, могут внезапно вспыхнуть, если их никто не отслеживает», — сказал Ниммо.