Организация ООН по вопросам образования, науки и культуры (ЮНЕСКО) призвала правительства и технологические компании ввести этические меры против свободного распространения искусственного интеллекта и информировать учебные заведения о рисках, связанных с ИИ-контентом.
ЮНЕСКО опубликовала доклад, в котором отмечены случаи, когда хакеры использовали чат-ботов для распространения нацистской идеологии, а также приведены примеры, когда боты придумывали собственные истории о Холокосте.
"Если мы позволим ужасным фактам о Холокосте быть разбавленными, искаженными или сфальсифицированными из-за безответственного использования ИИ, мы рискуем взрывным распространением антисемитизма", - сказала генеральный директор ЮНЕСКО Одри Азуле.
Некоторые инструменты уже публично ошибались, создавая исторические изображения и тексты. Модель Gemini от Google минувшей зимой вызвала скандал, когда сгенерировала картинки нацистских солдат разных национальностей и рас.
Специалисты ЮНЕСКО также рассказали в докладе, как ChatGPT выдумал, как нацисты массово топили евреев в реках и озёрах. А ранее чат-бот Bard от Google генерировал фальшивые цитаты свидетелей Холокоста.
Текст отчёта был подготовлен совместно с Всемирным еврейским конгрессом. ООН призывает к "срочным действиям" со стороны правительств, технологических компаний и педагогов.
Среди других примеров, приведенных в докладе ЮНЕСКО, были ИИ-сгенерированный Йозеф Геббельс, утверждающий, что он пытался спасти еврейские жизни, и дипфейк актрисы "Гарри Поттера" Эммы Уотсон, читающей отрывки из "Майн кампф" Адольфа Гитлера.