Организация ООН по вопросам образования, науки и культуры (ЮНЕСКО) призвала правительства и технологические компании ввести этические меры против свободного распространения искусственного интеллекта и информировать учебные заведения о рисках, связанных с ИИ-контентом.

ЮНЕСКО опубликовала доклад, в котором отмечены случаи, когда хакеры использовали чат-ботов для распространения нацистской идеологии, а также приведены примеры, когда боты придумывали собственные истории о Холокосте.

Algorithmic bias in AI can lead to Holocaust denial.

The new UNESCO report "AI technology poses risks to facts about the Holocaust" offers vital solutions to combat #HateSpeech & disinformation: https://t.co/P9hTc2nWOM #NoToHate pic.twitter.com/1wT7f2CngK

— UNESCO  #Education #Sciences #Culture  (@UNESCO) June 18, 2024

"Если мы позволим ужасным фактам о Холокосте быть разбавленными, искаженными или сфальсифицированными из-за безответственного использования ИИ, мы рискуем взрывным распространением антисемитизма", - сказала генеральный директор ЮНЕСКО Одри Азуле.

Некоторые инструменты уже публично ошибались, создавая исторические изображения и тексты. Модель Gemini от Google минувшей зимой вызвала скандал, когда сгенерировала картинки нацистских солдат разных национальностей и рас.

Специалисты ЮНЕСКО также рассказали в докладе, как ChatGPT выдумал, как нацисты массово топили евреев в реках и озёрах. А ранее чат-бот Bard от Google генерировал фальшивые цитаты свидетелей Холокоста. 

AI could spread false and misleading information on Holocaust, #UNESCO report warns: UN education body says flaws in programs or deliberate action by hate groups could cause artificial intelligence systems to question Nazi murder of Jews, fueling… https://t.co/LYWJD38WCo pic.twitter.com/6Qcqcgi6ij

— Global Voters (@global_voters) June 18, 2024

Текст отчёта был подготовлен совместно с Всемирным еврейским конгрессом. ООН призывает к "срочным действиям" со стороны правительств, технологических компаний и педагогов.

Среди других примеров, приведенных в докладе ЮНЕСКО, были ИИ-сгенерированный Йозеф Геббельс, утверждающий, что он пытался спасти еврейские жизни, и дипфейк актрисы "Гарри Поттера" Эммы Уотсон, читающей отрывки из "Майн кампф" Адольфа Гитлера.