Организация ООН по вопросам образования, науки и культуры (ЮНЕСКО) призвала правительства и технологические компании ввести этические меры против свободного распространения искусственного интеллекта и информировать учебные заведения о рисках, связанных с ИИ-контентом.
ЮНЕСКО опубликовала доклад, в котором отмечены случаи, когда хакеры использовали чат-ботов для распространения нацистской идеологии, а также приведены примеры, когда боты придумывали собственные истории о Холокосте.
Algorithmic bias in AI can lead to Holocaust denial.
— UNESCO #Education #Sciences #Culture (@UNESCO) June 18, 2024
The new UNESCO report "AI technology poses risks to facts about the Holocaust" offers vital solutions to combat #HateSpeech & disinformation: https://t.co/P9hTc2nWOM #NoToHate pic.twitter.com/1wT7f2CngK
"Если мы позволим ужасным фактам о Холокосте быть разбавленными, искаженными или сфальсифицированными из-за безответственного использования ИИ, мы рискуем взрывным распространением антисемитизма", - сказала генеральный директор ЮНЕСКО Одри Азуле.
Некоторые инструменты уже публично ошибались, создавая исторические изображения и тексты. Модель Gemini от Google минувшей зимой вызвала скандал, когда сгенерировала картинки нацистских солдат разных национальностей и рас.
Специалисты ЮНЕСКО также рассказали в докладе, как ChatGPT выдумал, как нацисты массово топили евреев в реках и озёрах. А ранее чат-бот Bard от Google генерировал фальшивые цитаты свидетелей Холокоста.
AI could spread false and misleading information on Holocaust, #UNESCO report warns: UN education body says flaws in programs or deliberate action by hate groups could cause artificial intelligence systems to question Nazi murder of Jews, fueling… https://t.co/LYWJD38WCo pic.twitter.com/6Qcqcgi6ij
— Global Voters (@global_voters) June 18, 2024
Текст отчёта был подготовлен совместно с Всемирным еврейским конгрессом. ООН призывает к "срочным действиям" со стороны правительств, технологических компаний и педагогов.
Среди других примеров, приведенных в докладе ЮНЕСКО, были ИИ-сгенерированный Йозеф Геббельс, утверждающий, что он пытался спасти еврейские жизни, и дипфейк актрисы "Гарри Поттера" Эммы Уотсон, читающей отрывки из "Майн кампф" Адольфа Гитлера.