Израильские регуляторы представили окончательный свод правил для использования искусственного интеллекта в финансовом секторе. Главный итог: технологиям дали свободу действий, но ответственность за любой сбой или дискриминацию полностью возложена на финансовые учреждения, без права перекладывать вину на разработчиков.
В среду, спустя год после публикации промежуточной версии для общественных слушаний, межведомственная рабочая группа опубликовала итоговый 200-страничный отчет, определяющий новые правила игры для банков, страховых компаний и инвестиционных компаний. В состав группы, разработавшей этот документ, вошли ключевые регуляторы страны: Банк Израиля, Управление по ценным бумагам, Управление рынка капитала, Антимонопольное ведомство и Министерство юстиции.
Центральной темой отчета стала так называемая «проблема черного ящика», которая до сих пор тормозила внедрение передовых систем глубокого обучения (Deep Learning). Особенность этих систем заключается в том, что, обрабатывая колоссальные объемы данных, они выдают очень точные результаты, однако путь, по которому алгоритм пришел к конкретному выводу, часто остается загадкой даже для его создателей.
Регуляторы приняли принципиальное решение: не запрещать использование таких непрозрачных технологий, но ввести четкие границы. Так финансовые организации обязаны разъяснять клиентам общую логику и принципы работы алгоритма. При этом банки не обязаны объяснять клиенту, почему именно в его случае было принято то или иное решение (например, отказ в выдаче ипотеки или присвоение низкого кредитного рейтинга).
Правило отсутствия объяснений не работает только в ситуациях с особо высоким риском для клиента, где нет адекватных альтернатив. Это сделано для того, чтобы в критически важных жизненных ситуациях искусственный интеллект не становился «безответственным вершителем судеб» без человеческого контроля.
Технологическая свобода, предоставленная финансистам, сопровождается беспрецедентно жесткими юридическими требованиями. Отчет устанавливает однозначное правило: 100% ответственности за любой ущерб, причиненный клиенту действиями ИИ, несет сама финансовая организация.
Это означает конец практики «перекладывания вины». Банки и страховые компании больше не смогут оправдываться ошибками сторонних разработчиков софта или сбоями в алгоритмах внешних поставщиков. Более того, регулятор ввел прямой запрет на включение в договоры с клиентами пунктов, снимающих или ограничивающих ответственность учреждения в случае технологических сбоев.
Отчет также объявляет войну маркетинговым уловкам, получившим название «AI Washing». Речь идет о ситуациях, когда компании привлекают клиентов или инвесторов громкими словами об использовании искусственного интеллекта, хотя на деле за этим не стоит никаких реальных технологий.
Финальная часть документа посвящена кибербезопасности. Межведомственная группа официально признала технологии Deepfake (подделка голоса и видео) системным риском для финансового сектора. Мошенники могут использовать синтезированные голоса или изображения клиентов для совершения сложных финансовых махинаций. Рекомендация регулятора звучит как приказ к действию: не ждать первых громких взломов, а уже сейчас внедрять инструменты для распознавания дипфейков и защиты от цифровой дезинформации.
Ольга Божкова