Папа Римский выпустил в свет свою долгожданную программную энциклику «Magnifica Humanitas» - не просто церковное послание, а жесткий манифест против техно-оптимизма, который слепо отдает на откуп алгоритмам все: от рабочих мест до права нажимать на курок. Помимо того, что он назвал «устаревшей» концепцию «справедливой войны», выдвинутую администрацией Трампа, понтифик прямо потребовал обуздать аппетиты ИТ-гигантов, заявив, что Кремниевая долина обязана сменить курс с выкачивания миллиардных прибылей на банальное выживание человечества.
Этого шага от Льва XIV ждали затаив дыхание с момента его избрания. Будучи американцем, он прекрасно понимает, как устроена цифровая экономика, и еще в первые дни своего понтификата без лишней дипломатии назвал искусственный интеллект самой страшной экзистенциальной угрозой для человеческой цивилизации.
Самый взрывоопасный пункт энциклики касается войны. Лев XIV жестко прошелся по «культуре силы», которая превратила ИИ в новую гонку вооружений. Пока военные ведомства соревнуются в создании изощренных беспилотных систем, Ватикан настаивает: передавать право на принятие необратимых смертоносных решений машинам - «абсолютно недопустимо».
Здесь Лев XIV сознательно идет на открытый конфликт с администрацией Дональда Трампа. Пока Белый дом агрессивно сносит любые регуляторные барьеры ради того, чтобы американские военные ИИ-технологии развивались быстрее китайских, папа требует нажать на тормоза. «Искусственный интеллект сегодня остро нуждается в разоружении, - без обиняков заявил понтифик на презентации программного послания. - Его пора вырвать из логики, которая превращает гениальные инструменты в циничное оружие доминирования, изоляции людей и смерти».
В технологической среде, научных кругах и среди экспертов по этике энциклику уже окрестили «золотым стандартом», на который теперь будут ссылаться все регуляторы мира. Манифест вышел максимально вовремя: общество и так находится в перманентной панике, наблюдая за ежедневными новостями о том, как нейросети пачками уничтожают рабочие места и пытаются подменить собой человеческий разум.
Ирония в том, что даже создатели этих технологий начинают смотреть на свое детище как на монстра Франкенштейна.
На презентации энциклики в Ватикане одним из ключевых спикеров там стал соучредитель ИИ-стартапа Anthropic. Это тонкий политический маневр Святого Престола: Anthropic сейчас погряз в судах с администрацией Трампа, пытаясь защитить свои разработки от государственного диктата. Ватикан технично использовал эту трещину, напомнив, что уже десять лет пытается вести с Кремниевой долиной диалог о реальной «гуманитарной цене» их открытий.
Впрочем, статус гостей не помешал Льву XIV разнести саму бизнес-модель современных ИТ-монополий. Папа назвал критической угрозой то, что колоссальный объем данных и цифровой власти сосредоточен в руках ничтожно малой группы частных лиц. От этого цифрового феодализма в первую очередь страдают самые беззащитные - дети.
«Наивно уповать на абстрактную корпоративную этику, нам нужны жесткие законы, независимый надзор и политики, которые не умывают руки, боясь испортить отношения с бизнесом. Глупо рассуждать о "моральном ИИ", если рамки этой морали устанавливает пара-тройка миллиардеров», - резюмировал Лев XIV.
В финале своего манифеста папа обратился к разработчикам и чиновникам с призывом, который в эпоху сверхскоростей звучит почти революционно: остановитесь и подумайте, чтобы человечество просто смогло дожить до следующего века.
Ольга Божкова