Американские разведки заметили первые опыты создания автономных армий ИИ-ботов, способных самостоятельно открывать фиктивные аккаунты в соцсетях, генерировать контент заказанного содержания и проводить "операции влияния" почти без человеческого вмешательства. 

Отследили и страны, занимающиеся такими экспериментами, - первые, “еще топорные”, попытки “операций влияния” в соцсетях с помощью агентов, построенных на основе китайских программ ИИ с открытым кодом, исходили из Китая, Ирана и Израиля, сообщает в пятницу The New York Times со слов источников в разведывательном сообществе США. 

По данным источников газеты, в Израиле, в отличие от Китая и Ирана, эксперименты в соцсетях проводили частные коммерческие компании, не связанные с государством. В репортаже отмечается, что Израиль фигурировал и в последнем отчете компании Meta об опасной активности  на ее сетевых платформах. Это напоминает о скандалах вокруг израильских компаний вроде NSO, продававших шпионские программы для слежки за гражданами авторитарным режимам и внесенных в “черные списки” в США.

ИИ-агенты, поддерживаемые китайскими опенсорсными моделями ИИ, не имели защитных барьеров, запрещающих им незаконные действия вроде открытия фейковых сетевых аккаунтов и участия в сетевых дискуссиях под видом живых людей. “Операции влияния”, замеченные американской разведкой, были пока топорными, но технологии ИИ развиваются так быстро, что лидеры отрасли начали бить тревогу. Гендиректор Anthropic Дарио Амодеи объявил, что мы достигли по-настоящему опасной черты, и призвал притормозить развитие отрасли; конкуренты Сэм Альтман и Илон Маск поддержали его призыв.

Но “притормозить” и обезопасить ИИ невозможно в масштабах одной страны, пусть и лидера технологической гонки. Трамп осудил призывы разработчиков и не выразил намерения поддерживать их инициативу на уровне государственного регулирующего законодательства. А китайские модели с открытым кодом позволяют разработчикам ИИ-агентов отключать защиту он незаконного использования - и сообщение о разработках автономных армий ботов для массового промывания мозгов показывает лишь один аспект этой угрозы. 

В тот же день CNN сообщает со слов четырех осведомленных источников, что ошибка ИИ чуть не втянула США этой весной в войну с Китаем - самолеты уже были подняты в воздух, коммандос готовились к захвату китайского грузового судна, на котором, согласно донесению разведки, перевозились компоненты для производства ядерного оружия. К счастью, перед самым началом операции донесение аналитика военной разведки изучили более внимательно и выяснили, что ИИ-агент, использованный при его написании, неправильно идентифицировал груз. 

Ирина Жуковская