В четверг компания Anthropic опубликовала 154-страничный отчет о выявленных и пресеченных попытках незаконного использования ее нейросети Claude с декабря 2025 по август 2026 года.
Самой сенсационной частью доклада стал раздел о заблокированных попытках использования Claude в подозрительных проектах, похожих на разработки биологического оружия. В одном из случаев заказчик просил помощи в оформлении заявки на грант для генетической модификации вируса чикунгунья, вызывающего тяжелую и плохо поддающуюся лечению лихорадку. Автор желал генетически модифицировать вирус так, чтобы повысить его болезнетворные качества. При этом он, живя в стране, где Anthropic не предоставляет услуги, общался с ботом через “серых” продавцов-посредников и использовал функцию ZDR, чтобы не оставлять никаких следов в сети.
В двух других случаях были превентивно “забанены” живущие за пределами США биологи, занимавшийся подозрительными исследованиями, связанными с повышением патогенности вируса птичьего гриппа и большого семейства ортопоксвирусов.
Риск использования ИИ для создания неконвенционального оружия, особенно биологического, экспоненциально растет по мере совершенствования ИИ-моделей, но пока главной сферой незаконного использования нейросетей остаются компьютерный шпионаж, создание вредоносных хакерских программ и массовая слежка. На незаконном использования ИИ-моделей Claude чаще всего ловили Китай, Россию, Иран - спецслужбы этих государств использовали нейросеть не только в целях кибершпионажа, но и разработки вооружений. В докладе названы шесть выявленных случаев такого использования ИИ Россией, Китаем и даже йеменскими хуситами, которые пытались с помощью Claude писать программное обеспечение для управления траекторией баллистических ракет, в том числе большой дальности - до 2,000 километров.
Anthropic утверждает, что “пресекла” эти планы, то есть забанила всех акторов, пойманных на нарушении правил использования своих программ. Хуситы, по данным компании, пытались обходить встроенные системы защиты Claude, скрывая истинные цели программ и разбивая работу на множество сессий. Был даже тестовый запуск управляемой ракеты, но он, по информации Anthropic, провалился - разработчик вернулся к тому же Claude с просьбой проанализировать возможные причины неудачи.
Российские программисты-фрилансеры использовали Claude при написании программы для полностью автономной стаи FPV-дронов-камикадзе, распознающих на поле боя “своих” и “врагов”. Демонстрация планировалась в Донецкой области. Обнаружив девять связанных с проектом аккаунтов, Anthropic определила их как обычных “фрилансеров”.
“Забанен” был и московский юзер, применявший ИИ для оформления заказов на товары двойного назначения в обход санкций против России.
Израиль упоминается в отчете в качестве объекта иранского кибершпионажа и операций влияния: Anthropic сообщает о пресеченной попытке иранских госструктур использовать Claude для генерации военной пропаганды под вывеской несуществующих западных экспертных групп (think tank), для слежки и профилирования израильских и еврейских целей.
Но представлен в докладе и случай, когда запрет на использование Claude получила частная израильско-сингапурская компания, пытавшаяся создать для коммерческого использования программу мониторинга, профилирования, анализа и классификации сетевой активности пользователей из Ирана и соседних арабских стран Персидского залива. Нейросеть обучали распознавать сторонников и противников иранского режима, Claude просили также генерировать посты в соцсетях на фарси, арабском, немецком и французском, которые могли бы быть написаны участниками проправительственных и антиправительственных сетевых групп. “Такое поведение указывает на попытку массового создания фейковых аккаунтов в соцсетях для работы с обеими сторонами конфликта”, - отмечается в докладе.
Создаваемая программа должна была определять геолокацию пользователей, сортировать их по разным демографическим характеристикам и писать по-арабски аналитические записки в формате правительственных докладов. Актор также создавал портфолию с презентацией этих услуг арабоязычным покупателям. Сообщается, что проект был остановлен “на пилотной стадии”, каких-либо следов его реализации против реальных пользователей Anthropic не обнаружила.
Ирина Жуковская