Компания Anthropic опубликовала отчет об угрозах безопасности, в котором заявила о пресечении серии вредоносных операций с использованием своего ИИ Claude за последние восемь месяцев. По данным разработчиков, киберпреступники и поддерживаемые государствами хакерские группировки перешли от простых текстовых запросов к внедрению многоагентных ИИ-фреймворков. В этой схеме нейросети самостоятельно организуют и проводят сложные атаки, пока человек лишь наблюдает за процессом.
Одним из главных направлений злоупотреблений стала незаконная дистилляция - это метод, при котором ответы более продвинутой нейросети используются для обучения и удешевления разработки собственных ИИ-систем. Anthropic заблокировала активность семи китайских лабораторий, среди которых оказались такие компании, как Alibaba, Moonshot, DeepSeek и Xiaomi.
Наиболее масштабную операцию провела Alibaba, пытавшаяся использовать возможности Claude для совершенствования своей модели Qwen. В период с мая по июль 2026 года эксперты зафиксировали свыше 151 миллиона обменов данными с 3500 фальшивых аккаунтов, а в пиковые дни число запросов достигало трех миллионов. Разработчики чат-бота Kimi из Moonshot и специалисты DeepSeek перенаправляли через Claude диалоги своих пользователей в реальном времени, из-за чего в систему попадали конфиденциальные данные клиентов.
Отдельное внимание в отчете уделено деятельности хакерской группы Midnight Blizzard, которую правительство США связывает со Службой внешней разведки России. Группировка практически на всех этапах задействовала искусственный интеллект для атак на украинские государственные, военные и дипломатические структуры, проводя кампании фишинга, перехватывая Wi-Fi в отелях и взламывая аккаунты в WhatsApp. С помощью ИИ хакеры создали автоматизированную систему: она определяла, когда вредоносный код фиксировался защитными программами, и самостоятельно переписывала его до тех пор, пока он снова не становился незаметным для антивирусов.
Эксперты Anthropic также зафиксировали появление новых категорий угроз. Платформу Claude пытались применить для разработки программного обеспечения к вооружениям, включая стрелковое оружие, ракеты, боевые беспилотники и бомбы, а также для создания систем наведения и управления. Подобные инциденты, вместе с попытками использовать ИИ для сбора разведданных и закупки компонентов для оружейных программ, были отмечены в Китае, России и Йемене. Кроме того, была пресечена активность, связанная с участниками киберпреступного коллектива ShinyHunters, известного атаками на крупные мировые корпорации.
Руководитель отдела разведки угроз Anthropic Джейкоб Клейн отметил, что скачок в развитии нейросетей за последний год существенно повысил риски их нецелевого использования. Если год назад модели не могли эффективно справиться с оптимизацией программного обеспечения для ракет или беспилотников, то сегодня возросшие технологические возможности позволяют выполнять подобные задачи на высоком уровне, что требует от разработчиков непрерывного ужесточения контроля.
Ольга Божкова