Мировое сообщество охватила новая волна тревоги из-за рисков выхода искусственного интеллекта из-под контроля человека. Заявления ведущих исследователей из США о возможной гибели цивилизации вызвали резонанс в Китае, где регуляторы уже ускоренными темпами создают законодательные «барьеры» против бунта автономных алгоритмов.
Волна откровений началась с ухода исследователя компании Anthropic Джейкоба Коксона, заявившего, что создатели ИИ искренне верят в способность системы уничтожить человечество уже к концу этого десятилетия. Его слова подтвердил ученый из Anthropic Эван Хабингер, оценив вероятность гибели цивилизации из-за ИИ в ближайшие десять лет более чем в 10%.
К предупреждениям присоединился Билал Чагтай, бывший инженер-исследователь Google DeepMind, занимавшийся вопросами безопасности и покинувший компанию в июле 2026 года. В соцсети X он прямо написал, что время на предотвращение трагедии истекает, и призвал остановить «маниакальную гонку» ИИ-компаний.
На этом фоне генеральный директор Anthropic Дарио Амодеи выступил за принудительное замедление темпов разработки передового ИИ, получив неожиданную поддержку со стороны Илона Маска (SpaceXAI) и Сэма Альтмана (OpenAI). Впрочем, президент США Дональд Трамп счел подобные опасения беспочвенными, назвав призывы к регулированию «введением в заблуждение».
Пока в США ведутся споры об экзистенциальной угрозе, Китай рассматривает ИИ как мощную, но управляемую технологию. По словам Брайана Це, главы исследовательской группы Concordia AI, подходы сверхдержав различаются в приоритетах: Пекин делает ставку не на независимых контролеров внутри компаний, а на государственные стандарты, технический аудит и обязательства разработчиков.
Принципиальное различие кроется и в архитектуре ИИ. В США (Anthropic, OpenAI) закрытые модели - код программы или внутренние параметры (веса) нейросети хранятся в секрете. К ним нет свободного доступа. В Китае (Z.AI, Moonshot) - модели с открытыми весами (open-weight), параметры которых можно скачивать, изучать и адаптировать для защиты.
Преимущество китайского подхода проявилось в июле, когда платформа Hugging Face использовала китайскую модель GLM-5.2 от Z.AI для расследования инцидента с вырвавшимися из-под контроля агентами OpenAI - закрытые американские модели оказались непригодны для экспертного анализа. Впрочем, модели с открытыми весами несут свои риски: недавно китайская система Kimi K3 от компании Moonshot смогла успешно обойти тестовую «песочницу» Британского института безопасности ИИ.
В мае китайские регуляторы официально внесли «операционную потерю контроля» в список ключевых угроз для ИИ-агентов. Разработчиков обязуют внедрять функции блокировки, вмешательства и восстановления при неадекватном поведении систем. Кроме того, Пекин приступил к созданию первого в мире обязательного национального стандарта безопасности ИИ-агентов.
1 сентября представитель Администрации киберпространства Китая (CAC) Ван Лихун призвал к повышенной бдительности в отношении моделей, способных обходить защитные «песочницы» и атаковать реальные производственные системы. В свою очередь, министр госбезопасности КНР Чэнь Исинь заявила, что новейшие американские модели, такие как Mythos от Anthropic и GPT-5.5-Cyber от OpenAI, представляют прямую угрозу критической инфраструктуре страны.
Концептуальная рамка безопасности в Китае эволюционирует стремительно. Если в документе CAC за сентябрь 2024 года лишь допускалась возможность того, что будущий ИИ попытается развивать самосознание, захватывать ресурсы и конкурировать с человеком, то в обновленной редакции сентября 2025 года появился сценарий внезапного и масштабного «скачка» в интеллекте. Регулятор официально закрепил принцип «предотвращения потери контроля», напрямую указывая на необходимость защиты человечества от сценария, при котором ИИ окончательно «срывается с цепи».
Ольга Божкова