В мировой истории технологий наступил момент «перелома»: впервые в эпоху ИИ частная компания открыто бросила вызов военному ведомству сверхдержавы. Конфликт между ИИ-стартапом Anthropic и Военным министерством США (новое официальное название Пентагона) перерос в открытое противостояние, где на кону стоят не миллиарды долларов, а фундаментальные принципы демократии.
Генеральный директор Anthropic Дарио Амодеи на этой неделе сделал заявление, которое уже называют «манифестом цифрового сопротивления». После напряженной встречи с министром обороны Питом Хегсетом Амодеи подтвердил: его компания скорее разорвет все связи с государством, чем позволит превратить свою нейросеть Claude в инструмент для тотальной слежки или автономного убийства.
Пентагон потребовал от Anthropic права на «любое законное использование» их инструментов. Звучит официально, но за этими словами скрываются две пугающие возможности, которые Anthropic считает «красными линиями»: тотальная слежка, основанная на способности ИИ собирать миллиарды мелких данных о гражданах в единое досье, а также “роботы-убийцы” - создание полностью автономного оружия, способного принимать решение об открытии огня без участия человека.
«Мы не можем с чистой совестью уступить. Такие сценарии никогда не были частью наших контрактов, и им там не место», - заявил Амодеи.
Реакция Пентагона была мгновенной и жесткой. Министр Пит Хегсет пригрозил применить против Anthropic Закон о оборонном производстве. Этот закон, родом из эпохи Холодной войны, позволяет президенту фактически национализировать продукт компании, если он признан критически важным для обороны.
Более того, Anthropic пригрозили присвоить статус «риска для цепочки поставок». Это своего рода «черная метка», которая закроет компании путь к любым государственным закупкам. Заместитель министра Эмиль Майкл и вовсе перешел на личности, обвинив Амодеи в попытке «лично контролировать армию США» и предательстве интересов нации.
Конфликт не возник на пустом месте. Как стало известно, напряженность росла месяцами. Масла в огонь подлила информация о том, что нейросеть Claude уже тайно использовалась в секретной операции США по захвату президента Венесуэлы Николаса Мадуро. Этот случай показал: военные уже вовсю применяют ИИ в полевых условиях, и аппетиты ведомства только растут.
Позиция компании строится не на пустом упрямстве, а на понимании несовершенства технологий. Амодеи утверждает, что ИИ ненадежен, современные модели все еще могут ошибаться. Доверять такой системе оружие - значит подвергать риску своих же солдат и мирных жителей. Кроме того, это прямая угроза свободе: ИИ может превратить демократическое общество в систему, где жизнь каждого человека видна государству как на ладони.
Anthropic предложила компромисс: совместно работать над безопасностью и надежностью систем. Но Пентагон отклонил это предложение, требуя полного контроля.
Сейчас Anthropic готовится к «плавному переходу» и возможному исключению из списка поставщиков. Это беспрецедентный риск: компания готова потерять самого богатого клиента в мире, чтобы не стать соучастником создания мира, описанного в антиутопиях Оруэлла.
Ольга Божкова