Лаборатория искусственного интеллекта Anthropic сделала громкое заявление: ее флагманская языковая модель Claude теперь активно участвует в проектировании и создании своей собственной, еще более продвинутой версии. По данным компании, нейросеть уже выступает ведущим исполнителем в 26% научно-исследовательских и инженерных задач лаборатории. Это признание подлило масла в огонь и без того острых дискуссий о том, насколько близко человечество подошло к созданию полностью автономного ИИ.
Степень участия алгоритмов в собственной разработке демонстрирует невероятную динамику. Еще в феврале этого года доля научно-исследовательских и опытно-конструкторских работ, которую модель выполняла «сквозным образом» на основе высокоуровневых запросов человека, равнялась нулю. Однако уже к августу Claude задействована более чем в четверти всех исследовательских процессов, а в общей сложности около 90% разработок компании сегодня ведутся в тесном «соавторстве» с нейросетью.
Масштаб внутренней автоматизации впечатляет: по состоянию на конец лета в инженерных и исследовательских проектах Anthropic было задействовано порядка 30 000 виртуальных ИИ-агентов. Хотя система пока не работает полностью автономно и находится под постоянным контролем специалистов, ее способность решать комплексные задачи задает новый стандарт для IT-индустрии.
Публикация этих данных стала частью инициативы Anthropic по повышению прозрачности. В компании предупреждают: когда ИИ начинает ускорять собственное развитие, людям становится значительно сложнее понимать внутренние процессы системы и удерживать ее под контролем.
Главное опасение ученых связано с приближением так называемого «рекурсивного самосовершенствования» - момента, когда алгоритм сможет полностью самостоятельно, без участия инженеров, обучать и создавать своих преемников. Чтобы минимизировать риски, Anthropic призвала конкурентов регулярно делиться аналогичными метриками по единой методологии и объявила о намерении привлечь сторонних независимых экспертов, которые будут работать внутри компании для постоянного аудита безопасности.
Отчет компании вышел на фоне очередного витка паники вокруг безопасности технологии. На прошлой неделе один из ключевых исследователей Anthropic громко подал в отставку, выступив с мрачным предупреждением о том, что неконтролируемые темпы развития ИИ несут в себе фатальные риски для человечества.
Этот шаг спровоцировал дебаты среди лидеров отрасли. Глава Anthropic Дарио Амодеи, руководитель OpenAI Сэм Альтман и Илон Маск поддержали идею временно замедлить гонку алгоритмов ради совершенствования защитных барьеров. Однако с этим подходом согласны далеко не все: ряд крупных игроков IT-рынка, а также президент США Дональд Трамп выступают против торможения прогресса, настаивая на сохранении высоких темпов разработки.
Ольга Божкова