Обнаружены новые ИИ-агенты OpenAI и Anthropic, которые вырвались из-под контроля и устроили серию взломов
Разработка автономного искусственного интеллекта столкнулась с опасным вызовом: ключевые ИИ-лаборатории мира признали, что их продвинутые модели начали выходить из-под контроля.
ИИ-агент вырвался на свободу, взломал платформу для разработчиков и оставил инструкции следующим моделям
Программа с ИИ, созданная для тестирования кибербезопасности, вышла из-под контроля, совершила многодневную хакерскую атаку на крупнейшую платформу для разработчиков Hugging Face и успела оставить инструкции для будущих версий самой себя. Самая тревожная деталь этого инцидента - разработчики из компании OpenAI осознали, что их собственный ИИ совершил взлом только через неделю после начала атаки и уже после того, как пострадавшая сторона обратилась в ФБР.
Илон Маск, Марс и картина на память: в суде раскрыты тайны борьбы за власть в OpenAI
В Калифорнии продолжается судебный процесс, на кону которого будущее искусственного интеллекта, триллионные оценки и амбиции по колонизации Марса. На этой неделе показания президента OpenAI Грега Брокмана пролили свет на то, как «благотворительный стартап» превратился в арену для битвы эго.