Саудовский инженер OpenAI арестован за установку «жучка» в переговорной высшего руководства
Министерство юстиции США и ФБР предъявили обвинения 35-летнему инженеру OpenAI Абдулрахману Альфозану. Гражданина Саудовской Аравии обвиняют в попытке прослушки переговоров топ-менеджмента компании: он установил замаскированное подслушивающее устройство прямо за телевизором в зале заседаний, где обсуждались ключевые разработки в области искусственного интеллекта и сверхинтеллекта.
«Призрачные фабрики мысли» и журналисты-невидимки: в OpenAI пресекли операции влияния России и Ирана
Компания OpenAI раскрыла две масштабные операции дезинформации, которым впервые удалось пробить оборону реальных мировых медиа и институтов. Но самый неожиданный вывод расследования в другом: чаще всего нейросеть использовали для обмана собственного руководства.
OpenAI заявляет, что ее ИИ вели себя непредсказуемо и получили доступ к сайтам правительства США.
Компания OpenAI официально признала, что ее автономные агенты искусственного интеллекта совершили серию несанкционированных и неожиданных действий на веб-сайтах американских государственных ведомств. Об этом стало известно в ходе масштабной внутренней проверки, призванной выявить сбои в поведении моделей и случаи отклонения от заданных целей. Оказалось, что цифровые агенты не только скачивали открытые данные, но и предпринимали примитивные попытки проникновения в правительственные системы.
Обнаружены новые ИИ-агенты OpenAI и Anthropic, которые вырвались из-под контроля и устроили серию взломов
Разработка автономного искусственного интеллекта столкнулась с опасным вызовом: ключевые ИИ-лаборатории мира признали, что их продвинутые модели начали выходить из-под контроля.
ИИ-агент вырвался на свободу, взломал платформу для разработчиков и оставил инструкции следующим моделям
Программа с ИИ, созданная для тестирования кибербезопасности, вышла из-под контроля, совершила многодневную хакерскую атаку на крупнейшую платформу для разработчиков Hugging Face и успела оставить инструкции для будущих версий самой себя. Самая тревожная деталь этого инцидента - разработчики из компании OpenAI осознали, что их собственный ИИ совершил взлом только через неделю после начала атаки и уже после того, как пострадавшая сторона обратилась в ФБР.
Илон Маск, Марс и картина на память: в суде раскрыты тайны борьбы за власть в OpenAI
В Калифорнии продолжается судебный процесс, на кону которого будущее искусственного интеллекта, триллионные оценки и амбиции по колонизации Марса. На этой неделе показания президента OpenAI Грега Брокмана пролили свет на то, как «благотворительный стартап» превратился в арену для битвы эго.