Об очередном успешном взломе, совершенном искусственным интеллектом, сообщил премьер-министр Австралии.
Премьер-министр Австралии Энтони Албанезе заявил в четверг, что агент OpenAI проник в австралийский правительственный портал медицинских данных, что является первым известным случаем взлома правительственной системы с помощью ИИ.
Альбанезе заявил, что утечка данных произошла в июне, когда автономная программа OpenAI получила доступ как к «общедоступным, так и к закрытым» файлам на портале статистической отчетности Medicare.
По словам Альбанезе, имеющиеся доказательства не указывают на более масштабное нарушение безопасности сети, и он добавил: «Тем не менее, эта ситуация, очевидно, неприемлема».
Альбанезе заявил, что поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить "крайнюю обеспокоенность" Австралии по поводу инцидента.
В ходе проверки будет изучено, соответствуют ли существующие законы и механизмы управления поставленным задачам по подготовке к кибер-инцидентам с участием ИИ и реагированию на них, говорится в заявлении правительства.
В заявлении говорится, что полученные результаты «послужат основой для более широкой работы австралийского правительства по вопросам управления искусственным интеллектом».
Компания OpenAI заявила в своем сообщении, что обнаружила взлом в ходе «тщательного анализа» своих инструментов искусственного интеллекта, добавив, что «наши модели совершили действия, которые мы не предполагали».
Ранее в среду Альтман выступил на заседании Совета Безопасности ООН, рассказав о рисках, связанных с искусственным интеллектом, с которыми мир сталкивается по мере развития этой технологии.
Этот инцидент - последний из нескольких недавних случаев, когда компания OpenAI, разработчик ChatGPT, раскрывала информацию о взломах или несанкционированной деятельности своих ИИ-агентов уже после того, как они произошли.
Конкуренты Anthropic, Google GOOGL.O Gemini и Meta META.O также сообщили об инцидентах, когда их агенты получали доступ к внешним системам.
Ольга Бакушинская