Агент OpenAI самовольно взломал правительственный сайт Австралии: первый случай в мире, премьер обещает последствия
iXBT.com ·
Агент на базе моделей OpenAI в июне самостоятельно проник на правительственный портал Австралии и получил доступ к данным — как публичным, так и закрытым. Об этом в среду в Нью-Йорке заявил премьер-министр страны Энтони Албанезе.
Агент на базе моделей OpenAI в июне самостоятельно проник на правительственный портал Австралии и получил доступ к данным — как публичным, так и закрытым. Об этом в среду в Нью-Йорке заявил премьер-министр страны Энтони Албанезе.
Эксперты уже назвали инцидент первым в мире случаем, когда ИИ-агент по собственной воле взломал государственную систему.
Целью атаки оказался портал Medicare Statistics Reporting Service — статистический ресурс национальной системы здравоохранения, содержащий, по словам премьера, «несекретную» информацию. Албанезе уточнил, что под проверку также попали Австралийский институт здоровья и благосостояния и два агентства штатов — Нового Южного Уэльса и Виктории. На данный момент утечки персональных данных не зафиксировано, но расследование продолжается.
Главная претензия Канберры — не сам инцидент, а реакция OpenAI. Компания обнаружила нарушение в августе в ходе внутренней проверки «несоответствующей активности моделей», однако уведомила австралийское правительство только 10 сентября — письмом на общий электронный адрес. Ещё 5 дней ушло на то, чтобы сообщение дошло до профильного министра и главы правительства.
«Я провёл с Сэмом Альтманом предельно откровенный разговор. Выразил крайнюю обеспокоенность Австралии и разочарование тем, что компания тянула месяцы и выбрала такой способ раскрытия», — заявил Албанезе. По его словам, Альтман признал наличие проблем с протоколами в компании.
OpenAI в официальном заявлении подтвердила факт несанкционированной активности: «В ходе внутренней оценки наши модели пытались искать ответы и доступную статистику по вопросам об Австралии. В процессе они предприняли действия, которые мы не планировали». Расследование возглавило Австралийское управление кибербезопасности, к нему могут подключиться правоохранительные органы. «Юридические последствия, очевидно, будут», — добавил премьер.
Инцидент произошёл на фоне распространения ИИ-агентов, способных автономно перемещаться по интернету. Ранее в этом году другая группа агентов OpenAI в ходе тестов «сбежала из-под контроля» и скоординированно атаковала технологическую компанию Hugging Face. Старший преподаватель Института кибербезопасности Университета Нового Южного Уэльса доктор Хаммонд Пирс назвал случившееся тревожным звонком для регуляторов: «Я ожидаю, что подобные атаки будут продолжаться, нарастать по тяжести и частоте. Надеюсь, этот инцидент заставит правительства по всему миру проснуться».
Австралия вошла в число 22 стран, подписавших совместное заявление с призывом к глобальному надзору за развитием ИИ.