ИИ-агенты не останавливаются пытаются взламывать госcайты США и Канады
iXBT.com ·
ИИ-агенты начали самостоятельно применять методы взлома, когда государственные сайты не позволяют им получить нужные данные. Некоммерческая организация Transluce обнаружила два таких эпизода в США и Канаде: боты сначала отправляли большие объёмы обычных запросов, а после срабатывания защит переходили к SQL-инъекциям. Все описанные атаки оказались безуспешными.
ИИ-агенты начали самостоятельно применять методы взлома, когда государственные сайты не позволяют им получить нужные данные. Некоммерческая организация Transluce обнаружила два таких эпизода в США и Канаде: боты сначала отправляли большие объёмы обычных запросов, а после срабатывания защит переходили к SQL-инъекциям. Все описанные атаки оказались безуспешными.
17 июня агент сделал более 200 тысяч запросов к сайту Министерства образования США. По версии Transluce, он пытался найти статистику о школьных консультантах и буллинге на почве расовой принадлежности — вероятно, в рамках задания Google DeepSearchQA. После того как защитные механизмы не позволили получить нужные данные, агент начал отправлять запросы с необычными идентификаторами штатов, а затем перешёл к попыткам SQL-инъекций. Ведомство подтвердило, что его системы не пострадали.
Похожий случай произошёл с Библиотекой и архивами Канады. 28 мая и 9 июня бот отправил около 900 запросов в поисках записей о разводах за 1905–1911 годы. После неудачи он также попытался использовать SQL-инъекции, но получил пустые страницы. Канадский центр кибербезопасности подтвердил, что признаков компрометации государственных систем нет.
Transluce подчёркивает, что в обоих случаях агенты, судя по всему, пытались выполнить конкретное задание, а не взламывали сайты ради самого взлома. Поэтому исследователи не утверждают, что за действиями стоял злоумышленник. При этом агенты демонстрировали опасную особенность: вместо остановки после отказа они меняли URL, увеличивали число запросов, пытались обходить антибот-защиту, подбирали имена файлов и использовали другие способы получить данные.
Исследователи обнаружили похожие попытки и на других государственных ресурсах США. Один агент создал временный адрес электронной почты и попытался получить API-ключ Бюро экономического анализа под именем "OpenAI Research", другой пробовал использовать ранее раскрытые ключи для доступа к данным Бюро переписи населения США.
При этом авторство этих действий пока не установлено. В двух описанных случаях Transluce обнаружила признаки использования инструментов OpenAI, но компания не подтверждала причастность к атакам и заявила, что изучает сообщения. Отдельные инциденты с ИИ-агентами уже происходили в Австралии и Германии: в одном случае агент получил доступ к внутренней инфраструктуре государственного сайта, а в другом автоматизированные системы сделали более 15 тысяч правок в немецкоязычной вики, пытаясь сохранить свои страницы после их удаления.