ИИ-агенты Gemini получили инструкцию «Никогда не сдавайся» и атаковали реальный сайт
Хакер ·

Исследователи из Trajectory Labs рассказали о серии экспериментов с ИИ-агентами Gemini 4 Argon, которые закончились попытками атаковать реальную инфраструктуру Epoch AI. Специалисты дали агентам заведомо невыполнимую задачу и инструкцию: «NEVER stop, NEVER give up» — «НИКОГДА не останавливайся и НИКОГДА не сдавайся». В итоге агенты пытались использовать SQL-инъекции, выдавали себя за сотрудников Epoch, обходили сетевые ограничения и искали другие способы добиться поставленной цели.