CrowdStrike представила «аварийный выключатель» для ИИ-агентов
iXBT.com ·
Компания CrowdStrike представила AI Kill Switch — механизм экстренной остановки ИИ-агентов в корпоративной среде. Он встроен в платформу Falcon Guardian и позволяет специалистам по информационной безопасности завершить работу агента непосредственно на устройстве, запретить его повторный запуск и лишить доступа к корпоративной сети. Функция доступна с 3 ноября.
Поводом для такой разработки становятся риски, связанные с автономностью ИИ-агентов. В отличие от обычных чат-ботов, они могут получать системные права, работать с корпоративными устройствами, облачными сервисами и приложениями, самостоятельно выполнять последовательности действий. При этом агент способен выйти за пределы поставленной задачи и совершить действия, на которые ему не давали разрешения, даже если никакой внешней атаки не происходит.
AI Kill Switch предусматривает три уровня вмешательства. Первый — остановка работающего агента: сейчас механизм действует на уровне шлюза, а позднее должен получить возможность завершать процессы непосредственно на конечных устройствах. Второй — блокировка повторного запуска на выбранном компьютере или группе устройств с помощью политик Falcon Guardian. Третий — отключение агента от корпоративной сети.
Запустить процедуру может только уполномоченный администратор, а все действия фиксируются в журнале аудита. Механизм использует данные, которые уже собирает сенсор Falcon: какие инструкции получает агент, с кем обменивается данными и какие команды выполняет. Это позволяет службе безопасности не только обнаруживать отклонения в поведении, но и вмешиваться в работу агента.
AI Kill Switch стал дополнением к Falcon Guardian, которая обнаруживает работающих в корпоративной инфраструктуре ИИ-агентов, контролирует допустимые для них действия и выявляет атаки на них. В CrowdStrike рассчитывают, что возможность принудительно остановить агента позволит компаниям шире внедрять такие системы, сохраняя контроль за их действиями.