«Контекстные бомбы» снижают эффективность атак с применением ИИ
Хакер ·
Исследователи из компании Tracebit разработали новый способ защиты от атак автономных ИИ-агентов и предложили использовать так называемые «контекстные бомбы» (context bombs). Идея заключается в том, что атакующий агент автоматически находит при изучении цели скрытые промпты-ловушки, которые сбивают ИИ с курса, направляют к фальшивым целям и заставляют тратить время и токены впустую.