Сыворотка правды. Разбираем два кейса промпт-инъекций в ИИ-агентов
Хакер ·
Для подписчиков Я расскажу о двух похожих уязвимостях, обнаруженных в ИИ-агентах крупных российских компаний. В обеих хотели сделать сервисы удобными для пользователей, но выдали агентам больше прав, чем нужно. Итог: утечка запросов в одном случае, раскрытие исходного кода агента и доступ на запись в S3 с диалогами пользователей — в другом.