Агент сделал задачу. А откатить сможет? Разбор 5 докладов о надёжности AI агентов

Habr ·

Я посмотрел пять докладов инженеров Microsoft, Anthropic, Meta, Harvey и авторов UndoBench и EvoUndo. В UndoBench coding агенты восстановились после сбоя меньше чем в половине прогонов, которые в норме проходили успешно, а повтор после потерянного ответа создавал дубликаты в 54% случаев. Разбираю, как строят откат за пределами git, статусы субагентов, ограничения в harness и ступенчатую автономию. Читать далее

Источник: Habr