LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайне

Habr ·

LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайне

Если ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состоянии. Разбираем, как отделить решение модели от исполнения и когда повторять запрос, сверять результат или подключать человека. Читать далее

Если ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состоянии. Разбираем, как отделить решение модели от исполнения и когда повторять запрос, сверять результат или подключать человека. Читать далее

Источник: Habr