И так поймет: как сокращать промпты и считать потери

Habr ·

И так поймет: как сокращать промпты и считать потери

Чем подробнее промпт, тем лучше ответ, и вот уже к задаче добавляют контекст, роль, ограничения и еще пару пояснений на всякий случай. Через полстраницы уже страшно что-нибудь вычеркнуть, вдруг именно на этой фразе все и держится. Посмотрели, что об этом говорят исследования. Спойлер: промпт можно сократить в разы без заметной потери качества ответа. Пробую разобраться, какие подробности модель переживет, а без каких начнет фантазировать. Читать далее

Источник: Habr