[Перевод] Даже мощные LLM теряются в длинных текстах. Исследователи выяснили почему
Habr ·
![[Перевод] Даже мощные LLM теряются в длинных текстах. Исследователи выяснили почему](https://habrastorage.org/extt/61/30/d6/6130d602fd4eef77e6fe11eb69f98705.png)
Казалось бы, современные LLM должны неплохо справляться с подобными заданиями. Однако, даже передовые модели сталкиваются с серьезными трудностями. Gemini 3.8 Flash, Claude Opus 5.5, GPT-6 Sol и GPT-6 Luna уверенно проходили простые уровни, но на самых длинных заданиях с взаимосвязанными изменениями точность падала до 13% и ниже. Исследователи из Allen Institute for AI решили выяснить, в какой момент модели начинают терять информацию о состоянии объектов. Их интересовали не только предельные возможности архитектур, но и различия между задачами, которые на первый взгляд выглядят почти одинаково. Читать далее