«Max Extra» для GLM-5.3 Prime: я вручную перебрал токены и нашёл вставку, которая даёт +7.3% точности при −47% мышления
Habr ·
У всех, кто гоняет GLM-5.3 Prime в проде на ризонинге Max , есть это ощущение: вроде думает, а вроде и недодумывает. Задача у меня стояла зверская — изобрести уровень усилия «Max Extra» чисто промптингом : минимальная вставка в системный промпт, приближенная к обучающим данным, без овер-тхинкинга. И буквально вручную подобрать каждый токен. Зачем? Я заметил что на Max ризонинге нейронка на «Привет» думает по минуте, а для миграции всего проекта на другой стэк - максимум секунд 15 (*личное ощущение). Я построил свой бенчмарк: 342 грязных промпта как у живых юзеров (опечатки, «пжпж», «хз», «ну короче»), поровну EN и RU, LLM-грейдер, парные sign-тесты и ~50 тысяч запросов к провайдеру за вечер. Спойлер: гипотеза «нейронке не хватает глубины мышления» умерла в первой же фазе . А вот что я нашёл вместо неё — интереснее. Читать далее