
Какой уровень усилия покупать агенту?
Что теряет высокий уровень усилия и когда хватает низшего
Содержание слайдов
1. Какой уровень усилия покупать агенту?
Что теряет высокий уровень усилия и когда хватает низшего
2. Лестница не хуже высшего уровня
Terminal‑Bench 2.1: старт с низшего уровня, повтор на высшем после проверенной неудачи
3. Три находки и одно правило
Восемь моделей, четыре набора задач, один вопрос: какой уровень покупать
4. Одна настройка уже меняла результат
Спутник выпуска №46: MLEvolve на среднем уровне вместо максимального
5. Уровень усилия покупают вслепую
Доверительное благо: исход виден, а нужна ли была покупка — нет
6. Одна шкала, разные наборы уровней
Набор уровней зависит от модели; задачи, промпты и обвязка фиксированы
7. Сравнивайте множества, а не проценты
Inkling на GPQA, low → medium: чистый прирост +16 скрывает пять потерь
8. Даже среднее растёт не всегда
Terminal‑Bench 2.1, 89 задач: доля решённых по уровням усилия, %
9. Высокий уровень теряет решённые задачи
GPT‑5.6‑sol на Terminal‑Bench, high → xhigh: +5 новых, −8 потерянных
10. Четыре прогона развороты не убирают
DeepSWE v1.1: 113 задач, по четыре прогона на каждый уровень усилия
11. Простая задача дорожает в разы
Цена задач, решаемых на любом уровне: xhigh относительно low
12. Дорожают и вызов, и траектория
GPT‑5.6‑sol на SWE‑Bench Pro: $0,27 → $1,24 за задачу, 14,7 → 28,4 вызова
13. Без рассуждений — не значит дешевле
GPT‑5.6‑luna на задачах, решаемых на любом уровне: none против low
14. Высокий уровень чаще ищет ответ
GPT‑5.6‑sol на SWE‑Bench Pro, 44 задачи: исходная и исправленная среда
15. В исправленной среде падают все восемь
Высший уровень каждой модели, те же 44 задачи в двух средах
16. Проверок больше, исход тот же
Claude Sonnet 5 на Terminal‑Bench: проверочных действий на задачу
17. Три способа выбрать уровень
Оракул — граница, а не политика; на практике доступны самовыбор и лестница
18. Лестница дешевле не для всех
Terminal‑Bench 2.1: счёт API лестницы относительно высшего уровня
19. Дело не только во второй попытке
DeepSWE v1.1, 113 задач: повтор на том же уровне против лестницы
20. Ожидание стоит дороже токенов
Полная цена = счёт API + время генерации по средней ставке $33,54 в час
21. Контрпример: xHigh окупился
Claude Opus 4.7 в Claude Code: одно приложение, по 18 прогонов на уровень
22. Усилие — не единственный рычаг
Принцип «сначала дёшево, дороже по сигналу» — для ходов и моделей
23. Один прогон на задачу ограничивает выводы
Четыре ограничения из текста статьи и одно замечание ведущего
24. Начинайте с низшего уровня рассуждений
Порядок работы с уровнем усилия — мнение ведущего по статье