К основному содержимому
Research Insights Made Simple
Разбор исследованияResearch Insights Made Simple

Какой уровень усилия покупать агенту?

Что теряет высокий уровень усилия и когда хватает низшего

/ Research Insights Made Simple · Обвязки агентов 13/24 · Уровень усилия

Содержание слайдов

  1. 1. Какой уровень усилия покупать агенту?

    Что теряет высокий уровень усилия и когда хватает низшего

  2. 2. Лестница не хуже высшего уровня

    Terminal‑Bench 2.1: старт с низшего уровня, повтор на высшем после проверенной неудачи

  3. 3. Три находки и одно правило

    Восемь моделей, четыре набора задач, один вопрос: какой уровень покупать

  4. 4. Одна настройка уже меняла результат

    Спутник выпуска №46: MLEvolve на среднем уровне вместо максимального

  5. 5. Уровень усилия покупают вслепую

    Доверительное благо: исход виден, а нужна ли была покупка — нет

  6. 6. Одна шкала, разные наборы уровней

    Набор уровней зависит от модели; задачи, промпты и обвязка фиксированы

  7. 7. Сравнивайте множества, а не проценты

    Inkling на GPQA, low → medium: чистый прирост +16 скрывает пять потерь

  8. 8. Даже среднее растёт не всегда

    Terminal‑Bench 2.1, 89 задач: доля решённых по уровням усилия, %

  9. 9. Высокий уровень теряет решённые задачи

    GPT‑5.6‑sol на Terminal‑Bench, high → xhigh: +5 новых, −8 потерянных

  10. 10. Четыре прогона развороты не убирают

    DeepSWE v1.1: 113 задач, по четыре прогона на каждый уровень усилия

  11. 11. Простая задача дорожает в разы

    Цена задач, решаемых на любом уровне: xhigh относительно low

  12. 12. Дорожают и вызов, и траектория

    GPT‑5.6‑sol на SWE‑Bench Pro: $0,27 → $1,24 за задачу, 14,7 → 28,4 вызова

  13. 13. Без рассуждений — не значит дешевле

    GPT‑5.6‑luna на задачах, решаемых на любом уровне: none против low

  14. 14. Высокий уровень чаще ищет ответ

    GPT‑5.6‑sol на SWE‑Bench Pro, 44 задачи: исходная и исправленная среда

  15. 15. В исправленной среде падают все восемь

    Высший уровень каждой модели, те же 44 задачи в двух средах

  16. 16. Проверок больше, исход тот же

    Claude Sonnet 5 на Terminal‑Bench: проверочных действий на задачу

  17. 17. Три способа выбрать уровень

    Оракул — граница, а не политика; на практике доступны самовыбор и лестница

  18. 18. Лестница дешевле не для всех

    Terminal‑Bench 2.1: счёт API лестницы относительно высшего уровня

  19. 19. Дело не только во второй попытке

    DeepSWE v1.1, 113 задач: повтор на том же уровне против лестницы

  20. 20. Ожидание стоит дороже токенов

    Полная цена = счёт API + время генерации по средней ставке $33,54 в час

  21. 21. Контрпример: xHigh окупился

    Claude Opus 4.7 в Claude Code: одно приложение, по 18 прогонов на уровень

  22. 22. Усилие — не единственный рычаг

    Принцип «сначала дёшево, дороже по сигналу» — для ходов и моделей

  23. 23. Один прогон на задачу ограничивает выводы

    Четыре ограничения из текста статьи и одно замечание ведущего

  24. 24. Начинайте с низшего уровня рассуждений

    Порядок работы с уровнем усилия — мнение ведущего по статье