2025 LLM Year in Review by Karpathy (Рубрика AI)

Интересное ревью 2025 года от Андрей Карпаты, где он говорит про сдвиги парадигмы, которые поменяли ландшафт LLM

1️⃣ Reinforcement Learning from Verifiable Rewards (RLVR). К классическому стеку (pretrain → SFT → RLHF) добавился большой этап reinforcement learning по "проверяемым" наградам (математика/код-паззлы). Длиннее RL-прогоны → лучше capability/$, плюс появился рычаг test-time compute ("пусть модель думает дольше"). 2️⃣ Ghosts vs. Animals / Jagged Intelligence. LLM — это скорее "призраки", а не "животные". В одном месте гений, в другом — легко ломается/джейлбрейкается. Отсюда скепсис к бенчмаркам: их всё проще "обучить до смерти". 3️⃣ Cursor / new layer of LLM apps. Cursor можно воспринимать как шаблон LLM-app: отдельный слой продуктов = context engineering + оркестрация вызовов (DAG) + UI для human-in-the-loop + 🎛 autonomy slider. Отсюда появилась фраза про создание "Cursor for X". 4️⃣ Claude Code / AI that lives on your computer. Агент должен "жить" на твоей машине рядом с реальной средой (конфиги, секреты, данные, низкая латентность), а не в абстрактных облачных контейнерах. 5️⃣ Vibe coding. Интересно слышать тезисы от создателя термина vibe coding - по его мнению, порог пройден и теперь можно собирать рабочие штуки, используя самый распространенный язык программирования (||английский||). Код становится дешёвым, одноразовым и пластичным (хоть ради одного прогона). 6️⃣ Nano banana / LLM GUI. Чат — это консоль 80-х. Следующий UX — визуальные артефакты (слайды, схемы, whiteboard, web-app’ы). “Nano banana” у Google — ранний намёк на направление.

А вообще, я рекомендую прочитать эти тезисы в оригинале, благо он очень короткий.

#AI #ML #Trends #Software #Engineering #Future