AI-native: понимание не делегируется

Литвинов представляется так: больше тринадцати лет в разработке, по бигтеховским меркам principal-инженер, годы вокруг сначала ML, потом LLM; был и менеджерский заход — отдел больше ста инженеров и инженерная стратегия директорского уровня. Первый крупный заход — Lyft, где он занимался безопасностью поездок: миллиард поездок в год, а модели он пробовал на пулреквестах и в собственной разработке; копипастить в чат он начал ещё в 2022-м, на GPT-3.5, и очень в это верил. Книга выросла из заметок в Notion: надоело как попугаю повторять одно и то же на митапах и обучениях, а собранной системы не было ни на английском, ни тем более на русском. Планировал сотню-полторы страниц — вышло, по его словам, около 650: уроки, переиспользуемые паттерны и разбор существующих методологий. Александр в фидбеке называл книгу сложной и предложил метафору: есть мануал для водителя, а есть книга для механика, который хочет перебрать движок, — это вторая.

Каркас разговора — лестница из девяти уровней; Александр вспоминает её как уровни зрелости взаимодействия с моделями, точного названия не помнит. Снизу вверх: пишем код сами, бесплатные чаты, платные, CLI-агент в репозитории с бесконечными approve, полный доступ, параллельные агенты в разных терминалах, команда агентов с ролями, памятью и общими точками синхронизации, а выше — оркестрация и экосистема. Лестница не придумана, а списана с того, как люди обычно движутся. Барьер на каждой ступени психологический: на прошлой неделе собеседник Литвинова признался, что нажимал подтверждение раз полтораста и, кажется, затёр кнопку. Александр добавляет, что дело не только в доверии: безопасность может разрешить агента, но запретить режим без подтверждений, — а люди, по его словам, хорошо тренируются и через какое-то время просто привыкают тыкать кнопку; Литвинов подхватывает: внимание замыливается, и человек тапает её, как хомяка. Зрелых оркестраторов Литвинов пока не видит, да и стоит такой контур на нынешних моделях десятки тысяч долларов.

Верхний, экосистемный уровень управляется, по Литвинову, только принципами — смысловыми инвариантами; объясняет он это через доменный язык из DDD: эксперт формулирует задачу так, что попадает в нужные зоны смыслового пространства модели, и знакомый юрист с первого раза получит от чата ответ лучше вашего, даже если вы умеете промптить. Александр подхватывает: примерно об этом июньское исследование Anthropic про устойчивую отдачу от экспертизы — чем глубже экспертиза в самой задаче, тем успешнее сессия и тем больше шагов агент делает до вмешательства человека; правда, классификаторы экспертизы и успеха обучены на одних данных и могут оказаться коллинеарными. Литвинов честно оговаривается, что часть утверждений книги — его личное знание без доказательств. А чтобы безопасно включить полный доступ, он предлагает различать инженерную задачу и творческую, задать минимальное ожидаемое изменение и запреты, а границы вынести наружу: права, шелл, sandbox и история в Git ограничат ущерб, даже если агент считает себя свободным.

Verification debt — долг проверки и понимания того, что изменилось. Пулреквест на тысячу строк теперь пишет кто угодно, включая джуна, а разбираться в нём вдумчиво — час, а то и больше; всё это ложится на синьора, который стоит живым щитом между системой и багами. Проблема теневая: ответственные тратят время не на доменную экспертизу, а на подглядывание за чужим кодом, поэтому Литвинов первым делом просит CTO измерить, сколько задача висит в колонке ревью, — время по колонкам трекают далеко не все. Лечится это не чтением diff, а пакетом доказательств: поведенческим, чаще визуальным изменением. Простейший пример — кнопка YouTube была красной, стала синей: два скриншота, на iPhone, на Android, на планшете. Пока это делается криво поверх Git, часть энтерпрайзов вообще сидит на SVN или Mercurial, а ревьюером в кровавом домене оказывается бухгалтер или юрист.

Дальше по цепочке — потеря понимания: не верифицировал, код не читаешь, когнитивно сдаёшься и просто крутишь цикл, пока не выяснится, что он сжёг, условно, десять тысяч долларов, а система не работает. Отсюда закон Литвинова: делегировать можно, что и как делается, но понимание делегировать невозможно. Мультиагентность он называет машиной времени — она ускоряет и хорошую траекторию, и разложение, поэтому сначала нужен уверенно замкнутый цикл на одном агенте: цель, критерии выхода, feedforward в виде правил и архитектурных описаний, feedback в виде хуков и тестов перед коммитом, то есть механизмов, живущих снаружи агента. Ультрарежимы в Claude и Codex он считает опасными: в 99% случаев они не помогают, а тот, кто снёс бы себе базу за год, снесёт её за месяц, когда агентов у него в двенадцать раз больше. И чужую организацию агентов не скопируешь — как не повторишь Uber, не построив компанию на шестьдесят тысяч человек.

Последняя треть — про людей, и претензий к индустрии у Литвинова две: увольнения и собеседования. Нанимали же потому, что не хватало рук на продукты, — значит, берите бесконечный бэклог, иначе будет деградация. Александр уточняет, что эффект распределён неравномерно: передовые лаборатории говорят о замене разработчиков и продолжают нанимать, потому что им есть куда девать пропускную способность, а там, где продукт стал дойной коровой с убывающей отдачей от фич или вовсе умирает, а бэклог на пять лет выдуман продактом, внедрение читается как cost cutting. В банке, где он работает, команда за неделю собрала сервис, показывающий по транзакциям, где можно заправиться нужным бензином, выкатила его на сотрудников, а на второй неделе на пользователей и получила, по его словам, около 400 тысяч DAU. Оба соглашаются, что менять пора и собеседование: вместо кубиков и вопросов про BigDecimal — живая работа над brownfield-задачей вместе с агентом. В финале — анонс пятничного разговора про агентов, работающих с пользователями.