Anthropic и параллели с книгой «Empire of AI» про OpenAI: как лаборатория становится институтом (Рубрика AI)

Посмотрел расширенное интервью Эмили Чанг с Дарио Амодеи для Bloomberg The Circuit, опубликованное 17 июня 2026 года. За последние месяцы я разбирал большие AI-лаборатории с разных сторон: Google - через агентные рабочие процессы, запрещенную в России Meta - через world models (их драйвил Ян Лекун, что уже покинул компанию), Thinking Machines - через интерактивные большие модели. А в посте про книгу Karen Hao «Empire of AI» смотрел на OpenAI как на организацию, где исследования, продукт, безопасность, compute, капитал и власть постоянно тянут в разные стороны.

В моей голове это интервью Дарио для Bloomberg связывает эти сюжеты воедино - Anthropic уже трудно описывать просто как лабораторию, которая обучает Claude. Это частный институт: он выбирает бизнес-модель, правила выпуска моделей и границы работы с государством, одновременно пытаясь ограничить собственную власть. Амодеи объясняет уход из OpenAI не только разногласиями по безопасности, но и потерей доверия. Это его сторона истории, но она объясняет внимание Anthropic к институциональному устройству компании.

В интервью видны четыре слоя этой конструкции.

1️⃣ Бизнес-модель Anthropic делает ставку на корпоративный рынок и платные подписки, а не на рекламу и максимизацию вовлечённости. Логика Амодеи проста: если способ зарабатывать конфликтует с ценностями, компания со временем предаст либо ценности, либо рынок. Это не снимает конфликтов, но меняет систему стимулов.

2️⃣ Культура Амодеи противопоставляет Anthropic организациям, расколотым на конкурирующие группы. Он говорит, что тратит примерно половину времени на объяснение культуры новым сотрудникам: при быстром найме из Big Tech люди иначе воспроизводят привычные способы работы. Культура не масштабируется автоматически вместе с числом сотрудников.

3️⃣ Управление Anthropic - это Public Benefit Corporation, а Long-Term Benefit Trust может назначать и снимать директоров. По сообщению компании, с 14 апреля 2026 года назначенные трастом директора составляют большинство совета. У структуры, члены которой не владеют долей Anthropic, есть косвенная возможность сменить CEO. Это уже не формулировка миссии, а право в контуре управления. Но сама Anthropic называет LTBT экспериментом, поэтому его качество проверится только в конфликте интересов.

4️⃣ Границы применения В споре с Пентагоном Anthropic поддерживала использование Claude для национальной безопасности, но оставила две красные линии: массовую внутреннюю слежку и полностью автономное оружие. Mythos компания сначала дала защитникам через Project Glasswing. Результат в 271 найденную и исправленную уязвимость Firefox - данные Anthropic и её партнёров, а не независимый аудит. Но сам механизм важен: доступ к модели становится частью безопасности.

И здесь начинается самая неприятная часть разговора. Частная компания фактически участвует в решениях о том, кто получит мощную кибермодель, где проходит граница допустимого военного применения и какие риски для занятости должно учитывать государство. Это уже не только продуктовая политика.

Амодеи сам признаёт проблему: AI стала первой технологией такого масштаба, которую построил частный сектор, пока государство подключилось поздно. Он называет ситуацию опасной и нестабильной и предлагает систему сдержек: траст внутри компании, обязательные проверки моделей перед выпуском, законодательный и судебный контроль, а также взаимные ограничения государства и лабораторий.

Здесь интервью рифмуется с «Empire of AI». В книге Karen Hao OpenAI почти разрывает напряжение между Applied, Research и Safety, усиленное деньгами, инфраструктурой и персональной властью. В книге показывается как Safety клан почти полным составом встает и уходит основывать Anthropic, в которой они предлагают другой ответ: единая культура, корпоративная модель, отдельный траст, формальные красные линии и постепенный выпуск опасных возможностей.

Но и Anthropic в итоге не вышла из той системы, которую описывает Hao. Ей всё так же нужны огромный compute, деньги и партнёрства с Amazon, Google и другими инфраструктурными игроками. Она конкурирует за лидерство, продаёт продукт и одновременно просит общество доверить ей оценку рисков. Разница не в отсутствии противоречий, а в том, какие механизмы компания построила, чтобы эти противоречия не решались только волей основателя.

Поэтому интервью стоит читать как позицию CEO, а не как доказательство особой добродетели Anthropic. Настоящий тест - сохранит ли компания ограничения ценой лидерства; сможет ли траст остановить менеджмент; появится ли внешний контроль, не зависящий от серьёзности Амодеи.

В итоге, мы видим как в больших AI-лабораториях отрабатывает закон Конвея и организационная архитектура становится частью архитектуры продукта. А декларируемые ценности работают, только когда превращены в права управления, контракты, критерии выпуска, проверки качества (evals) и понятные запреты. Иначе это просто хорошая речь руководителя.

«Empire of AI» задавала вопрос, что происходит, когда лаборатория превращается в империю. Anthropic пытается ответить: такую лабораторию нужно превратить в институт со своей системой сдержек. Получится ли - пока открытый вопрос.

#AI #Anthropic #Research #Management #Architecture #Governance