[1/2] Organizing Intelligence: экономика координации (Рубрика #AI)

В свежем эссе от 29 октября "The Economics of Intelligence: How and when does AGI lead to economic transformation?" и статье "Organizing Intelligence" меня заинтересовал вопрос: как меняется экономика, когда интеллект можно копировать? Отдельно отмечу, что эссе читать легко, но самая мякотка в whitepaper, который я просмотрел, но пока целиком не прочитал.

Исследователи из Google DeepMind рассматривают фирмы, которые выбирают сочетание людей и AI. Человеческая экспертиза в модели ограничена, копии AI арендуются по цене вычислений. Это теоретическая модель; сценарии зависят от её допущений.

У людей разные сильные стороны. Организация собирает из них «мозаичный интеллект», поэтому команда специалистов может сохранять преимущество перед AI, превосходящим среднего человека. Копии одной модели воспроизводят и её слабости.

Авторы разделяют две способности: 1) Компетентность повышает выпуск при заданном размере фирмы 2) Координация определяет, как выпуск масштабируется при добавлении участников.

В общей модели на больших масштабах выпуск имеет вид F(m) ≈ A × m^γ при неизменном составе способностей. Порог supercooperative — γ > 1: выпуск на участника растёт с масштабом. В достаточно ёмком рынке это может дать преимущество крупным AI-организациям. Нишевый спрос ограничивает пользу такого роста.

В самом эссе авторы описывают четыре режима: 1) Minimal AGI — сопоставим со средним человеком. 2) Supercompetent AI — превосходит людей в предметных задачах, но координация ещё ограничивает масштаб. 3) Supercooperative AI — пересекает порог масштаба без превосходства по всем предметным навыкам. 4) ASI — объединяет оба преимущества (Supercompetent + Supercooperative).

Сверхчеловеческое выполнение отдельных задач ещё допускает экономику множества небольших фирм; улучшение координации способно изменить саму структуру рынка.

Отдельный результат статьи — зарплата меняется и из-за технологии, и из-за реорганизации фирм. Второй эффект может развернуть первый. Личная производительность сама по себе не определяет заработок.

Для измерения авторы предлагают проверять масштабирование одинаковых копий при фиксированных вычислениях на копию, а поколения систем сравнивать также при одинаковом общем бюджете. Универсального измеренного коэффициента координации современных систем статья не устанавливает.

Здесь я бы особенно следил за тем, что названо результатом. Если восемь агентов подготовили вдвое больше изменений, но их интеграция потребовала втрое больше времени, счётчик выполненных задач покажет очень убедительный успех. Проверять стоило бы принятый результат вместе со стоимостью согласования, исправлений и человеческого внимания.

Дальше интересно перенести этот вопрос на AI-native компанию: как она будет принимать решения и доводить их до последствий, когда исполнителей можно добавлять гораздо быстрее, чем руководителей? И про это я расскажу во втором посте

#AI #Research #Agents #Management #Metrics