Andrej Karpathy: Software Is Changing (Again) (Рубрика AI)

Посмотрел утром очень интересное и свежеее выступление Andrej Karpathy, одного из основателей OpenAI (2015-2017), директора по ИИ в Tesla (2017-2022). Андрей поделился концепцией Software 3.0 и рассказал про предыдущие этапы развития софтостроения, а также сделал предсказания о том, что ждет нас дальше. Выступление состоялось 16-17 июня 2025 года на первой в истории AI Startup School от Y Combinator в Сан-Франциско. Это было масштабное мероприятие, собравшее 2500 лучших студентов и стартаперов из области компьютерных наук и ИИ. В числе других спикеров выступили Elon Musk, Sam Altman, Andrew Ng и другие лидеры AI-индустрии. Ну а теперь к ключевым идеям выступления.

Эры software Андрей выделил три эры разработки софта

• Software 1.0 - это традиционный код, написанный программистами
• Software 2.0 - это нейронные сети и их веса
• Software 3.0 - это промпты на английском языке как программы для LLM В софте 3.0 случилась революция - мы теперь программируем компьютеры на английском языке. Это делает программирование доступным каждому, кто владеет естественным языком ||(кажется в 1С эта революция давно произошла, только там программировали на русском|| ||✌️||)

LLM как новая операционная система Андрей провел интересную параллель между LLM и операционными системами

• LLM - это CPU, то есть основной вычислительный блок новой парадигмы
• Контекстное окно - это RAM (рабочая память системы)
• Централизация в облаке - из-за высокой стоимости вычислений, что напоминает эру мейнфреймов
• Разделение времени использования - пакетная обработка запросов пользователей В общем, пока момент PC (personal computers) еще не настал

Психология LLM Андрей поразмышлял о психологии и привел метаформу "people spirits" по отношению к LLM

• Это стохастические симуляции людей, обученные на человеческих данных
• Они обладают энциклопедическими знаниями и сверхчеловеческими способностями в некоторых областях
• Имеют когнитивные нарушения и ошибки, подобно персонажам из фильмов "Человек дождя", "Помни", "50 первых поцелуев"
• Требуют понимания их ограничений для продуктивного сотрудничества

Основные возможности для разработчиков продуктов

1. Продукты с частичной автономией Karpathy подчёркивает важность создания приложений с "ползунком автономности", например, в Cursor можно просто пользоваться автодополнением или попросить агента переписать тебе код. В этом плане для работы и аудита AI системы важен правильный GUI (просто чата скорее всего не достаточно). Важно контролировать избыточную активность AI и держать его на поводке
2. Vibe Coding Karpathy популяризировал термин "vibe coding" — создание приложений через естественные описания без глубокого знания языков программирования. Это приводит к

• Демократизации разработки софта
• Возможности создавать рабочие прототипы за часы вместо недель
• Но приносит сложности с интеграцией и развёртыванием реальных продуктов

3. Создание для агентов LLM становятся новой категорией потребителей цифровой информации наряду с людьми и программами. Это приводит к следующим последствиям

• Необходимо адаптировать документацию для LLM (переход на Markdown)
• Можно заменить мануалы вида "нажмите на кнопку" на мануалы вида сделайте API-вызов
• Распространению инструментов типа MCP от Anthropic или A2A от Google для прямого общения с агентами

Напоследок Андрей дает рекомендации

• Изучайте все три парадигмы: Software 1.0, 2.0 и 3.0 будут сосуществовать
• Фокусируйтесь на частичной автономии: не стройте полностью автономных агентов, а создавайте "костюмы Железного человека"
• Ускоряйте цикл генерация-верификация: используйте GUI для быстрого аудита работы ИИ
• Готовьте инфраструктуру для агентов: делайте ваши продукты доступными для LLM

По словам Андрея, мы находимся в уникальный момент истории программирования — "предстоит переписать огромное количество кода". Это создаёт беспрецедентные возможности для новых разработчиков войти в индустрию и принять участие в создании софта 3.0

#AI #PlatformEngineering #Engineering #Software #Processes #Productivity