The Gentle Singularity (Рубрика AI)
Пару месяцев назад Сэм Альтман написал эссе "Мягкая сингулярность", в которой поделился своим видением «мягкой» технологической революции (забавно, что фраза мягкая революция - это прямо оксюморон). Сэм считает, что человечество уже миновало точку невозврата в развитии искусственного интеллекта и набрало вторую космическую скорость. Но концепция Сэма отличается от условных апокаполиптичных сценариев, которые описывает условный Джеффри Хинтон (про позицию которого я уже рассказывал).
Если кратко, то Сэм делает такое предсказание относительно эволюции возможностей в следующие три года
- 2025 год - агенты, способные выполнять настоящую когнитивную работу (написание кода), которые уже кардинально изменили программирование
- 2026 год - системы, способные находить новые идеи и генерировать научные открытия
- 2027 год - роботы, способные выполнять задачи в реальном мире
В итоге, ключевая идея этого эссе в том, что сингулярность происходит постепенно, без драматических потрясений. Сэм описывает этот процесс как плавную кривую, где «чудеса становятся рутиной, а затем ставками на стол». Люди удивительно быстро адаптируются к новым возможностям: от восхищения способностью ИИ генерировать параграф до ожидания создания целых романов. Но эти технологические возможности не приходят одни - за ними тянутся экономические трансформации. Сэм предсказывает радикальные изменения в экономической структуре, где к 2030-м годам интеллект и энергия станут изобильными ресурсами, что устранит два фундаментальных ограничителя человеческого прогресса. Стоимость интеллекта в итоге приблизится к стоимости электричества благодаря автоматизации производства. За экономикой подтянется и социальная сфера, но в отличие от негативных сценариев Сэм рисует утопическую картину будущего, где технологии освободят человека от рутинной работы. Он проводит историческую параллель: средневековый фермер счел бы современные профессии «фальшивыми», точно так же через тысячу лет наши потомки будут удивляться нашим занятиям.
В общем и целом, Сэм в этом эссе выступает как техно-оптимист, но он затрагивает ряд очень важных проблем
- Проблему alignment, а точнее необходимость гарантировать, что ИИ будет служить долгосрочным человеческим ценностям
- Распределение доступа к AGI - важно обеспечить широкий доступ к сверхинтеллекту, а не концентрацию его в одних руках
- Социальный договор - важно коллективно определить границы применения ИИ
В общем, мне эссе скорее понравилось, но я вижу разрыв между утопией Сэма и текущим тактическим положением вещей, где "Business Insider" пишет об упадке мега-работадателей и нехватке мест для белых воротничков (подробнее я разбирал здесь). В итоге, эта концепция «мягкой сингулярности» сталкивается с жесткой реальностью корпоративной оптимизации. Хотя долгосрочные перспективы могут быть позитивными, переходный период создает серьезные социальные напряжения. Я думаю, что ключевым воозовом является организация перехода к AI экономике - а точнее как сделать этот процесс справедливым и управляемым, обеспечив не только технологические прорывы, но и социальную стабильность.
#AI #Software #Economics #Engineering #ML #Management #Leadership