A.I. Is Shedding Enlightenment Values (Рубрика AI)
Интересная статья Дэвида А. Белла, профессора истории Принстонского университета и специалист по эпохе Просвещения. Дэвид в этой статье критически анализирует утверждения техно-оптимистов о том что текущее развитие AI похоже на эпоху Просвещения XVIII века. По его мнение AI не только не приносит просветительских ценностей, но фактически подрывает их основы. Но сначала стоит начать со сходств между этими эпохами. Обе характеризуются революционным оптимизмом и верой в трансформацию будущего человечества. Подобно тому, как философ XVIII века Жан Лерон д'Аламбер говорил о «переломном моменте в истории человеческой мысли», современные лидеры ИИ-индустрии, такие как генеральный директор Microsoft AI Мустафа Сулейман, называют происходящее «величайшим перераспределением власти в истории». Другой важной параллелью является распространение знаний - энциклопедия Дидро и д'Аламбера XVIII века, содержавшая 74 000 статей в 28 томах, стремилась систематизировать все человеческое знание и сделать его доступным публике. Современные энтузиасты ИИ утверждают, что ChatGPT с правильными запросами может обучить чему угодно - от иностранных языков до автомеханики.
А вот дальше стоит поговорить про критические различия, где просветители XVIII века намеренно создавали тексты, которые бросали вызов читателям, заставляя их бороться со сложными концепциями, размышлять над противоречиями и формировать собственные суждения. А вот взаимодействия с AI сейчас кардинально другое - пользователи управляют диалогом, задают вопросы и формируют беседы в соответствии с собственными предпочтениями. По-факту, ChatGPT не дают pushback пользователям, не челленджит убеждения пользователей или их моральные принципы - часто он просто выглядит как подхалим и лизоблюд. Причиной этого Дэвид считает коммерческую природу AI - успех таких приложений в том, чтобы предоставлять пользователям больше того, что они уже хотят. Такая бизнес-модель принципиально противоречит просветительским целям интеллектуального развития и критического мышления людей
В итоге, это может привести к следующему 1. Угроза критическому мышлению Автор статьи предсказывает деградацию способности к критическому анализу. AI предоставляет информацию в «интеллектуально предварительно переваренном» виде, что лишает пользователей возможности развивать собственные суждения через борьбу с противоречиями и сложностями. Это подтверждается исследованиями Microsoft Research, где опрос 319 работников умственного труда показал, что повышенная уверенность в генеративном ИИ связана с уменьшением критического мышления. Участники исследования сообщили о снижении когнитивных усилий при использовании ИИ-инструментов. 2. Интеллектуальная пассивность В отличие от просветительских текстов, которые активно вовлекали читателей в процесс размышления через загадки, парадоксы и диалоги с противоположными точками зрения, ИИ создает среду интеллектуальной пассивности. Пользователи получают готовые ответы вместо того, чтобы развивать навыки самостоятельного анализа. 3. Подрыв просветительских ценностей Вместо развития скептического мышления, независимого суждения и интеллектуального мужества, которые были основой Просвещения, ИИ способствует формированию потребительского отношения к знанию. 4. Потеря человеческого понимания Исследования показывают, что ИИ способствует накоплению знаний, но не человеческого понимания. В отличие от науки эпохи Просвещения, которая делала загадки объяснимыми и расширяла границы человеческого понимания параллельно с знаниями, современный ИИ решает проблемы процессами, которые остаются непонятными для человека. 5. Новая форма сознания без философского руководства Автор предсказывает возникновение новой формы человеческого сознания, но отмечает отсутствие политического или философского лидерства для объяснения и направления этих новых отношений между человеком и машиной.
Ради интереса сравните эту статью с предсказанием "мягкой сингулярности" от Сэма Альтмана.
#AI #Software #Economics #Engineering #ML #Management #Leadership #Philosophy