The ‘godfather of AI’ reveals the only way humanity can survive superintelligent AI (Рубрика AI)

Джеффри Хинтон, лауреат Нобелевской премии, последние два года активно говорит про риски AI. И вот в августе он выступил на конференции Ai4 в Лас-Вегасе с радикальным предложением по обеспечению безопасности искусственного интеллекта. Он предлагает встроить в ИИ-системы "материнские инстинкты", чтобы они заботились о людях, даже став сверхразумными. Мне показались разумными его предупреждения и я решил глянуть, а когда из техно-оптимиста, развивающего технологии он поменял концепт. Если говорить про хронологию последних лет, то она выглядела так

• До 2023 он говорил про AGI как отдаленную перспективу (30-50 лет)
• В марте 2023 заявил, что AGI может появиться менее чем через 20 лет
• В мае 2023 покинул Google для открытого обсуждения рисков ИИ (после 10 лет в компании)
• В 2024-2025 он усилил предупреждения и предложил концепцию "материнских инстинктов"

Собственно, его ключевые предупреждения звучат так

• Существует риск вымирания человечества, где 10-20% вероятность того, что ИИ уничтожит человечество
• Сверхразумный ИИ может появиться через 5-20 лет (ранее прогнозы были консервативнымии)
• Текущие попытки "techno bros" держать ИИ в подчинении обречены на провал, поскольку ИИ будет намного умнее людей

Но у Джеффри есть концепция об использовании модели "мать-ребенок" - единственный известный пример контроля менее разумного существа над более разумным. Он считает, что ИИ с "материнскими инстинктами" не захочет избавляться от этого качества, поскольку не будет желать смерти людей.

#AI #Engineering #Science #Software