Нобелевский лауреат по физике увеличил риск уничтожения человечества ИИ до одного к пяти, причём при жизни этого поколения
Профессор Джеффри Хинтон, удостоенный в этом году Нобелевской премии по физике за достижения в области искусственного интеллекта, оценил вероятность того, что AI может привести к вымиранию человечества в течение следующего тридцатилетия, как «от 10% до 20%».
Ранее Хинтон предполагал 10-процентную вероятность катастрофических последствий от AI для человечества. На вопрос в программе «Today» на BBC Radio 4 о том, изменился ли его прогноз относительно апокалипсиса, вызванного AI, Хинтон ответил: «Не совсем, от 10% до 20%».
«Во всяком случае, мы никогда раньше не сталкивались с чем-то более разумным, чем мы сами».
Он добавил: «Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример».
Уроженец Лондона Хинтон, почётный профессор Университета Торонто, сравнил людей с малышами по сравнению с очень мощными системами AI.
«Мне нравится думать об этом так: представьте себя и трёхлетнего ребёнка. Мы будем трёхлетними детьми», — сказал он.
В прошлом году Хинтон уволился из Google, чтобы более открыто обсуждать риски, связанные с неограниченным развитием AI, опасаясь, что «злоумышленники» могут использовать эту технологию во вред. Основная проблема заключается в том, что создание AGI, которое может стать умнее людей, будет экзистенциальной угрозой, ускользнув из-под контроля.
Размышляя о развитии AI, когда он начинал свою работу, Хинтон отметил, что не ожидал столь быстрого прогресса. «Ситуация такова, что большинство экспертов считают, что в ближайшие 20 лет мы создадим AI, который будет умнее людей. И это очень пугающая мысль».
Хинтон подчеркнул, что развитие происходит «очень быстро» и призвал к государственному регулированию технологий.
«Меня беспокоит, что невидимая рука не обеспечит нашу безопасность. Стремление к прибыли крупных компаний недостаточно для безопасной разработки, — сказал он. — Государственное регулирование — единственный способ заставить компании исследовать безопасность».