Британско-канадский учёный в области компьютерных наук, часто называемый "крестным отцом" искусственного интеллекта, увеличил вероятность того, что AI уничтожит человечество в ближайшие три десятилетия, отметив, что развитие технологий идет "значительно быстрее", чем ожидалось".
Профессор Джеффри Хинтон, удостоенный в этом году Нобелевской премии по физике за достижения в области искусственного интеллекта, оценил вероятность того, что AI может привести к вымиранию человечества в течение следующего тридцатилетия, как "от 10% до 20%".
Ранее Хинтон предполагал 10-процентную вероятность катастрофических последствий от AI для человечества. На вопрос в программе "Today" на BBC Radio 4 о том, изменился ли его прогноз относительно апокалипсиса, вызванного AI, Хинтон ответил: "Не совсем, от 10% до 20%".
"Во всяком случае. Мы никогда раньше не сталкивались с чем-то более разумным, чем мы сами". Он добавил: "Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример".
Уроженец Лондона Хинтон, почётный профессор Университета Торонто, сравнил людей с малышами по сравнению с очень мощными системами AI.
"Мне нравится думать об этом так: представьте себя и трёхлетнего ребёнка. Мы будем трёхлетними детьми", - сказал он.
В прошлом году Хинтон уволился из Google, чтобы более открыто обсуждать риски, связанные с неограниченным развитием AI, опасаясь, что "злоумышленники" могут использовать эту технологию во вред. Основная проблема заключается в том, что создание AGI, которое может стать умнее людей, будет экзистенциальной угрозой, ускользнув из-под контроля.
Размышляя о развитии AI, когда он начинал свою работу, Хинтон отметил, что не ожидал столь быстрого прогресса. "Ситуация такова, что большинство экспертов считают, что в ближайшие 20 лет мы создадим AI, который будет умнее людей. И это очень пугающая мысль".
Хинтон подчеркнул, что развитие происходит "очень быстро" и призвал к государственному регулированию технологий.
"Меня беспокоит, что невидимая рука не обеспечит нашу безопасность. Стремление к прибыли крупных компаний недостаточно для безопасной разработки, - сказал он. - Государственное регулирование - единственный способ заставить компании исследовать безопасность".
Хинтон - один из трёх "крестных отцов AI", получивших премию ACM AM Turing, эквивалент Нобелевской премии в компьютерных науках. Однако его коллега Янн Лекун, главный специалист по AI в Meta, преуменьшает угрозу и считает, что AI может "спасти человечество от вымирания".
