Как сообщает The Guardian Физик и один из основателей современных технологий искусственного интеллекта Джеффри Хинтон заявляет о возросшей вероятности уничтожения человечества вследствие развития ИИ в ближайшие три десятилетия, которая теперь оценивается в 20%. Это заявление он сделал в интервью на радио BBC Radio 4 в программе «Today», где подчеркнул, что скорость прогресса в сфере ИИ значительно превышает его ожидания, а возможности новых систем уже приближаются к уровню, превосходящему человеческий интеллект. Хинтон напомнил о важности регулирования данной технологии, чтобы предотвратить потенциальные угрозы.
Ранее Хинтон указывал на 10%-ную вероятность негативных последствий от использования ИИ, однако теперь он увеличил этот показатель вдвое из-за ускорения разработки и появления "плохих игроков", которые могут использовать ИИ в неблагих целях. Он сравнил уровень развития человека с уровнем трехлетнего ребенка по отношению к более мощным ИИ-системам.
Хинтон также выразил опасения относительно того, что частные компании, движимые исключительно прибыльностью, могут игнорировать важнейшие аспекты безопасности при разработке ИИ. "Меня беспокоит, что невидимая рука рынка не сможет обеспечить безопасность", - отметил ученый, добавив, что единственное решение этой проблемы - государственное регулирование.
Эти комментарии прозвучали спустя год после его ухода из Google, где он работал над развитием ИИ. Уход стал следствием его желания открыто обсуждать риски неконтролируемого развития технологий. В 2024 году Хинтон был удостоен Нобелевской премии по физике за свои достижения в области ИИ, что подчеркивает его значимость в этой области.
В заключение, Хинтон настоятельно призывает к международному регулированию, чтобы избежать возможных негативных последствий от применения ИИ, подчеркивая, что безопасность не должна оставаться на усмотрение крупных компаний.
На сегодняшний день Хинтон является одним из самых влиятельных голосов в области искусственного интеллекта. Его недавние предсказания об увеличении вероятности угрозы от ИИ до 20% подчеркивают необходимость строгого регулирования технологий, чтобы избежать катастрофических последствий. В его взглядах также отражается опасение, что частные компании могут пренебречь вопросами безопасности ради прибыли.
