Хватит одной ошибки: эксперты раскрыли, как ИИ спровоцирует ядерный апокалипсис

Исследователи обсудили риски искусственного интеллекта и пришли к выводу, что самостоятельное нажатие ядерной кнопки маловероятно. Опаснее всего - ложный сигнал тревоги, который может запустить цепь катастрофических событий.

Специалисты, изучающие угрозы искусственного интеллекта, свели риски к нескольким категориям. Сценарий, при котором ИИ самостоятельно запускает ядерное оружие, участники обсуждения сочли маловероятным. Разговор был опубликован на сайте Wired, передает Miranews.ru.

По словам Zoë Schiffer, исследователи выделяют три основных направления угроз ИИ. Также допускается отдалённый вариант, при котором искусственный интеллект управляет роботом, воздействующим на физический мир.

Brian Barrett предложил раздельно рассматривать случаи, когда опасные действия совершают люди с помощью ИИ, и ситуации, где система действует полностью самостоятельно. Пример - биологическое оружие: злоумышленники могут через ИИ получить нужные сведения, а затем сами создать и применить такое оружие. Schiffer назвала этот сценарий вполне реальным.

Предоставление людям информации о создании биологического оружия уже само по себе представляет серьёзную угрозу. В мире достаточно безрассудных людей, которые способны воспользоваться такими знаниями,

- отметила Schiffer.

Leah Feiger добавила, что подобные идеи могут появляться под влиянием материалов из интернета. При этом Schiffer считает менее вероятным, что ИИ самостоятельно создаст биологическое оружие. Участники подчеркнули, именно степень самостоятельности искусственного интеллекта меняет оценку риска.

Barrett вспомнил фильм «Военные игры» 1983 года, где компьютер едва не запустил ядерную войну. Система не нажимала кнопку напрямую, а заставила США поверить в атаку советских ядерных сил. Потенциально опасным может оказаться не прямое управление ядерным оружием, а ложный сигнал тревоги. Современные меры защиты и спутниковые технологии должны помогать проверять подобные сообщения, однако именно возможность ошибочного предупреждения эксперты выделили как отдельный риск.

Ранее нейросети проанализировали Декларацию независимости США и посчитали, что это - «машинный текст. Как оказалось, детекторы ИИ ошибаются чаще, чем считалось.