Ученые планеты против оружия с искусственным интеллектом. Письмо с призывом отказаться от создания автономных боевых систем подписали тысячи специалистов. Все они опасаются, что такая техника неизбежно попадет на черный рынок, а значит и в руки террористов.
20 лет. Максимум. Вероятно, и гораздо быстрее. Именно столько времени, говорят ученые, уйдет на разработку военных автоматизированных систем. Роботов-убийц с искусственным интеллектом способных самостоятельно принимать решения. Усилия по созданию мыслящих машин приведут к тому, что само существование человечества окажется под угрозой, уверены более тысячи IT-ученых, подписавших открытое письмо. Среди подписавшихся — основатель и гендиректор Tesla Элон Маск и сооснователь Apple Стив Возняк, а также известный ученый Стивен Хокинг. Он уже не раз говорил, что появление полноценного искусственного интеллекта может стать началом конца: "Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем".
Автономное оружие, — уверены авторы письма, — выбирает цели без участия человека, и в будущем это может привести к непоправимым последствиям для всей нашей планеты. Восстание роботов, популярный сюжет фантастических голливудских блокбастеров, принимает черты реальности. Разработку боевых роботов может стать военным технологическим прорывом. Революцией, которая навсегда поменяет правила игры. Как до этого было после изобретения пороха, а потом и ядерного оружия.
"Думаю надо быть очень осторожным с искусственным интеллектом, — говорит Илон Маск, — в будущем я вижу в этом одну из главных угроз. Мы должны быть очень осторожны и необходимо принять меры, чтобы четко регламентировать эту сферу деятельности".
Идея создания роботов-убийц, естественно, поддерживают военные. Это поможет уберечь солдат и дать преимущество перед противником. Штаты уже сегодня активно используют дроны по всему миру. Управляют ими специалисты, находясь за тысячи километров от зон боевых действий. Оператор просто задает машине установки. Затем техника действует в автономном режиме и может самостоятельно выбирать цели среди людей в воздухе, на земле или в воде. Контроль за роботом уже сейчас фактически условный. Не говоря уже о хакерах, которые могут подключиться к компьютеру и перепрограмировать искусственный интеллект. Но одно, дело — когда кто-то управляет вашим компьютером или телевизором, а другое — когда в руках террористов окажется высокотехнологичное оружие.
Случаи, когда роботы выходили из под контроля сегодня уже не редкость. Совсем недавно в Германии на автомобильном заводе робот сборочной линии убил рабочего, который в тот момент пытался его починить. Примечательно, что новость первой сообщила журналистка Financial Times Сара О'Коннор — практически тёзка героини известного фильма о войне людей и машин. Стоит ли человечеству ждать "восстания машин" — вопрос времени. Но если это произойдет, "Судный день" неминуем.
