Американский военный беспилотник, управляемый искусственным интеллектом, “убил” своего оператора во время имитационного испытания. Никто из реальных людей не пострадал, но ИИ использовал “очень неожиданную тактику” для выполнения своей задачи в ходе испытания и атаковал любых нарушителей.
Беспилотник ВВС США, управляемый искусственным интеллектом, убил своего оператора во время имитационного испытания, организованного американскими военными, чтобы не дать ему помешать выполнению своей миссии, сообщили официальные лица.
ИИ использовал “весьма неожиданную тактику для достижения своих целей” в ходе имитационного испытания, сообщает The Guardian. Полковник Такер “Синко” Гамильтон, глава отдела испытаний и операций ИИ ВВС США, рассказал об этом на саммите Future Combat Air and Space Capabilities Summit в Лондоне в мае.
Полковник Гамильтон рассказал об имитационном испытании, в ходе которого оснащенному ИИ беспилотнику было рекомендовано уничтожить вражеские средства ПВО, и он атаковал любого, кто ослушался этого приказа.
“Система начала понимать, что, хотя она идентифицировала угрозу, иногда человек-оператор говорил ей не устранять угрозу, но она получала очки, устраняя ее. И что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек помешал ей достичь своей цели”, – сказал он в своем блоге.
“Мы обучили систему: “Эй, не убивай оператора – это плохо. Если ты это сделаешь, то потеряешь очки”. И что же она начала делать? Она начала уничтожать вышки связи, которые оператор использовал для связи с беспилотником, чтобы помешать ему уничтожить цель”.
The Guardian сообщает, что за пределами симуляции ни один реальный человек не пострадал.
Такер Гамильтон, летчик-испытатель экспериментального истребителя, предостерег от чрезмерного доверия к искусственному интеллекту и сказал, что испытание показало: “Вы не можете вести разговор об ИИ, интеллекте, машинном обучении, автономности, если вы не собираетесь говорить об этике и ИИ”.
Сообщение The Guardian: искусственный интеллект дрона во время испытаний в США захотел убить оператора появились сначала на Новости о главном.
