В середине апреля этого года в Женеве под эгидой ООН прошла третья "неофициальная встреча экспертов" по проблемам и вопросам вокруг полностью автоматизированных военных систем, способных убивать людей самостоятельно.
Для того, чтобы стало сразу понятно, сколь серьёзно воспринимаются ныне такие проблемы, достаточно отметить, что среди специалистов роботы-убийцы расцениваются как "третья великая революция" в военном деле. То есть речь идёт о технологии уничтожения, по значимости сравнимой лишь с изобретением пороха и ядерного оружия.
Всё непросто
Что же касается позиций сторон, очень по-разному участвующих в процессе, а потому и рассматривающих предмет с принципиально различных точек зрения, то здесь всё обстоит очень и очень непросто.
Точнее говоря, одна из сторон, представленная сторонниками разоружения, формулирует свою позицию предельно ясно и чётко. "Роботы-убийцы, — говорят они, — представляют собой гигантскую опасность для самого существования человечества".
Причём опасность тут абсолютно реальная даже без фантастических пока сценариев о "восстании машин". Потому что автономные системы оружия не только существенно снижают психологический порог для начала войны, но и одновременно снимают вопрос об ответственности — кто теперь должен отвечать за преступные убийства невинных людей? Начальник технопарка, программист, изготовитель машины? Или, может, сам робот?
По этим причинам, как говорят сторонники разоружения, именно сейчас, пока ещё не поздно, надо особым международным договором полностью запретить разработку и разворачивание таких систем вооружений, где решение об атаке принимает не человек, а машина...
Что же касается противоположной стороны дебатов, особо показательно представленной государствами, занимающими наиболее передовые позиции в области автоматизированных военных технологий, то в этом лагере свои позиции формулируют куда более расплывчато и замысловато.
И чтобы эти позиции понять, надо хотя бы чуть подробнее рассмотреть, что власти этих государств говорят на публику, что реально делают и что при этом думают.
Что говорят
Среди официальных заявлений, сделанных представителями государств и организаций в ходе нынешней женевской встречи, особый интерес должна вызывать позиция США. Хотя бы по той уже причине, что никто на этой планете не вкладывает в технологии боевых роботов денег больше, чем власти этой страны.
Суть американской позиции сводится к тому, что они всячески приветствуют переговоры по данным проблемам, но со своей стороны официально предпочитают не выступать ни за запрещение, ни за одобрение летальных автономных вооружений в современных войнах.
Кроме того, США предлагают вообще не обсуждать тему возможных последствий от распространения нового оружия, а вместо этого сосредоточиться на уточнениях терминологии.
Например, американцам очень не нравится словосочетание "значимый человеческий контроль", уже получившее распространение применительно к управлению военными роботами. Вместо этого они хотели бы оперировать более удобным, на их взгляд, выражением "подобающие уровни человеческого суждения". Ну и далее постепенно продвигать взаимопонимание примерно по такой траектории.
Короче говоря, тема большая и сложная, с каждым термином надо разбираться очень тщательно, так что переговоров для достижения консенсуса нам тут предстоит на многие и многие годы.
Что делают
Весьма похожей точки зрения, во многом созвучной США, придерживаются и другие страны известного ряда "передовиков". По данным международного движения Stop Killer Robots, объединяющего свыше полусотни правозащитных и гуманитарных организаций планеты, таких государств сейчас как минимум шесть.
Помимо уже упомянутых США, активными исследованиями, разработкой и тестированием полностью автономных систем оружия занимаются также Великобритания, Израиль, Китай, Россия и Южная Корея. И хотя все страны подчёркивают, что в настоящее время таких систем у них на вооружении нет, это вовсе не означает, что их не существует в виде уже готовых демонстрационных образцов.
В качестве примера таких "полуавтоматических", как их предпочитают именовать, видов оружия можно назвать американский беспилотник Northrop Grumman X-47B, имеющий возможности атаки и в полностью автономном режиме, при отсутствии связи с оператором. Другая особенность аппарата — способность самостоятельно садиться на палубу авианосца, что считается одним из сложнейших манёвров в авиации.
Существенно другой пример из того же ряда — корейская разработка, автоматический пулемёт охраны Samsung SGR-A1, способный одновременно отслеживать несколько движущихся целей. Есть информация, что по крайней мере некоторое ограниченное время эта система "в частично автономном режиме" охраняла демилитаризованную зону, разграничивающую Южную и Северную Кореи.
Третий показательный пример — гордость российского оружия, танк "Армата", на базе которого разработчики постоянно создают всё более и более совершенные версии дронов для работы в полуавтоматическом режиме. Особенно характерны неофициальные имена, которые получают новые модели по мере расширения их искусственного интеллекта: Терминатор-1, Терминатор-2, Терминатор-3...
Что думают
Когда люди на высоких государственных постах публично говорят одно, а реально делают нечто совершенно другое, то понятно, что думают они совсем не так, как говорят. Читать чужие мысли, конечно, пока что возможностей нет. Однако в прессу и Сеть с некоторых пор регулярно происходят утечки секретных документов, которые к замыслам их авторов всегда гораздо ближе, нежели к публично произносимым речам.
Конкретно для нашей истории особый интерес представляют так называемые Drone Papers. То есть комплекс секретных "Документов о дронах", слитых журналистам в 2015 году одним из анонимных инсайдеров в разведывательном сообществе США.
Потому что и в спецслужбах, и среди военных хватает людей, кого сильно беспокоит увлечённость властей темой роботов-солдат. И из файлов утечки, к примеру, стало документально известно, что широко расхваливаемая "высочайшая хирургическая точность", с которой уничтожают врагов Америки дистанционно управляемые дроны — это заведомая и искусственно конструируемая ложь.
Потому что реально количество людей, убитых при ракетных ударах дронов, нередко может оказываться соотношенем 1:9. То есть наряду с одним из тех, кто был целью атаки, попутно уничтожается порядка девяти "не тех" – женщин, стариков, детей, кого угодно, кто просто был рядом.
Но столь чудовищные цифры "сопутствующего ущерба", как это принято именовать в служебных документах, абсолютно никого в высоком руководстве не останавливают. Напротив, применение дронов считается наиболее перспективной формой будущей войны. Количество невинно уничтожаемых людей, конечно, вызывает некоторое беспокойство. Решают проблему, однако, очень просто — всячески засекречивая документы о реальной ситуации с эффективностью роботов на войне.
В подобном контексте вряд ли удивительно, что на следующий финансовый год Пентагон только лишь под одни задачи разработки искусственного интеллекта и связанных с ним автономных военных систем запрашивает рекордные 15 миллиардов долларов. А попутно, как стало известно только что, в апреле 2016-го принято решение о засекречивании "Национальной военной доктрины США".
Никто не поясняет, естественно, с чем связано столь необычное обострение скрытности. Но наверняка имеет смысл обратить внимание на недавнее, в марте, публичное выступление замминистра обороны США Боба Ворка, посвящённое будущему вооружённых сил вообще и автономным боевым роботам в частности.
Повторяя твёрдую линию высоких политиков — не говорить тут ни да ни нет — Ворк ещё раз отметил, что США не станут первыми применять автономные летальные системы на поле боя. Однако под самый конец всё равно не удержался и отпустил такую фразу: "Это нечто такое, что неизбежно, это всё равно произойдт..."
Что имеем в итоге
Почему так получилось, уже не так важно, но всех людей с давних пор, очень упорно, с детства и до старости приучают воспринимать мир в категориях "мы и они". Причём одним из самых мощных якорей, привязывающих человека к понятию "мы", традиционно считается патриотизм: наш народ, наши традиции, наша земля.
Особенность нынешнего периода в истории человечества такова, что сегодня, благодаря инфотехнологиям и общедоступным цифровым коммуникациям, "нашей землёй" вдруг стал весь мир. А "наш народ", соответственно, это теперь население всей планеты. Оказавшейся, как выяснилось, довольно маленькой и хрупкой экосистемой для индустриальных и военных упражнений человечества.
Так что подлинным патриотам, которым действительно дороги судьбы нашего народа, будущее наших детей и нашей Земли, имеет смысл хорошенько подумать вот над чем: а где теперь проходит та самая граница, по одну сторону которой находимся "мы-патриоты", а по другую — те самые "они", от которых вечно идут наши беды и проблемы?
