Более пяти лет назад стали появляться первые документы, в которых раскрывалась ранее тщательно засекреченная информация о том, как в 1983 году в ходе учений Able Archer, проводившихся НАТО на территории Западной Европы, из-за недопонимания сложившейся ситуации едва не началась мировая война. А точнее даже, полномасштабная ядерная бойня, учитывая мощь накопленных к тому времени вооружений, уничтожение сперва сотен миллионов, а впоследствии – миллиардов мирных людей.
Люди смогли понять, что внешние признаки агрессии не несут под собой реальной угрозы, и договорились о снижении напряжённости. Но это люди. А что, если бы за принятие решений отвечал искусственный интеллект с его чёткими и однозначными критериями оценки происходящих событий, задалась вопросом Анна Шафран. Могли бы и не успеть.
В нежеланной большинством людей, но вполне вероятной войне будущего всё будут решать секунды. Сверхзвуковое оружие позволяет атаковать чужие столицы в течение нескольких минут. И, разумеется, возникает соблазн поручить принятие решения искусственному интеллекту, ведь он гораздо быстрее может собрать и проанализировать угрожающие факторы. А дальше вопрос времени – в какой момент произойдёт или сбой программы, или хакерская атака, и ракеты полетят на головы ничего не подозревающих людей.
То есть даже не потребуется фантастическое допущение в виде осознания искусственным интеллектом самого себя, как это было в фильме "Терминатор" и других художественных произведениях. Нет, никакой фантастики. Банальный сбой или хакеры. Собственно, многочисленные утечки данных, которые происходят и в нашей стране, и во многих других, подтверждают, что нет пока ни одной компьютерной сети, которая по надёжности была бы сравнима с банковским сейфом или с государственным хранилищем секретной информации.
При этом мы доверяем сетям информацию, которая может оказаться гораздо дороже денег и куда опаснее, чем утечка государственной тайны.
Цифровизация идёт семимильными шагами, чиновники регулярно отчитываются о том, как они перевели в цифру ту или иную отрасль или внедрили искусственный интеллект туда, где его раньше не было. Никто не спорит, польза от это есть, и если, условно говоря, для того, чтобы починить сломавшийся светофор, раньше надо было дождаться сигнала от водителей, вызвать техника, дождаться его приезда и так далее, то сейчас достаточно нажать кнопку на пульте в Центре организации дорожного движения, и всё заработает.
Но что может произойти, если по тем или иным причинам случится длительное отключение электричества или потеря информации? Сколько это будет стоить экономике страны по состоянию на сегодняшний день и сколько – в случае, если цифровизация достигнет своего апогея? Ответить на эти и другие вопросы Анна Шафран попросила члена президиума Совета по внешней и оборонной политике Александра Лосева.
McKinsey & Company уже посчитала всё за нас. И выяснилось, что хакерская атака на критическую инфраструктуру такой страны, как Россия, будет стоить примерно триллион долларов. Более того, это будет сравнимо с применением оружия массового уничтожения, потому что пострадают десятки миллионов людей, возможны и человеческие жертвы, а также социальные потрясения.
Поэтому сейчас, при разработке всего, что связано с кибероружием и киберзащитой, эксперты понимают, что с более глубоким проникновением цифровизации в госуправление и в системы управления критическими инфраструктурами условную "третью мировую" можно будет выиграть за секунды, добавил Александр Лосев.
Ведущая напомнила зрителям, что триллион долларов – это примерно 74 триллиона рублей. Иначе говоря, доходная часть бюджета России где-то за три с половиной года. Оправиться после такого удара будет крайне сложно, если не невозможно.
Своему следующему собеседнику, писателю, эксперту по искусственному и естественному интеллекту Игорю Шнуренко, Анна Шафран предложила на некоторое время отвлечься от конкретных угроз и поговорить о том, в чём заключаются ценности цифрового общества в целом.
Это очень хороший и редко обсуждаемый вопрос, который чаще всего уходит на задний план, хотя это и есть самое главное. Более того, если мы действительно хотим контролировать свои жизни, то вопрос ценностей – это наш козырь, это то единственное, что у нас осталось. Когда мы наблюдаем за процессами цифровизации, то мы видим за всем этим зияющую пустоту.
Даже если посмотреть на "съезд победителей-цифровизаторов" в Давосе, постановивших, что "грядёт большая перезагрузка", то нам бросится в глаза даже чисто внешняя блёклость всего этого мероприятия, считает Игорь Шнуренко. Вот они якобы победили, но в памяти всплывает старая хроника 1940 года, когда тоже "победившие" в Европе Гитлер и Муссолини встретились в Монако, а их приветствовали в "едином порыве" толпы восторженных итальянцев и французов – адептов новой эпохи.
И даже в сравнении с той старой видеоплёнкой происходящее в Давосе выглядело совершенно блёкло и натужно. Мы видим каких-то функционеров, которые плохо говорят по-английски, выглядят серо. Они понимают, что за ними стоит пустота.
Ещё несколько лет назад один из самых влиятельных философов и интеллектуалов современности, своего рода идеолог цифровизации Юваль Ной Харари упомянул, что в будущем правительствами стран будут управлять алгоритмы. А во главе стран будут стоять некие A, B или C, которых населению подсунет алгоритм, а люди это, естественно, одобрят. Управлять же людьми будут при помощи придуманных нарративов.
Вот такие идеологи совершенно спокойно разделяют понятие "культура" на такие области, как культуры приматов, культура гамадрилов и… культура homo sapiens. Они говорят о том, что только им, избранным, известна абсолютная истина, абсолютная объективность. Но при этом никогда не задают себе простой вопрос: а какая абсолютная объективность создала саму себя?
Зато они совершенно спокойно отрицают вопросы, которые тысячелетиями мучили философов, а человеческое существо они воспринимают как некий конструктор-трансформер, из которого они собираются делать "нового человека", перестраивая наши мозги, наше тело, а затем культуру и государства.
И каждый раз населению будет предлагаться некая "главная история". Сейчас, скажем, идеологи преподносят всем тему зелёной энергетики, поняв, как на этом можно будет заработать и опустить экономику и промышленность тех стран, которые им не нравятся. Вот здесь, уверен Игорь Шнуренко, виден голый расчёт, а не какая-то безумная любовь к природе.
Поэтому никаких ценностей за этим нет, есть только стремление к тотальному контролю. В конечном итоге это проигрышная стратегия. Конечно, сейчас они побеждают, многие их идеи о применении искусственного интеллекта воспринимаются на ура со словами "ох, как это будет эффективно".
Безусловно, цифровизация открывает дополнительные возможности, отметила Анна Шафран. Но она же открывает дополнительные уязвимости. Мы уже приводили этот пример, но давайте ещё раз представим, что было бы, если бы автомобилизация развивалась так же безудержно и бесконтрольно, как сейчас нам внедряют цифровизацию.
Никаких светофоров. Никаких ограничений на скорость. Никаких правил – кто кого пропускает. Никаких пешеходных переходов: кто успел, тот и перешёл дорогу. Никаких экологических ограничений на выхлоп. Никаких разделительных полос: кто хочет, тот в ту сторону и едет. Никаких закрытых для движения зон: захотел – поехал по детской площадке, захотел – срезал через заповедник. Понравилось бы нам жить в таком мире? Уверена, что нет!
Нельзя остановить прогресс, но необходимо задать строгие правила развития любых технологий. Не понимаю, откуда у некоторых людей берётся эта ничем не прошибаемая уверенность в том, что любые нововведения хороши просто потому, что они новые.
Вот этот безудержный щенячий оптимизм по поводу грядущей тотальной цифровизации вызывает крайне серьёзные опасения. Есть ли место человеку среди всех этих блистающих ценностей цифрового мира?
