Тель-Авиву придется несладко, если Москва применит против него комплекс средств ИИ и киберинструментов, пишет JP. У Израиля есть серьезное преимущество перед более слабыми противниками, такими как Иран, Хезболла и ХАМАС, но Россия - другого поля ягода, отмечает автор статьи.
Израилю придется много работать, если в будущем Россия или Китай станут использовать против него комплекс средств искусственного интеллекта (ИИ) и киберинструментов, заявил полковник разведывательного подразделения ЦАХАЛ в отставке и главный стратег компании Team 8 Бобби Гилбурд (Bobby Gilburd). В интервью после недавнего отчета Team8 по вопросам нейросетей и бизнеса он сказал, что Иерусалим имеет серьезное преимущество перед более слабыми киберпротивниками, такими как Иран, Хезболла и ХАМАС, но Россия и Китай - другого поля ягоды.
Гилбурд, ушедший в отставку в середине 2022 года из подразделения 8200 Армии обороны Израиля после 20 лет работы, считает, что стране действительно полезно наблюдать за конкуренцией в области ИИ между западными странами, с одной стороны, и Китаем или Россией - с другой. Он отметил, что в США уже действуют правила в отношении ИИ в тех областях, где Израилю это до сих пор не удается, но Америка сталкивается с куда более жесткими противниками в лице КНР и России, имеющими "более обширные возможности, чем наши враги". "Не знаю, как бы мы поступили, если бы они [Китай и Россия] вложили средства" в саботаж Израиля с использованием возможностей искусственного интеллекта, в отличие от главного противника Израиля - Ирана, который как технологическая держава сравниться с Израилем, Китаем или Россией не может.
По словам полковника в отставке, "Из-за Китая и России задача США намного сложнее и комплекснее, поэтому Америка разработала больше правил для своей национальной инфраструктуры. Израиль может наблюдать и учиться" как на американском регулировании, так и на стратегических успехах и неудачах в защите от иностранного ИИ-вмешательства и хакерских атак. На нас не нападут первыми - Америка им интереснее".
В частности, Гилбурд коснулся указа президента США Джо Байдена об ИИ от октября 2023 года и марта, в котором Национальный институт стандартов и технологий (National Institute of Standards and Technology, NIST) усмотрел исходящие от противников соответствующие риски. Гилбурд назвал новые правила "невероятными, потому что они появились раньше, чем обычно. Что касается облачных технологий, после их появления на способность противодействовать атакам идут годы. Сейчас правительство США возглавляет инициативы по защите цифровой инфраструктуры, понимая, что это становится оружием".
Но соцсети, предупредил он, - лишь один аспект, поскольку ИИ умеет создавать фейковые аудио- и видеоматериалы. Его беспокоят возможности дипфейк-технологий, в результате которых возникает сочетание атак нулевого дня (компьютерная угроза, пытающаяся эксплуатировать уязвимости различных программ - прим. ИноСМИ) и тех, что обусловлены отсутствием у гражданских лиц и частного сектора рекомендуемых подпрограмм для защиты от внешнего вмешательства. Гилбурд выразил некоторую обеспокоенность тем, что Китай и Россия могут переключить внимание на Израиль, поскольку довоенные геополитические союзы меняются и оставляют Израилю меньше компромиссных решений для поддержания нормальных отношений как с этими странами, так и с Западом.
29 апреля администрация Байдена опубликовала дополнительную информацию о своей стратегии по сдерживанию ИИ-угроз. В отчете Национального института стандартов и технологий под названием "Снижение рисков, связанных с синтетическим контентом" представлен обзор технических подходов к "прозрачности цифрового контента" - то есть методов документирования и доступа к информации о происхождении и истории определенной цифровой информации.
Четырехсторонний подход NISTвключает формальное отражение создания части контента конкретной системой; оформление права собственности на контент; предоставление инструментов для маркировки и идентификации контента, созданного ИИ; и смягчение последствий генерации и распространения ИИ-материалов о сексуальном насилии над детьми и интимных изображений реальных людей без их согласия. Проверка подлинности контента и отслеживание его происхождения, установка цифровых водяных знаков и запись метаданных, а также технические меры по смягчению последствий искусственно сгенерированного насилия над детьми и материалов с использованием интимных изображений, такие как фильтрация обучающих данных и криптографическая рандомизация, - вот лишь некоторые из изученных NIST стандартов, инструментов, методов и практик.
Затем, 1 мая, лидеры американкой Палаты представителей по энергетике и торговле вызвали исполнительного директора UnitedHealthGroup для разъяснений по поводу масштабной февральской кибератаки на их дочернюю компанию по обработке платежей. 2 мая Госдепартамент, Федеральное бюро расследований (ФБР) и Агентство национальной безопасности (АНБ) опубликовали рекомендации по кибербезопасности, касающиеся новой тактики, которую северокорейская группировка, известная как Кимсуки, применяет для наращивания усилий по социальной инженерии и хакерской деятельности против аналитических центров, научно-образовательных учреждений, некоммерческих организаций и СМИ.
Еще одно важное изменение в этой сфере связано с генералом США Тимоти Хоу (Timothy Haugh), сменившим Пола Накасоне (Paul Nakasone) на посту руководителя кибернетического командования США и АНБ. Ожидается, что Хоу воспользуется новыми бюджетными полномочиями, которые Накасоне получил в конце своего шестилетнего срока, и его будут подталкивать к значительному увеличению численности киберкомандования, чтобы успевать реагировать на цифровые угрозы по всему миру. Бои на этом поприще не прекращаются ни на день.
"Распылительные" ИИ-атаки
Вернемся к Гилбурду и отметим, что еще одной его обеспокоенностью является способность нейросетей проводить "распылительные" атаки против 5-10 тысяч организаций разом, "достигая минимального успеха даже в том случае, если они правильно залатали хакерские лазейки". Достаточно поразить хотя бы десяток организаций, попавших под прицел, - и вот они получают огромную выгоду и способность наносить серьезный ущерб".
Гилбурд отметил, что "злоумышленники всегда адаптируются раньше защитников", и предупредил, что если "раньше с момента обнаружения кибердыры до момента использования хакерами этой уязвимости для широкомасштабных атак проходил месяц, то теперь этот период сократился до нескольких дней и даже часов".
Далее он отметил, что ChatGPT можно взломать и использовать с дурными намерениями, например, заставить программу выписывать подробные инструкции о том, как сделать взрывчатое вещество C4, тогда как стандартная (невзломанная) программа ответ на подобного рода запросы блокирует. Более того, Гилбурд предупредил, что хакеры могут использовать ChatGPT для поиска более быстрых способов взлома конкретных компьютеров.
В этом русле киберзащита работает над развертыванием механизмов безопасности, предназначенных для защиты от известных хакерских программ ИИ и помощи конкретным отраслям, таким как водное хозяйство. "Мы так преуспели в области кибербезопасности, потому что начали рано", и к тому же Израиль силен в области искусственного интеллекта. Но на сегодняшний день лидером в производстве моделей нейросетей GPTявляются США, а ЕС в этом плане намного слабее.
На вопрос о том, что многие отчеты о национальных угрозах предупреждают о превосходстве КНР над США в различных технологических областях, эксперт ответил: "Я не знаю, существует ли в Китае сильная модель [нейросетей], но там отлично умеют воровать технологии. GPT превратится в оружие. Кто бы ни получил его первым, это будет оружие на все случаи жизни. Я использую GPT чаще, чем Google. По дороге на работу, например, мне вздумалось поработать над презентацией PowerPoint, и я прямо за рулем надиктовал все нейросети", - взволнованно рассказал он.
Кроме того, отметил он, хотя вмешательство России в американские президентские выборы 2016 года осуществлялось в основном людьми, это было до появления нейросетей. "Возьмите то, что они сделали в 2016 году, и представьте вместо ста человек сотню GPT-ботов, выполняющих команды российских хакеров. Это уже серьезно". Кроме того, сам Илон Маск утверждал, что еще до покупки им Твиттера там было 20-25% фейковых аккаунтов, а Гилбурд считает, что эта цифра может достигать 50%. Например, потому, что фальшивые лайки по-прежнему приносят Маску доход.
Используя ИИ и соцсети, противники Израиля пытались "расколоть его надвое", причем в сердце процесса оказались именно соцсети. Главная цель - разделить людей на враждующие группировки, порождая больше прибыльных "взаимодействий". Рост напряженности отвечает интересам этих платформ, и ИИ отлично вписывается в процесс. Я беспокоюсь за Израиль, ведь его возможности ограничены. Единственные, кто может это исправить, - это сами платформы, но их подобное не интересует", - сказал он. Израиль мог бы регулировать вопрос, добавил Гилбурд, но гиганты соцсетей чересчур сильны.
С технологической точки зрения ИИ также можно использовать для более быстрого "отслеживания" фейковых аккаунтов. Но не за горами новая "гонка вооружений", в которой ИИ станут использовать обе стороны: хакеры - создавать дипфейк-личности и взламывать аккаунты реальных пользователей, а киберзащитники - затруднять им подделку личных данных. По мере того, как ИИ совершенствуется в последнем, "мы будем двигаться в направлении биометрической идентификации по лицам, но в конечном счете нейросети доберутся и сюда. Меня волнуют проблемы идентификации. Как сделать удостоверение личности, которое невозможно будет подделать? Теперь ведь у нас есть еще и цифровые паспорта".
Высокие технологии и война
На вопрос об экономических последствиях нынешней войны Гилбурд ответил: "Сектор высоких технологий обычно хорошо справляется с этим, но наверняка сказать трудно, потому что в других местах дела обстоят хуже. Мы в [компании] Team8 близки к кульминации. За полгода у нас было два крупных выхода, и мы только что успешно привлекли новый инвестиционный капитал. Вокруг война, но дела идут хорошо".
В совокупности упомянутые два выхода приносят компании около одного миллиарда долларов. Во-первых, "кибер-сектор всегда расширяется, когда растет страх" взлома, который сегодня велик из-за войны. В целом, по словам Гилбурда, со стороны клиентов не наблюдается антиизраильской реакции, поскольку большинство из них по-прежнему поддерживают Израиль и знают сложную историю региона, либо ввиду бизнес-контактов с израильтянами.
Он отметил только двух человек, с которыми были проблемы, назвав их "каплей в море". Сложнейшей с точки зрения бизнеса ситуацией, по его мнению, было отсутствие многих сотрудников на рабочих местах из-за военных сборов. Он сказал, что Team8 пришлось проявить больше гибкости в отношении графиков работы и возможности удаленного доступа, чтобы справиться с этими проблемами. Сегодня, в эпоху нейросетей, "исполнение - это товар. Того, кто не создает идеи или возможности, ждет крах".
(
https://inosmi.ru/2024052...)
