Искусственный интеллект (AI) уже является неотъемлемой, хоть и не всегда заметной частью современной жизни. Перспективы его развития обсудили на конференции Сбера GigaConf. В кулуарах этого мероприятия вице-президент по кибербезопасности Сбербанка Сергей Лебедь рассказал "Газете.Ru", когда ждать появления кибер-аватаров, тренеров моделей, конструкторов агентов и останется ли место людям в мире искусственного интеллекта.
— Искусственный интеллект все активнее применяется в разных сферах деятельности. Какую роль он играет в сфере банковской кибербезопасности?
— Использовать AI в системах антифрода банки начали более 5 лет назад. AI-технологии необходимы для защиты ИТ-инфраструктуры банка от кибератак, а клиентов - от мошенников хотя бы потому, что возрастающий поток данных традиционными автоматизированными методами, а тем более вручную не обработать.
Например, в Сбере за сутки анализируется порядка 500 млрд событий в кибербезопасности, поступающих от элементов ИТ-инфраструктуры банка. Это в 10 раз больше, чем четыре года назад. Только искусственный интеллект способен, например, эффективно проверять каждую транзакцию на признаки мошенничества и сразу приостанавливать подозрительные операции.
В Сбере фундаментом для создания и развития систем кибербезопасности с применением технологий AI является Платформа кибербезопасности. Она обеспечивает сбор, обработку событий в режиме реального времени и их хранение. На базе этой платформы, с помощью AI эксперты в сфере кибербезопасности анализируют данные систем киберзащиты и разных элементов ИТ-инфраструктуры банка, выявляя угрозы и отклонения. Одновременно искусственный интеллект определяет, на что в первую очередь реагировать, оценивает, какие угрозы более критичны.
Чтобы успешно решать огромный объем стоящих перед Сбером задач в сфере кибербезопасности, мы разработали более 100 AI-моделей в составе различных систем и подсистем защиты. Таким образом на высочайшем уровне обеспечивается кибербезопасность наших клиентов и самого банка.
Для обеспечения кибербезопасности Сбера и его клиентов используется более 100 AI-моделей в составе различных систем и подсистем защиты.
— AI используется для обеспечения кибербезопасности, а используют ли его злоумышленники для создания новых угроз?
— Увы, да. Мы наблюдаем колоссальную скорость появления новых угроз и уязвимостей, в том числе на основе технологий AI. Нам необходимо не только успевать за этими критическими изменениями, но и предугадывать их, быть впереди, заранее готовить механизмы реагирования, и все это в условиях стремительного роста технологической сложности работы Сбера — мы это успешно делаем. Соответственно, развитие AI-решений закономерно в условиях роста AI-угроз и уже жизненно необходимо для обеспечения кибербезопасности банка и его клиентов.
Развитие AI-решений кибербезопасности закономерно в условиях роста AI-угроз и взрывного роста технологий в бизнесе
— Если говорить о службе кибербезопасности будущего: какая она? Какова роль AI и какова роль человека в этой службе?
— Система управления в кибербезопасности базируется на следующих элементах: людях, технологиях, процессах, данных. Мы прогнозируем активную интеграцию AI-технологий во все эти элементы в ближайшие годы. Соответственно, люди никуда не денутся — они продолжат работать в условиях новой реальности. Например, создавать и обучать цифровых аватаров, управлять ими. Эти аватары при помощи узкоспециализированных AI-агентов будут решать конкретные задачи по обеспечению кибербезопасности в условиях постоянно нарастающей технологической сложности работы организаций.
Сейчас нам видится три варианта построения процессов кибербезопасности с использованием технологий AI: - традиционные процессы, сконструированные людьми, — AI-агенты будут исполнять их и сообщать об отклонениях в их выполнении; - AI самостоятельно формирует новые процессы, человек берёт на себя роль конструктора технических решений на основе AI; - Наиболее футуристический вариант: человек декларативно ставит задачу и оценивает результативность, AI-система сама от и до определяет, как будет решена задача.
Люди никуда не денутся — они продолжат работать в условиях новой реальности. Например, создавать и обучать цифровых аватаров-сотрудников, управлять ими.
— Какое ключевое качество, навык является самым главным для AI? Только лишь способность обрабатывать огромные массивы данных или что-то еще?
— Ключевым умением искусственного интеллекта должно стать самообучение. От обработки данных он должен перейти к применению знаний. Это значит, что AI должен уметь получать опыт, обобщать его, познавать и понимать. То есть фактически быть мыслящей сущностью, адаптирующейся под изменения среды и ландшафта угроз.
