20 декабря стало известно, что структура Роскомнадзора (РКН) предложила использовать искусственный интеллект (ИИ) для отслеживания противоправной информации в видеоиграх. Ранее ведомство уже заявляло о планах привлечь ИИ к отслеживанию содержимого телерадиовещания и мониторингу аудио- и видеозаписей в интернете. Насколько широко российские регуляторы прибегают к помощи высоких технологий, и чем это может грозить пользователям, разбираемся вместе с RTVI.
20 декабря стало известно, что структура Роскомнадзора (РКН) предложила использовать искусственный интеллект (ИИ) для отслеживания противоправной информации в видеоиграх. Ранее ведомство уже заявляло о планах привлечь ИИ к отслеживанию содержимого телерадиовещания и мониторингу аудио- и видеозаписей в интернете. Насколько широко российские регуляторы прибегают к помощи высоких технологий, и чем это может грозить пользователям, разбираемся вместе с RTVI.
Впервые Роскомнадзор (РКН) заявил о привлечении искусственного интеллекта для поиска запрещенного контента в интернете в конце 2020 года. Тогда эти технологии помогали проводить мониторинг именно текстовой информации. Однако уже в сентябре 2021 года «Коммерсантъ» сообщил, что регулятор планирует расширить применение ИИ и привлечь его к контролю за фото- и видеоматериалами. Система будет носить название «Окулус». На разработку техзадания для нее Главный радиочастотный центр (ГРЧЦ), входящий в структуру РКН, предлагает 15 млн рублей.В дальнейшие планы РКН входит создание цифровых систем, способных превращать аудиозаписи в текст, для автоматизация мониторинга в сфере телерадиовещания. На решение этой технологической задачи ведомство выделило в июле 2021 года 41,7 млн рублей.
Как отметил в беседе с RTVI экс-советник президента РФ по вопросам развития интернета, а также владелец компании LiveInternet и новостного агрегатора MediaMetrics Герман Клименко, использование систем мониторинга на основе ИИ уже стало «бытовой» историей, при этом к ним прибегают не только в России, но и за рубежом.
«Системы мониторинга – это же не только Роскомнадзор, вообще многие мониторят. Сейчас искусственный интеллект и нейронные сети – это такой стандартный продукт, как любой инструмент – Python, PHP, как инструмент программирования – ничего необычного здесь нет. Само по себе использование искусственного интеллекта в любых сферах мониторинга стало одним из стандартов де-факто», – констатировал эксперт.
В качестве одного из примеров цифрового механизма для мониторинга Клименко привел информационно-аналитическую систему «Призма», позволяющую в реальном времени отслеживать дискуссии в социальных сетях и блогах. Как сообщало еще в 2012 году издание Forbes со ссылкой на источник из администрации президента, система была установлена непосредственно в кабинете Вячеслава Володина, когда тот занимал пост вице-премьера. Алгоритм позволял отслеживать общественные настроения на основе 60 млн источников.
Интерес российский властей к использованию ИИ для мониторинга интернета и соцсетей не ограничивается деятельностью РКН и системой «Призма». Так, проект федерального бюджета на ближайшие три года предусматривает выделение 1,6 млрд рублей на создание системы, способной выявлять учащихся со склонностью к социально опасному и деструктивному поведению на основе анализа их письменных работ.
Как отметил в беседе с RTVI руководитель Центра социолингвистики РАНХиГС, профессор Максим Кронгауз, подобного рода «психологический поиск» может основываться на каких-то ключевых словах или конструкциях, что не дает 100% гарантии. «Это как в классических антиутопиях: человек с малых лет попадает в поле действия правоохранительных органов, потому что он употребил некоторые слова, над которыми он вообще мог не задумываться», – указал Кронгауз.
Российские власти хотят взять под контроль все виды медиаресурсов, которые могут оказывать какое-то влияние на граждан, предположил в беседе с RTVI директор Ассоциации профессиональных пользователей соцсетей и мессенджеров (АППСИМ) Владимир Зыков.
По его словам, Роскомнадзор «начинает разрастаться» и превращается в своего рода «всероссийского цензора про всё». Эксперт напомнил, что в 2010 году, когда создавался закон о защите детей от вредоносной информации, с которого начались первые блокировки, у РКН не было полномочий и функций для того, чтобы самостоятельно искать контент. Весь контент присылали пользователи, а уже затем его анализировали сотрудники ведомства.
«Сейчас же Роскомнадзор самостоятельно, по своей инициативе начинает самостоятельно проводить анализ того или иного вида контента. С одной стороны. это хорошо, но с другой. складывается ощущение, что реальная цель – это не поиск какого-то реально запрещенного контента, а показать активность», – отметил Зыков.
При этом зачастую блокировки и штрафы российского регулятора связаны не только с детской порнографией, пропагандой наркотиков и призывами к суициду, но и с информацией о несанкционированных митингах. Материалы, содержащие такого рода информацию, стали поводом для претензий РКН, в результате которых суд осенью 2021 года оштрафовал компанию Google на 44 млн рублей. Кроме того, за отказ удалить противоправный контент были оштрафованы Facebook и Twitter.
Как отметил Зыков, пока непонятно, становится ли Роскомнадзор «полноценной интернет-полицией», но для этого им осталось только получить функции ловить людей, размещающих в сети противоправный контент. В целом же, в таком увеличении веса регулятора есть свои плюсы и минусы, считает директор АППСИМ:«Для нас как организации очевидно, что у пользователей должно быть место в которое они могут пожаловаться, если у них случаются какие-то проблемы в интернете. К сожалению, если у пользователя в интернете мошенническим образом украли какую-то сумму меньше тысячи рублей, то <…> вероятность возбуждения дела правоохранительными органами из-за такой незначительной суммы крайне низкая. И в этом смысле у нас появляется хотя бы одно место, куда пользователь может пойти, чтобы контент, от которого он пострадал, был заблокирован».
Зыков добавил, что за последние годы у Роскомнадзора появилось множество новых функций и обязанностей, а количество штатных единиц практически не изменилось. Это может быть одним из факторов, вынуждающих ведомство оптимизировать свою работу при помощи использования ИИ.
Автор – Юлия Волобуева
