Как ИИ хвалит власть от имени народа, создавая иллюзию одобрения её работы

Теперь нет особого смысла ругать кого-то из местных властей, критический пост сотрут и вместо вашего комментария напишут новый, позитивный – технологии искусственного интеллекта «рулят».

Власти ряда городов России активно стали внедрять технологии ИИ в работу с населением, теперь нейросети «отвечают» за обратную связь местных властей с «народом», делая картинку благостной и максимально положительной, о чем сегодня сообщил Телеграм-канал Mash.

Всё работает очень и очень просто. Например, как ИИ оставляет положительные комментарии.

Нейросеть создаёт виртуального «пользователя» соцсети и задаёт ему нужные параметры личности, скажем: мужчина, 45 лет, рабочий завода, живёт в спальном районе, двое детей, любит рыбалку.

Ему ставится задача:

оставить комментарий под постом о ремонте дорог.

Результат:

«Наконец-то взялись за наши улицы! Вижу, что на Советской улице уже асфальт кладут. Давно пора — с весны по этой дороге только на тракторе проехать можно было. Молодцы, что не забыли про окраины!». Иллюстрация из открытых источников Или ещё вариант. Уже «женский». Создаётся профиль: женщина, 38 лет, учитель, активная в соцсетях, участвует в родительских чатах.

Задача:

отреагировать на новость о новом детском саду.

Результат:

«Очень рада, что рядом с домом откроют садик! Теперь не нужно возить ребёнка в другой район. Отдельное спасибо за игровые площадки – видно, что продумали всё для детей».

Что касается замены негативных комментариев позитивными отзывами, то это тоже делается довольно просто.

Интеллектуальные системы отслеживают обсуждения, автоматически фильтруют контент, оперативно отыскивают негативные или оскорбительные высказывания, затем либо удаляют их, либо сохраняют для ручной проверки модератором, либо подменяют сгенерированными позитивными комментариями от виртуальных пользователей и формируют своего рода иллюзию широкого народного одобрения действий властей. Иллюстрация из открытых источников При этом нейросеть не просто пишет сообщения, но и дорабатывает их: корректирует стиль изложения под нужную аудиторию, автоматически исправляет грамматические или стилистические ошибки, или наоборот, специально пишет с ошибками, чтобы казалось, что это «ошибается» реальный человек.

Любопытно, что у ИИ есть функция в виде «пометки» пользователя как, условно говоря, «неблагонадёжного». Вот пример:

Исходный комментарий:

«В мэрии опять сидят бездельники – дороги «в хлам», а они селфи с лопатой делают».

Действие бота: удаляет сообщение через 30 секунд, отправляет уведомление модератору, добавляет автора в «серый список» для усиленного контроля его следующих комментариев.

Кстати, осенью прошлого года СМИ писали, что депутат Госдумы от фракции «Справедливая Россия – Патриоты – За правду» Николай Новичков предложил обязать соцсети предупреждать пользователей о включении в список неблагонадёжных за просмотр и поддержку «нехороших» публикаций. Не внемлющих предупреждению было предложено автоматически включать в реестр, к которому получат доступ полиция, прокуратура и «иные компетентные органы». Иллюстрация из открытых источников В целом, формально у ИИ возможность оставлять комментарии сохраняется, однако нежелательные высказывания – критические замечания, резкие оценки или протестные высказывания удаляются практически мгновенно.

Таким образом, публичное пространство в соцсетях остаётся открытым для общения, но его тональность и направленность эффективно корректируются с помощью интеллектуальных алгоритмов.

В заключение мы хотим обратиться к нашим подписчикам и читателям, которые периодически возмущаются тем, что мы часто пишем «эзоповым языком», сглаживаем углы, применяем обтекаемые выражения в острых темах. Поступаем мы таким образом не от хорошей жизни, а из-за того, о чём написали в этой статье.

Любая «некорректная» по мнению ИИ здесь тоже не приветствуется, и из-за прямых высказываний по теме материалы просто не показывают читателям, что нас, конечно, не устраивает. Поэтому мы часто прибегаем к смягчению кое-каких фактов или мнений, чтобы материал дошёл до нашей аудитории, слава Богу, что аудитория у нас в основном из «рождённых в СССР», которые умеют читать между строк.