Книги Драгунского временно пропали с прилавков из-за сбоя в работе ИИ

В начале марта произведения известного советского писателя Виктора Драгунского неожиданно исчезли из продажи на ряде площадок. Причиной стала ошибка алгоритма, который автоматически проверяет контент на соответствие законодательству. Об ошибке в работе искусственного интеллекта (ИИ) сообщил генеральный директор издательства «ЭКСМО» Евгений Капьев в своем Telegram-канале.

Как выяснилось, система ИИ приняла фамилию автора за пропаганду наркотических веществ. Алгоритм среагировал на первые четыре буквы фамилии писателя — «Драг» — и расценил их как нарушение закона о пропаганде наркотиков.

По словам Капьева, подобные ошибки нейросети неизбежны, и все результаты автоматической проверки приходится дополнительно просматривать и исправлять вручную.

Этот случай наглядно показывает несовершенство технологий автоматической модерации контента. Несмотря на широкое применение ИИ, человеческий контроль по-прежнему остается необходимым условием корректной работы подобных систем.

Подписывайтесь на канал РИАМО в MAX.