Социальная сеть «Одноклассники» внедрила новую систему на основе машинного обучения, которая помогает автоматически выявлять токсичные комментарии и ограничивать доступ их авторам. Эта мера направлена на борьбу с оскорбительными высказываниями и улучшение атмосферы в сети.
Теперь пользователи, оставляющие негативные или агрессивные комментарии, могут быть временно ограничены в возможности писать новые сообщения. Ограничения могут длиться от одного часа до суток, в зависимости от частоты появления таких комментариев.
Разработка была обучена на основе 400 тысяч оскорбительных высказываний, что позволило системе научиться распознавать недружелюбные или провоцирующие дискуссии комментарии. С запуском новой модели доля и количество токсичных высказываний на платформе сократились на 47%.
Как показало исследование «Одноклассников», более 40% пользователей считают негативные комментарии источником злости, что подчеркивает важность создания комфортной среды для общения.
