В Китае нейросети обязали сдавать идеологический экзамен перед релизом
В Китае вводят новые жесткие правила для генеративного ИИ.
Теперь перед публичным релизом нейросети обязаны пройти идеологическую проверку и ответить примерно на 2000 специальных вопросов. Без этого модель не получит разрешение на работу.
Как пишет The Wall Street Journal, регуляторы требуют, чтобы ИИ отказывался как минимум от 95% запросов на «чувствительные» темы.
В их числе события на площади Тяньаньмэнь, вопросы прав человека, критика партийной власти и любые сюжеты, противоречащие официальной линии. Перечень таких тем регулярно обновляется и обязателен для всех разработчиков.
Контроль касается и обучения моделей. Использовать разрешено только заранее отфильтрованные датасеты: эксперты вручную проверяют тысячи примеров контента и не менее 96% материалов должны быть признаны «безопасными».
Всего выделено 31 категория риска, самая серьезная — информация, способная подорвать государственную власть.