Система будет анализировать письменные работы учащихся.Автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды» (АНО «ЦИСМ»), созданная в 2018 году по поручению Владимира Путина, получит почти 1,6 миллиарда рублей.
Эти деньги выделят на разработку системы мониторинга распространения информации, которая может склонить или побудить детей «совершить действия, представляющие угрозу их жизни» или жизни и здоровью других. Алгоритм будет анализировать письменные работы учащихся и выявлять «склонности к социально опасному и деструктивному поведению».
Как именно будет работать система, пока неизвестно. Руководитель Liquid Studio Accenture в России Арсений Кондратьев предположил, что в основе системы может быть нейросеть, обученная на большом количестве образов текстов, написанных людьми с психическими или социальными отклонениями.
Детский психиатр Европейского медицинского центра Павел Зайцев рассказал, что не знает о существовании в России или за рубежом доказательного ПО по психологическому анализу письменных работ. Он считает, что анализ даст эффект, только если речь идёт о текстах на свободную, а не на заданную тему.
АНО «ЦИСМ» создали в 2018 году по поручению Владимира Путина после нападения Владислава Рослякова на колледж в Керчи. На сайте указано, что задача центра — выявлять контент, «связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями».
После стрельбы в пермском вузе глава АНО «ЦИСМ» Денис Заварзин оценил число аккаунтов в соцсетях, которые «хотя бы один раз касались» деструктивного контента, в 61 миллион.
источник