Бот в законе: нейросети научатся писать нормативные акты
В Ханты-Мансийском автономном округе (Югра) собираются внедрить нейросетевую модель, которая поможет чиновникам писать нормативно-правовые акты. Сейчас разработка уже ведется, предположительно, осенью нейросеть собираются запустить в тестовом режиме. Можно ли допускать искусственный интеллект к работе над нормативно-правовыми актами, как это отразится на качестве выпускаемых законов и заменит ли нейросеть чиновника — в материале «Известий».
Какую нейросеть запускают в ХМАО
О планах по запуску нейросети заявил заместитель губернатора ХМАО Павел Ципорин.
«Одна из задач чиновников — написание нормативно-правовых актов. Их выпускается достаточно большое количество, поэтому у нас возникла гипотеза, что мы можем обучить нейросетевую модель на наших нормативных актах, чтобы она помогала разрабатывать проекты новых документов, проекты внесения изменений в действующие нормативно-правовые акты», — сказал он.
По словам губернатора, сейчас идет обучение нейросетевой модели. Ориентировочное время запуска системы — осень 2024 года.
Павел Ципорин рассказал «Известиям», что идея заключается в том, чтобы оптимизировать рутинную работу чиновников.
![](http://mtdata.ru/u25/photo578C/20810869814-0/original.jpg#20810869814)
— Эффективным такой подход будет благодаря быстрой подготовке проекта документа и предоставления его для корректировки сотруднику, — сказал он. — Нужно понимать, что искусственный интеллект не заменит полностью юридическую службу, он будет ей хорошим помощником. Конечное решение о редакции проекта НПА принимает, конечно же, человек.
Разработкой занимается подведомственный правительству региона Югорский НИИ информационных технологий. Применять в ХМАО решили малоизвестную модель Mistral. Речь идет, судя по всему, об открытой бесплатной языковой модели французской компании Mistral AI, которая появилась совсем недавно — сообщения о ней возникли в СМИ в сентябре.
![](http://mtdata.ru/u25/photo3A1C/20033942663-0/original.jpg#20033942663)
Главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ Роман Душкин сказал «Известиям», что к подобного рода открытым нейросетевым моделям лучше относиться с осторожностью, проведя до начала запуска тщательный аудит с включением ее внутрь контура безопасности.
Где еще чиновники используют нейросети
По словам Павла Ципорина, аналогов применения ИИ в этих целях где-либо еще югорские чиновники не встречали. Член комитета Госдумы по информационной политике, ИТ и связи Антон Немкин рассказал «Известиям», что сейчас ряд региональных министерств используют в своей работе цифровых помощников в соцсетях или на своих порталах — например, министерство культуры Самарской области, министерство экономразвития Ставропольского края. Однако основная цель этого инструмента — автоматизация ответов на популярные вопросы населения, но не создание нормативно-правовых актов. В ХМАО, к слову, такой цифровой помощник тоже есть — сообщения о нем поступили осенью 2023 года, хотя публично проект еще не презентовали.
— С сентября 2023 года в России также стартовал эксперимент использования искусственного интеллекта для отбора сотрудников на государственную службу, — рассказал Антон Немкин. — Одна из целей эксперимента — как раз внедрение в кадровую работу технологий искусственного интеллекта.
![](http://mtdata.ru/u25/photo16C1/20257015512-0/original.jpg#20257015512)
Аналитик данных Softline Digital Владислав Ботнев отметил, что выпущено уже достаточно много научных статей об использовании нейросетей для решения задач управления государством.
— К примеру, нейросети могут помочь планировать бюджеты, общаться с общественностью, обрабатывать большие данные, — рассказал он «Известиям». — Но о внедрении генеративного ИИ для создания официальных документов я слышу впервые.
![](http://mtdata.ru/u25/photoA5B6/20480088361-0/original.jpg#20480088361)
Заместитель подразделения консалтинга DIS Group Сергей Евтушенко отмечает, что других примеров применения нейросетей чиновниками достаточно много: их используют для поиска незарегистрированной недвижимости, установления корреляции причин часто происходящих событий, помощи в определении применимости тех или иных законов и положений. Однако во всех случаях важно подходить к этому с «адекватным контролем».
Можно ли допускать нейросеть до работы с законами
Роман Душкин подчеркивает, что ничего плохого в том, чтобы чиновники пользовались нейросетевыми моделями, нет — напротив, это инструмент, который может автоматизировать какую-то часть работы. Подобные инструменты могут улучшить нормативные акты, сделать более системным подход к их разработке, однако ни в коем случае нельзя полностью перекладывать на них разработку документов без какого-либо контроля со стороны человека.
Исполнительный директор группы «Рексофт» Евгений Минеев отмечает, что технология поиска нейросетью нужного информационного куска в многостраничном документе по запросу — хорошо отработанная технология, которая требует лишь аккуратного обучения в связке с человеком. ИИ мог бы помочь с перекрестными ссылками в нормативных документах, предложить чиновнику варианты формулировок под задачу, что сильно облегчило бы работу сотрудников. За человеком при этом всегда остается функция верификации предложенной информации.
![](http://mtdata.ru/u25/photoC7E0/20703161210-0/original.jpg#20703161210)
— То есть сотрудник пишет вопрос в строке поиска, а сервис в онлайн-режиме выдает структурированный ответ с объяснениями, ссылки на первоисточники и список экспертов по теме, с которыми можно проконсультироваться, — рассказывает Евгений Минеев. — Решение интегрируется с различными внутренними базами организации, работает с текстовыми файлами, презентациями и другими типами документов. В «Рексофте» используем подобный инструмент при подготовке коммерческих предложений, когда нужно найти примеры расчетов стоимости услуг по аналогичным запросам других клиентов или описания уже реализованных проектов для подтверждения квалификации.
![](http://mtdata.ru/u25/photo0698/20926234059-0/original.jpg#20926234059)
Депутат Антон Немкин подчеркивает, что в России не только ИТ-компании и бизнес активно внедряют передовые технологии в свою деятельность — работа ведется на государственном уровне. Это стратегия РФ в отношении ИИ — занять лидирующие позиции в мире.
— Использование генеративных нейросетей моделей для составления типовых проектов документов вполне оправданно, на мой взгляд, — сказал он «Известиям». — Как минимум это позволит сократить бюрократическую нагрузку на людей, оптимизировать их работу, освободив время для более полезных дел. Кроме того, такие помощники могут быть эффективными и для аналитики данных.
![](http://mtdata.ru/u25/photoB797/20149306908-0/original.jpg#20149306908)
Он признает, что первые документы, созданные при помощи нейросетей, могут быть некачественными, однако технология ИИ позволяет постоянно улучшать качество работы.
— Уверен, что власти ХМАО прекрасно это осознают, поэтому постараются максимально обучить такую модель на основе ранее разработанных нормативных актов, скорректировать и усовершенствовать ее, прежде чем полноценно запускать в дело, — сказал Антон Немкин.
![](http://mtdata.ru/u25/photo08B9/20372379757-0/original.jpg#20372379757)
Владислав Ботнев полагает, что из инициативы ХМАО может получиться хороший прецедент. При этом важно понимать специфику генеративного ИИ: сгенерировать принципиально новый закон нейросеть не сможет, речь идет скорее о «консультации» составителя документа, о переписывании текста в соответствии с требованиями.
![](http://mtdata.ru/u25/photoC32C/20595452606-0/original.jpg#20595452606)
При этом эксперты подчеркивают, что нейросетевая модель — это не замена чиновника, а дополнительный инструмент для него. Директор по развитию Napoleon IT Сергей Белоклоков полагает, что ИИ сможет взять на себя рутинные линейные задачи и через 5–7 лет появятся вакансии уже не на конкретные роли, а на блоки задач, которые могут быть выполнены нейросетью.
Коммерческий директор «Девелоники» (ГК Softline) Роман Смирнов замечает, что сейчас применение нейросетей находится в серой зоне, ведь еще нет никаких регламентов их использования.
В чем опасность нейросетей для чиновников
Роман Душкин подчеркивает, что опасными нейросети становятся, когда исчезает человеческий контроль за ними. Однако в случае с нормативно-правовыми и нормативно-техническими актами это практически невозможно — существует очень серьезная процедура, которая регулирует их выпуск.
— Например, нормативно-технические документы, к выпуску которых я имею отношение, готовятся около двух лет, — говорит эксперт. — Это государственные стандарты, санитарные нормы и правила. Такая процедура гарантирует, что в процессе разработки учтены все возможные аспекты, интересанты и так далее. Без такого контроля не обойтись — ни в случае применения ИИ, ни без него.
![](http://mtdata.ru/u25/photoEC9D/20818525455-0/original.jpg#20818525455)
Антон Немкин замечает, что контроль над нейросетевой моделью может потеряться только в том случае, если ответственные за перепроверку люди не будут внимательны и решат, что «сойдет и так».
— Именно поэтому, учитывая большие темпы развития нейросетей и их повсеместное внедрение, сегодня на повестке стоит вопрос регулирования этой области, — сказал депутат. — Пока что этот вопрос остается открытым, в то время как количество угроз растет практически соразмерно благам, которые дает использование ИИ.
![](http://mtdata.ru/u25/photoFD41/20041598304-0/original.jpg#20041598304)
GR-директор PIX Robotics, руководитель комитета «Руссофт» по ИИ Сергей Вотяков подчеркивает, что в работе чиновников с нейросетями важно использовать модели, которые не находятся во враждебных юрисдикциях. Роман Смирнов из «Девелоники» замечает, что пока наиболее мощные нейросети — зарубежные.
![](http://mtdata.ru/u25/photo593C/20264671153-0/original.jpg#20264671153)
— Они официально не применимы и часто даже блокируются на территории РФ, — заметил он. — В условиях отсутствия регулирования применения и внедрения современных технологий в области языковых моделей высок риск утечки персональных данных и конфиденциальной информации, которая может быть в тех актах, которые составляют чиновники.
Руководитель отдела бизнес-поддержки продаж компании «Дататех» Александр Чулапов также подчеркивает, что языковые модели должны проходить обучение на доверенных данных и документах с соблюдением требований информационной безопасности. Он предполагает, что в скором времени возможно появление открытых российских нейросетевых моделей, которые можно будет использовать для дополнительного обучения на базе нормативно-правовых актов и внутренних документов и применять в защищенном контуре.