Глава Сбербанка Герман Греф рассказал, как весной 2023 года у прокуратуры появились вопросы к разрабатываемому кредитной организацией искусственному интеллекту. Результаты экспериментального использования нейросети Kandinsky вызвали возмущение некоторых депутатов Госдумы, которые обратились с просьбой организовать проверку в правоохранительные органы. Аналогичные проблемы возникли с ИИ от «Яндекса».
«Опыт показал, что мы только опубликовали модели — и нас, и «Яндекс» тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить — она на флаге нарисовала еще купола от Собора Василия Блаженного», - сообщил Греф (цитата по РБК) в ходе форума «Финополис», организованного ЦБ. По его словам, депутаты расценили «пробу пера» Kandinsky как издевательство над государственным символом. Благо, в прокуратуре оказались понимающие сотрудники, которые решили, что не стоит строго судить нейросеть, еще только обучающуюся креативу. Дело ограничилось советом прокурора быть аккуратнее и замечанием: «Могло быть иначе».
Тем не менее, в Сбербанке после этого случая перестраховались и заблокировали для нейросети определенные изображения и символы. Это несколько ограничило возможности развития Kandinsky, зато позволит лишний раз не уязвлять тонкие чувства парламентариев.
История, о которой рассказал Греф, произошла в апреле. Тогда лидер СРЗП в Госдуме Сергей Миронов попросил генпрокурора Игоря Краснова оценить сгенерированные Kandinsky 2.1 изображения. Миронову не понравилось, как нейросеть реагирует на запросы «Россия», «русские», «флаг РФ». Изображения получаются с изъянами, причем такими, которые формируют негативный образ о стране. Если же попросить нейросеть пофантазировать на тему США, такого эффекта не наблюдается. Во всяком случае, нейросеть не коверкает флаг.
Сам Миронов, при том что обратился в прокуратуру, допустил, что несознательность нейросети может быть не связана с гипотезой, будто её сознательно так обучили. Дело может быть в том, что при создании нейросети использовались разработки недружественных государств с определенными наборами изображений и визуальных стереотипов.
Творческому процессу лучше не мешать
Юрист Илья Ремесло не приветствовал бдительность депутатов. Он посетовал, что парламентарии попытались урегулировать сугубо научный процесс по политическим лекалам. Фактически же, история получилась о том, как искусственный интеллект хотели посадить помощью прокуратуры, заключил юрист.
