Пополнился корпус материалов на уникальной двуязычной интернет-платформе, посвященной теме «Религия. Этика. Искусственный интеллект». Насколько вообще можно говорить об этике какой-то технологии, то есть некоей неодушевленной субстанции, появившейся благодаря научно-производственной деятельности человека? Как искусственный интеллект влияет на жизнь людей, возможно ли задать рамки его работы, основанные на традиционных ценностях? Кто или что становится регулятором баланса интересов в этой сфере? Какие нужны законодательные инициативы? Почему «цифровая эпоха» приводит нас в мир недостоверности и необъективности? Как в этом мире можно остаться человеком? Эти и другие вопросы затронули авторитетные исследователи, выступления которых разместили на платформе «Религия. Этика. Искусственный интеллект». О чем они говорят?
*
IT-технологии и цифровизация общества сделали доступными данные – каждый из нас ежедневно генерирует их, но эти технологии применимы как в положительном ключе, так и в отрицательном. Искусственный интеллект разделяется на слабый и сильный: слабый закручен на датоцентричности – в связи с этим можно подмешать в него злой умысел. Необходимо правильно расставить акценты в законодательстве и обеспечить создание технологических понятных процедур по обеспечению доверия: Церковь должна управлять гуманитарным блоком в качестве лидера для созидания. Своими мыслями об этом делится Арутюн Аветисян, академик РАН, доктор физико-математических наук, профессор РАН, директора Института системного программирования РАН.
*
Высокие технологии: эпоха природоподобия? Поразмышлять на эту тему предложила к.и.н Дарья Мацепуро, директор Центра науки и этики Томского государственного университета, директор Сибирского центра изучения искусственного интеллекта и цифровых технологий, директор Центра науки и этики. Опасение – стандартная история при появлении любой технологии. Искусственный интеллект в гуманитарной плоскости – это, по сути, когнитивные вычисления и моделирования процессов работы головного мозга. В 2022 году произошел перелом в развитии технологий, поскольку с появлением чата GPT вырос рынок генеративного ИИ по экспоненте и в данный момент мы находимся между разумным регулированием интересов разработчиков, государства, науки и сфер исследований и разработок. Этика – противоречивый термин применительно к ИИ, и она является саморегулятором баланса интересов, в результате чего необходимо следовать к выработке сбалансированных механизмов.
*
В библейской книге «Исход» говорится, что Бог наделил людей Своим Духом, чтобы они обладали мудростью, разумением, ведением и всяким искусством. Церковь призывает рассматривать в контексте наделения творчеством тематику искусственного интеллекта, основой которого должны стать фундаментальные человеческие качества – вера, надежда и любовь. Человеческая премудрость позволяет создавать все новые технологические системы, ведь абсолютно любая система – произведение людское, констатировал протоиерей Александр Абрамов, секретарь Синодальной комиссии по биоэтике.
*
Автомобиль, наделенный разумом-нейросетью, необходимо ограничивать. В результате этого была изобретена экспериментальная технология «вынесенного мозга»: она дала автомобилю возможность консультироваться в своем движении с большими ресурсами. Искусственный интеллект «вынесенного мозга» принимает атрибуты национальности и религиозной направленности и функционирует в зависимости от того, кто является его учеником или учителем.
Цифровой мир становится все более лживым и недостоверным, поэтому опорой и равновесием может стать Православная Церковь – базовой системой мировоззрения в условиях возрастающей социальной турбулентности, основой субъектной позиции в окружающем мире, опирающейся на Заповеди Божии. Важно в погоне за удобствами не забыть о состоянии духа человека, его способностях к созиданию, ведь способный ученый без души – потенциальный монстр, считает Константин Беляков, проректор по цифровой трансформации Государственного музыкально-педагогического института им. М.М. Ипполитова-Иванова.
*
Искусственный интеллект представляет из себя экспериментальную науку, и именно его технологии – основные объекты обсуждения, в том числе и в медиа. Смысл ИИ является, скорее, спекулятивным обсуждением, поэтому сопоставление огромных объемов данных производится с целью получения выводов, которые основываются на человеческих данных и информации.
Модели машинного обучения работают с образами формально – без понимания того, что они делают, и одно из опасений, связанное с искусственным интеллектом, – вероятность внедрения в данные, на которых он обучается, диверсионных форм: в зависимости от этого его можно склонить к определенному поведению. Необходимо введение разъяснительного уведомления: пользователь должен знать, что делают с ним, его данными и в каких целях они используются. Необъективность ИИ должна регулироваться, уверен советник директора Института проблем искусственного интеллекта ФИЦ ИУ РАН д.э.н. Александр Гурдус, затронувший тему взаимодействия человеческого общества и искусственного интеллекта. В этой сфере особенно важно умение смотреть вперёд, а не гадать, что будет за горизонтом, отметил он.
*
Проблематику выработки законодательных правил в условиях цифровизации затронула Ирина Рукавишникова, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству и государственному строительству. По ее мнению, задача законодателя – найти баланс, который не остановил бы развитие технологического прогресса: важно выработать законодательные правила и обеспечить их полноценное функционирование.
Сейчас мы догоняем технологии ИИ, и они должны внедряться во все органы федеральной исполнительной власти. По расчетам Правительства Российской Федерации, в 2024 году планируется довести внедрение искусственного интеллекта в российскую экономику до 50 процентов. В результате опросов респондентов разных социальных и возрастных групп мнения разделились: чем выше уровень образования и ниже возраст, тем больше опрошенные видят пользы от использования искусственного интеллекта.
При этом бесконтрольное использование алгоритмов ИИ может навредить стране, поэтому необходимо создание кодекса этики ИИ и маркировка продукта, созданного искусственным интеллектом, – у человека должен быть выбор, какой продукт использовать.
*
Выступления прозвучали на дискуссии «Высокие технологии и искусственный интеллект: между Сциллой мнимых страхов и Харибдой действительных вызовов» в рамках конференции «Православная биоэтика: оценивая риски, продумывая христианский ответ».
Секция прошла в рамках основной программы XXXII Международных Рождественских образовательных чтений. Организаторы – Синодальная комиссия по биоэтике и комиссия Межсоборного присутствия по вопросам общественной жизни, культуры, науки и информации.
***
В течение последних лет комиссия Межсоборного Присутствия Русской Православной Церкви по вопросам общественной жизни, культуры, науки и информации среди прочих тем занимается проблематикой применения этических критериев в рамках разработки и использования интеллектуальных компьютерных систем, на бытовом языке в России получивших наименование «искусственный интеллект». Одна из особенностей распространения высоких технологий заключается в том, что сложно предсказать, в какую сторону они разовьются в самом ближайшем будущем. Пожалуй, именно этот факт становится главной причиной, по которой в обществе возникает целый спектр страхов. Нередко они сформированы под влиянием фантастики – литературных, кинематографических и анимационных произведений. В то же время страхи могут овладевать в результате незнания того, как устроены цифровые процессы и что заставляет тот или иной механизм автоматизированно и сложно работать.
На платформе «Религия. Этика. Искусственный интеллект» удалось собрать уникальный контент на русском языке и начать перевод этого массива на английский язык, чтобы широко продвигать ценностную модель России и Русской Православной Церкви по теме развития высоких технологий. Все желающие имеют возможность ознакомиться с корпусм материалов, на основе которого могут быть созданы научные труды и документы, обозначающие позицию Русской Православной Церкви по теме применения высоких технологий в разных сферах жизни социума и государства. Сегодня заложены все предпосылки к конструктивному диалогу с представителями государственных и общественных институтов, профессиональным и экспертным сообществом по теме этического отношения к применению высоких технологий. Тем более это актуально в условиях, когда происходит становление технологического суверенитета Российской Федерации.
Научный руководитель проекта «Религия. Этика. Искусственный интеллект» – кандидат социологических наук Е.Е.Жуковская.
