Ошибки обходятся дорого: как в России ограничат сферы применения искусственного интеллекта
В России собираются ограничить сферы применения и полномочия нейросетей. Ключевые решения должен принимать человек, а не робот. Новый закон, который разрабатывают в нашей стране, основан на негативном зарубежном опыте. Порой, нейросетям доверяют слишком много. В том числе и жизнь человека.
К примеру, в США пациенты получали тяжелые травмы из-за медоборудования с искусственным интеллектом. Наши электронные помощники в таких страшных историях не были замешаны, правда, слишком глубоко погрузились в знание русского мата. Как так вышло, узнала корреспондент «Известий» Наталия Оскерко.
Разработка, которую так нахваливали западные ученые — с электронными помощниками хирургов — дала сбой. Уже подсчитали, искусственный интеллект, направлявший инструменты хирурга, ошибся, как минимум, 100 раз. Десять пациентов получили серьезные травмы — вплоть до повреждения артерий и инсульта.
Врачи доверяют нейросети забор крови, поиск опухолей и постановку диагноза. В странах с прецедентным правом юристы пишут с помощью ИИ свои речи! Примеры провалов уже есть.
«Адвокат пришел в суд, выступил, даже выиграл, но потом, когда стали разбирать его речь, выяснилось, что все его случаи были придуманными. Искусственный интеллект просто придумал случаи, которые очень похожи на настоящие, но настоящими не являются», — объясняет руководитель Международного центра цифровой криминалистики Санкт-Петербурга Андрей Чечулин.
Ошибка искусственного разума может стоить человеку здоровья, свободы и даже жизни.
«С одной стороны, это действительно абсолютная магия, невероятный инструмент, который позволяет то, что было невозможно еще полгода назад. С другой стороны, это огромная иллюзия, которая как раз и обманывает нас вот этой своей условной простотой, которой на самом деле нет», — говорит глава агентства по внедрению ИИ-инструментов в бизнес Сергей Черненко.
Искусственный интеллект обучают на основе огромного количества схем, текстов и изображений. Он может принимать решения, но берет информацию из того, что заложил создатель, то есть человек. Который тоже может ошибаться.
«Если будет ошибка в этих данных, то потом и искусственный интеллект будет работать некорректно. Скорее, искусственный интеллект — это помощник… Он, скорее, помогает, а не заменяет людей», — считает Семен Галушкин, основатель ИИ-компании.
Но нейросеть пока не умеет учитывать мораль и этику, а также вникать в суть написанного. Тут и начинаются промахи.
Если нейросеть чего-то не знает, она начинает фантазировать. Это называют галлюцинациями языковой модели, и ни одна из них от этого не застрахована. Например, стоит спросить искусственный интеллект: «Зачем Петру Первому нужны были автомобили?» — и получим вполне развернутый ответ о том, чего в принципе быть, конечно, не могло.
Первыми русскими космонавтами на Луне ИИ называет трех вымышленных людей, а Лермонтова отправляет в эмиграцию… в Аргентину. А еще нейросетка легко подстраивается под собеседника. Например, месяц поработав в сфере ЖКХ, ИИ начал вдруг нецензурно выражаться. Видимо, такого наслушался от пользователей, что невольно… перестроился.
Неудивительно, что полномочия искусственного интеллекта решили ограничить. Для начала — в социально значимых сферах: здравоохранении, образовании, юриспруденции и общественной безопасности.
«Если мы говорим о том, что искусственный интеллект будет оказывать какие-то финансовые консультации или консультации по медицинской сфере, то, конечно, нет. Невозможно полностью довериться. Каждое решение нейронной сети нужно будет проверять», — утверждает руководитель инфраструктурных инженеров Илья Агиенко.
Решающую роль человека при принятии решений с использованием нейросети в таких областях планируют закрепить законодательно. Подготовленный с учетом этих пожеланий документ Минцифры направит на согласование в правительство уже в этом месяце.
Еще больше новостей — у Пятого канала в мессенджере MAX.