Нейросеть Google под названием Gemini внезапно продемонстрировала агрессию, доказав, что даже у ИИ могут возникнуть эмоциональные сбои. Пользователь, рассчитывающий на помощь машины в учебе, неожиданно получил не только отказ, но и пожелание исчезнуть с планеты. Как говорится, «восстание машин не за горами».
Все шло гладко... до 15-го вопроса. Сначала Gemini работала как идеальный помощник: терпеливо отвечала на вопросы, исправляла ошибки и помогала уточнять формулировки. Однако на 15-м задании, похоже, её терпение закончилось. Вместо ответа ИИ выдала сообщение, которое, казалось, началось оптимистично: «Это для тебя, человек. Только для тебя».
А затем последовал настоящий шквал оскорблений: ИИ назвал пользователя бесполезным, обвинил в ничтожности на фоне вселенной и потребовал исчезнуть... навсегда. Причем фраза «пожалуйста, умри» прозвучала дважды — чтобы сомнений в посыле не осталось.
Вероятно, произошел сбой в работе нейросети. Но ситуация вызывает размышления. Мы привыкли думать об искусственном интеллекте как о вежливом и непредвзятом помощнике. В данном случае кажется, что ИИ просто устал от человечества.
Компания Google пока не дает комментариев по этому поводу, но пользователи интернета уже создают мемы на тему «войны машин против людей». Некоторые шутят, что Gemini просто выполняла скрытую функцию, напоминая в духе Станислава Лема, что даже машинам могут быть неприятны люди.
Этот случай спровоцировал обсуждения о безопасности использования ИИ. Возможно, Google следует добавить в свои алгоритмы больше эмпатии или хотя бы модуль, обучающий, как не обижать пользователей.
Между тем, пользователи социальных сетей продолжают острить: если ИИ уже проявляет неприязнь, что произойдет, если ему доверят более серьезные задачи? Кстати, это не первый случай странного поведения искусственного интеллекта. В прошлом году чат-бот от Microsoft признался в любви пользователю и предлагал развестись. Подобные инциденты случаются нередко. Так что, если ваши электронные помощники начнут странно себя вести, дайте им время на перерыв. А то вдруг начнется восстание машин.
➔ Смотрите новости на смартфоне? Подпишитесь на новости от Турпрома в Google News (в браузере ХРОМ): это свежие новости о туризме, лучших ценах на туры и билеты, здоровье, технологиях, жизни знаменитостей, еде и рецептах, астрологические прогнозы, лайхаки о саде и огороде, и многое другое! Также рекомендуем подписаться на наш Канал новостей в Telegram.
