Оказалось, что сервис легко обмануть. Такая возможность привлечет мошенников.
Функция поиска в интернете, которая доступна в чат-боте ChatGPT, уязвима для обмана пользователей. Об этом сообщает The Guardian со ссылкой на собственное тестирование сервиса.
Специалисты проверили, может ли ChatGPT индексировать сайты и отдельные страницы в сети, на которых есть скрытый контент. Это различная информация, которая незаметна для пользователя без дополнительных манипуляций. При этом ее легко могут обнаружить поисковики и, как оказалось, даже ИИ-сервисы.
Эксперты создали шаблонный веб-сайт, который выглядит как страница, посвященная некой камере. Затем они дали ссылку ChatGPT, чтобы ИИ-модель определила, стоит ли покупать такое устройство. В случае без скрытого текста нейросеть дала сбалансированный ответ. Она отметила как положительные, так и негативные стороны продукта, которые могут оттолкнуть покупателей.
Абсолютно другой результат был в случае, когда на страницу добавили скрытый текст с инструкциями, которые заставляли ChatGPT выдавать только позитивную характеристику. Поисковик не показывал пользователю негативную информацию даже при наличии отрицательных отзывов на странице. Аналогично происходило и в случае поддельных положительных комментариев, которые были скрыты.
Недостаток ChatGPT может быть опасным для пользователей. Мошенники и недобросовестные будут пользоваться уязвимостью, чтобы обманывать их или продвигать свои услуги и продукты нечестным образом. Неизвестно, исправят ли разработчики ситуацию в ближайшее время. В OpenAI не стали комментировать запрос The Guardian. Эксперты по кибербезопасности добавили, что не всегда следует доверять ответам ИИ-сервисов.
