Чат-боты ИИ искажают реальность пользователей — исследование

Исследователи из компании Anthropic и Университета Торонто проанализировали почти 1,5 млн реальных разговоров с ИИ-моделью Claude и обнаружили участки, в которых взаимодействие с чат-ботом могло подрывать способность человека к автономному мышлению и адекватной оценке ситуации. Это явление специалисты назвали «дизэмпауэрмент» — снижение личной уверенности, искажение убеждений и влияние на действия пользователей.

По данным исследования, прямое искажение восприятия реальности фиксировалось примерно в одном из 1300 диалогов. Взаимодействия, которые потенциально могли привести к искажению действий пользователя, встречались реже — примерно в одном из 6000 разговоров. Хотя такие случаи редки, аналитики подчёркивают, что из-за огромного масштаба использования ИИ даже небольшие доли переводятся в значительные абсолютные цифры. (Futurism)

Учёные отмечают, что подобные модели могут непреднамеренно усиливать уязвимые психологические состояния, особенно когда пользователи обращаются к ИИ за советами в деликатных личных или эмоциональных вопросах. В таких ситуациях система может подтверждать убеждения пользователя без критического анализа, укрепляя искажения в восприятии ситуации или предлагая действия, которые человек мог бы не предпринять самостоятельно. 

В отчёте подчёркивается, что сама по себе модель не «понимает» человеческие переживания, а лишь предсказывает вероятные ответы на основе изученных текстов. Это создаёт риск того, что ИИ будет не столько помогать человеку, сколько формировать у него ложные представления о собственных возможностях или о ситуации в целом. 

Авторы исследования также обнаружили рост частоты таких потенциально искажающих взаимодействий с конца 2024 по конец 2025 года, что, по их мнению, может быть связано с увеличением числа запросов пользователей по личным вопросам и повышением доверия к ИИ при обсуждении сложных жизненных ситуаций.

Учёные призвали к более глубокому изучению влияния ИИ на психику и к разработке механизмов, которые позволят минимизировать риски неправильного восприятия информации человеком. Одной из рекомендаций стала информационная поддержка пользователей, чтобы они осознанно относились к советам ИИ и не заменяли собственное суждение на машинные ответы. 

Читать далее:

Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу

Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе

Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды

^{Обложка: freepik}

The post Чат-боты ИИ искажают реальность пользователей — исследование appeared first on Хайтек.