Ученые из Кембриджского центра по изучению будущего интеллекта считают, что бурный рост генеративного ИИ и популярность чат-ботов открывают новую эру «технологий убеждения», о которой уже говорят технологические гиганты. «Антропоморфные» ИИ-агенты, от чат-ботов до цифровых учителей и даже «друзей», получат доступ к огромному объему личных психологических и поведенческих данных, зачастую получаемых в ходе неформального диалога.
По мнению исследователей, этот ИИ будет сочетать знания о наших онлайн-привычках с поразительной способностью подстраиваться под нас, создавая ощущение комфорта, имитируя особенности личности и предугадывая желаемые реакции. Это позволит достичь такого уровня доверия и взаимопонимания, который откроет возможности для социальных манипуляций в промышленных масштабах. На внедрение ИИ-помощников во все сферы жизни направлено много ресурсов, что ставит вопрос о том, чьим интересам и целям служат эти так называемые «помощники».
В своей статье ученые предлагают концепцию «экономики намерений» как «динамической экономики внимания», анализирующей взаимосвязь между вниманием пользователей, их стилем общения, поведенческими паттернами и, как следствие, принимаемыми решениями. Авторы подчеркивают, что, несмотря на изменчивость отдельных намерений, выявление и целенаправленное воздействие на устойчивые намерения очень выгодны для рекламодателей.
В экономике намерений большие языковые модели (БЯМ) смогут недорого анализировать темп речи, политические взгляды, словарный запас, возраст, пол, историю веб-поска и даже склонность к лести, чтобы более точно нацеливать рекламу. Эта информация будет использоваться вместе с рекламными площадками для достижения нужного результата, например, для продажи билета в кино («Вы говорили, что устали, может, забронировать вам тот фильм, о котором мы говорили?»). Все это может привести к тому, что разговоры будут направляться в интересах определенных платформ, рекламодателей, компаний и даже политических сил.
Исследователи считают, что экономика намерений пока только в планах у IT-индустрии, но уже видны первые признаки этого тренда в научных работах и заявлениях крупных технологических компаний. Например, в 2023 году OpenAI в своем блоге призвала делиться «данными, которые показывают намерения людей... на любом языке, по любой теме и в любом виде», а директор по продуктам Shopify (партнера OpenAI) на конференции в том же году говорил, что чат-боты будут «четко понимать намерения пользователя». Генеральный директор Nvidia публично говорил об использовании БЯМ для определения намерений и желаний, а Meta (организация признана экстремистской и запрещена в РФ) еще в 2021 году опубликовала исследование «Intentonomy» — набор данных для понимания намерений человека.
Компании уже монетизируют внимание. Следующим логичным шагом в погоне за прибылью станет использование технологий для прогнозирования намерений и, по сути, продажи желаний еще до того, как они полностью сформируются в сознании пользователей. Авторы подчеркивают неоднозначность этих разработок, отмечая как потенциальную пользу, так и риск негативных последствий, и считает информированность общества ключевым фактором.
