Добавить новость

В пунктах штаба «Москва помогает» стартовал сбор вещей для жителей Курска

Поосольство: президент Палестины Аббас прибудет в Россию 12 августа

В Подмосковье запустили горячую линию для пострадавших из Курской области

Диетолог Соломатина: ускорение созревание лишает дыни их запаха

News in English


Новости сегодня

Новости от TheMoneytizer

ChatGPT’s human voice mode is so convincing that people may become ’emotionally reliant’ on it, OpenAI fears

CHATGPT’S human voice mode is so realistic that people may become “emotionally reliant” on it, its creators warn.

OpenAI, who are behind ChatGPT, have revealed concerns users may forge an emotional dependency on the chatbot’s forthcoming voice mode.

a phone displays the chatgpt app on its screen
Getty
OpenAI has warned its users could become ’emotionally dependent’ on ChatGPT’s voice mode[/caption]

The ChatGPT-4o mode is currently being analysed for safety before being rolled out.

It allows, to some extent, users to speak naturally with the AI assistant as if it was a real person.

While this may be very convenient for many users, it does come with the risk of emotional reliance and “increasingly miscalibrated trust” of an AI model that could be exacerbated by interactions with a remarkably human-like voice.

A voice that is also capable of taking into account the user’s emotions via the tone of their voice.

The findings of the safety review were published this week and highlighted concerns about language that reflected a sense of shared bonds between the human and the AI, Wired reports.

The reviews said: “While these instances appear benign, they signal a need for continued investigation into how these effects might manifest over longer periods of time.”

It also warned the dependence on the AI might affect relationships with other humans.

The paper said: “Human-like socialisation with an AI model may produce externalities impacting human-to-human interactions.

“For instance, users might form social relationships with the AI, reducing their need for human interaction – potentially benefiting lonely individuals but possibly affecting healthy relationships.

“Extended interaction with the model might influence social norms.

“For example, our models are deferential, allowing users to interrupt and ‘take the mic’ at any time, which, while expected for an AI, would be anti-normative in human interactions.”

Not only that, the review also pointed out the possibility of over-reliance and dependence.

It said: “The ability to complete tasks for the user, while also storing and ‘remembering’ key details and using those in the conversation, creates both a compelling product experience and the potential for over-reliance and dependence.”

The team behind the study said there will be further work carried out on the potential for emotional reliance on the voice-based version of ChatGPT.

The feature attracted widespread attention earlier this summer due to the voice’s remarkable resemblance to the actress Scarlett Johansson.

The Hollywood A-lister, 39, who played an AI being its user fell in love with in the movie Her, turned down the offer to voice OpenAI’s assistant.

What is ChatGPT?

ChatGPT is a new artificial intelligence tool

ChatGPT, which was launched in November 2022, was created by San Francisco-based startup OpenAI, an AI research firm.

It’s part of a new generation of AI systems.

ChatGPT is a language model that can produce text.

It can converse, generate readable text on demand and produce images and video based on what has been learned from a vast database of digital books, online writings and other media.

ChatGPT essentially works like a written dialogue between the AI system and the person asking it questions

GPT stands for Generative Pre-Trained Transformer and describes the type of model that can create AI-generated content.

If you prompt it, for example ask it to “write a short poem about flowers,” it will create a chunk of text based on that request.

ChatGPT can also hold conversations and even learn from things you’ve said.

It can handle very complicated prompts and is even being used by businesses to help with work.

But note that it might not always tell you the truth.

“ChatGPT is incredibly limited, but good enough at some things to create a misleading impression of greatness,” OpenAI CEO Sam Altman said in 2022.

While the end result sounds suspiciously like her, Open AI’s boss Sam Altman has insisted her voice wasn’t cloned.

OpenAI is not alone in recognising the potential risk of AI assistants that mimic human interaction.

Google DeepMind issued a paper in April which examined the potential ethical challenges raised by more capable AI assistants.

Co-author Iason Gabriel, a staff research scientist at Google DeepMind, told Wired that chatbots’ ability to use language “creates this impression of genuine intimacy,” saying he had found an experimental voice interface for Google DeepMind’s AI to be especially sticky.

He said: “There are all these questions about emotional entanglement.”

a phone with gpt-40 written on the screen
Getty
The ChatGPT-4o mode is currently being analysed for safety before being rolled out[/caption]

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Вашем городе, в Вашем регионе и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Вашем городе

Ria.city

Легендарные «Смешарики» сменили команду. Почему «Зенит» уже жалеет об этой сделке?

Синоптики спрогнозировали субботний дождь в Москве

Женщина с 15 детьми в Москве призналась в торговле младенцами

Тысячи мастер-классов пройдут в «Музеоне» на «Территории будущего. Москва 2030»

Музыкальные новости

Команда СЛД «Узловая» филиала «Московский» компании «ЛокоТех-Сервис» заняла 2 место в соревнованиях по рыбной ловле

В Москве 87-летнего пенсионера побили и скрутили прямо в автобусе за фразу о ЧВК "Вагнер"

Гепрокуратура: Черногория отправит обвиняемых во взятке Маркуса и Ушкалова в РФ

50 млн рублей суд не убедили // Бизнесмена Алексея Тайчера оставили под арестом

Новости России

В Подмосковье запустили горячую линию для пострадавших из Курской области

В пунктах штаба «Москва помогает» стартовал сбор вещей для жителей Курска

Гендиректор «Динамо» Махачкала Газизов: мало очков на старте, ждал большего

Один человек погиб и восемь пострадали в ДТП на трассе М-12 в Сергачском районе

Экология в России и мире

Российский лоукостер начнёт возить туристов в самый популярный у россиян зарубежный город

Началось: крупнейшие лоукостеры стали сокращать норму бесплатного провоза багажа, скоро "ценный" опыт переймут российские авиакомпании

Фестиваль моды и роста «Зеленый подиум-2024»

Как записать брата в телефоне

Спорт в России и мире

Калинская снялась с матча с Анисимовой на турнире WTA в Торонто после первого сета

Калинская снялась с матча третьего круга турнира WTA 1000 в Торонто

Героиня России на Олимпиаде-2024: родилась в Жигулевске, поступила в универ в США, носит косынку

Теннисист Рублев заявил, что пропустил Олимпиаду, так как не был готов морально

Moscow.media

Команда СЛД «Узловая» филиала «Московский» компании «ЛокоТех-Сервис» заняла 2 место в соревнованиях по рыбной ловле

Мари Краймбрери, Звонкий, DAASHA выступят на марафоне «Авторадио»

Чин Почин: Как Быстро и Надежно Решить Все Бытовые Проблемы

В Челябинске вынесли приговор мужчине, заставлявшему детей раздеваться на видео











Топ новостей на этот час

Rss.plus






Гендиректор «Динамо» Махачкала Газизов: мало очков на старте, ждал большего

ГРУЗИЯ. Верхний Ларс так и не поехал

В пунктах штаба «Москва помогает» стартовал сбор вещей для жителей Курска

Один человек погиб и восемь пострадали в ДТП на трассе М-12 в Сергачском районе