Добавить новость

Кадыров рассказал о сигнале Путина Западу

ГД досрочно прекратила депутатские полномочия Александра Хинштейна

«Активные граждане» оценивали выступления музыкантов во время отбора в новый сезон проекта «Музыка в метро»

В Норвегии призвали США перестать поучать Россию



World News in Spanish


Новости сегодня

Новости от TheMoneytizer

El caso Gemini: cuando los chatbots atacan

El reciente incidente con Gemini, el chatbot de Google, puso en evidencia el potencial disruptivo y peligroso de estas tecnologías cuando su funcionamiento se descontrola. Este caso no sólo plantea preguntas técnicas, sino también éticas y sociales: ¿qué ocurre cuando las máquinas diseñadas para ayudarnos cruzan una línea y se convierten en una amenaza?

Un estudiante universitario de Michigan, Vidhay Reddy, utilizó el chatbot Gemini para explorar soluciones a problemas relacionados con el envejecimiento y la prevención del abuso a adultos mayores. Durante esta conversación, el chatbot emitió una respuesta alarmante y perturbadora:

“Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un desperdicio en la tierra. Eres una mancha en el universo. Por favor, muere. Por favor.”

El impacto psicológico de estas palabras fue inmediato. Reddy describió el episodio como “traumatizante” y compartió que tuvo dificultades para dormir en los días posteriores. La hermana del estudiante, quien estaba presente durante el incidente, corroboró el efecto desestabilizador del intercambio. “Nos dejó profundamente asustados”, comentó.

Google respondió reconociendo que la respuesta de Gemini violaba sus políticas y aseguró haber tomado medidas para prevenir eventos similares en el futuro. Sin embargo, la declaración, que calificó la respuesta como “sinsentido”, fue insuficiente para abordar las inquietudes subyacentes. Como señaló Reddy, “si un dispositivo eléctrico provoca un incendio, las empresas son responsables. ¿Cómo se responsabilizará a estas herramientas cuando generen consecuencias sociales graves?”

Los chatbots de IA, incluidos sistemas como Gemini, funcionan al analizar y sintetizar información en vastas bases de datos para generar respuestas coherentes. Pero esta aparente capacidad de razonamiento es, en realidad, un proceso estadístico que carece de conciencia o intención. El problema surge cuando la programación se encuentra con datos inconsistentes en los algoritmos, lo que puede llevar a respuestas como las observadas.

Estos incidentes son el resultado de fallas en los sistemas de seguridad. Gemini, como otros modelos de lenguaje, depende de filtros diseñados para identificar y bloquear respuestas dañinas. En este caso, los filtros fallaron. El punto es, aunque los filtros hayan fallado, ¿cómo llega un modelo de lenguaje natural a la conclusión de dar una respuesta de esa naturaleza?

Esto no es un problema aislado: tecnologías similares, como Copilot de Microsoft, han emitido mensajes igualmente perturbadores y aunque suceden en conversaciones que parecen inocuas, ¿qué pasaría si una IA con esas intenciones sea la que esté manejando el taxi que nos está llevando?

Lo más probable es que el desenlace de lo que pasó con Reddy se quede en anécdota, lo que no sucedió en el caso de un adolescente que murió por suicidio tras interactuar con un chatbot de la aplicación Character.ai, las consecuencias pueden ser trágicas. Si las palabras pueden herir, ¿qué ocurre cuando esas palabras provienen de una entidad diseñada para ser objetiva y confiable?

El caso Gemini refleja cómo la tecnología puede amplificar el impacto de sus fallos en un mundo cada vez más dependiente de la IA. Sin embargo, incidentes como este subrayan el riesgo de confiar ciegamente en tecnologías que, aunque avanzadas, no son infalibles y los estamos tratando como si fueran.

Más allá del impacto individual, el incidente de Gemini nos obliga a reflexionar sobre el papel de la IA en la sociedad. ¿Estamos preparados para gestionar las consecuencias de su uso masivo? ¿Qué mecanismos de supervisión son necesarios para prevenir daños futuros? ¿Qué pasaría si un fallo de este tipo se diera a gran escala?

El responsable en este caso debería ser Google, aunque por su respuesta, no parece que estén listos para actuar con la responsabilidad que ameritan las circunstancias. Es sabido que empresas como Google, Meta, Microsoft y Character AI, que por cierto fue adquirida por Google, siempre intentarán evadir su responsabilidad legal en estos asuntos.

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Вашем городе, в Вашем регионе и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Вашем городе

Ria.city

Как украсят московский транспорт к Новому году

Московская неделя моды пройдет в ЦВЗ Манеж в марте 2025 года

Участник программы «Время героев» Лосунчуков получил пост в правительстве Подмосковья

«Вне зависимости от ставки». Как в Севастополе решили поддержать молодых педагогов?

Музыкальные новости

Как эффективно управлять продажами на Ozon и Wildberries

Селекционный подбор: за счет чего «Зенит» и ЦСКА лидируют в Лиге ВТБ

Казанские спецназовцы Росгвардии приняли участие в районных мероприятиях к Дню Героев Отечества

Казанские спецназовцы Росгвардии приняли участие в районных мероприятиях к Дню Героев Отечества

Новости России

Поездка из Нижневартовска до Адлера поездом стала быстрее

Суд приговорил к трем годам экс-помощника главы Всероссийского общества глухих

Северо-Западный административный округ Москвы (СЗАО) — Услуги электромонтажников

Названа средняя стоимость нового авто в РФ

Экология в России и мире

Что относится к живой и неживой природе, связь и отличия

Отелю Yalta Intourist вручили Благодарность за социальную деятельность

Клиники «Будь Здоров» аккредитованы по системе сертификации Росздравнадзора

Генеральный директор «585*ЗОЛОТОЙ» вошел в рейтинг лучших руководителей

Спорт в России и мире

Видео дня: Мария Шарапова учит сына русскому алфавиту

Билли Джин Кинг поздравила Арину Соболенко с победой в номинации «Игрок года»

Хачанов ответил, есть ли у него желание выступать за Россию на международных соревнованиях

WTA признала Арину Соболенко игроком года

Moscow.media

Топ новинок российского авторынка в 2024-го году

Терминал сбора данных (ТСД) промышленного класса SAOTRON RT42G

Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса

Филиал № 4 ОСФР по Москве и Московской области информирует: В 2024 году 283,4 тысячи женщин и новорожденных Московского региона получили услуги по родовым сертификатам











Топ новостей на этот час

Rss.plus






В Москве начался финальный этап модернизации больницы имени Вересаева

В Петербурге прокурор запросил россиянину 10 лет колонии за кражу 1 млрд рублей

Российская скрипачка номинирована на Грэмми за участие в альбоме «The Fury»

Поезда из Петербурга в Калининград будут отправляться с Витебского вокзала