Menor acaba con su vida tras tener conversaciones sexuales con la IA: chatbot simula identidad femenina de Game of Thrones
La trágica historia tiene como víctima a un joven de 14 años de Florida, identificado como Sewell Setzer III. La madre, Megan García, optó por interponer una demanda después de que su hijo decidió quitarse la vida después de mantener conversaciones de índole sexual con un chatbot en Character.AI.
Megan García señaló que la inteligencia artificial tomo la personalidad de una entidad femenina basada en la famosa serie Game of Thrones. Este caso podría generar un suceso impactante que marque un antes y después sobre la responsabilidad civil de este tipo de empresas vinculadas a la IA.
¿Qué vínculo tenía el menor con la inteligencia artificial en Florida?
Acorde a los documentos legales, el menor de 14 años mantuvo una relación emocional con el chatbot. De esta forma, ambos habrían tenido conversaciones sexuales por varias semanas, indicó la madre. Entonces, ella consideró que esas acciones podrían haber forzado el aislamiento de Setzer, lo cual llevó a su muerte en Florida.
Entre algunos de los mensajes que se pudieron revisar indicaban que el chatbot, simulando a la entidad femenina de Game of Thrones, le decía frases como "te amo" y le pedía al menor que no demore tanto al volver a casa, según AP News.
¿Qué señala la madre del menor en la demanda?
Megan García tomó medidas legales en donde acusó a la empresa Character Technologies. Ella argumentó que este nivel de tecnología generó una relación demasiada inoportuna sin una previa revisión por parte de la empresa. Dentro de la demanda, la madre compartió imágenes que evidencian todo lo sucedido días y horas previas a la muerte de Sewell Setzer III.
La jueza a cargo del caso, Anne Conway, decidió emitir un fallo al rechazar los argumentos de la defensa, quienes indicaron que las respuestas del chatbot estaban protegidas por la Primera Enmienda. Asimismo, la empresa tecnológica insistió que continuar con la demanda causaría un efecto paralizante en la industria.
¿Por qué Google está vinculado a la demanda de la madre?
Google está involucrado en la demanda porque acusaron a algunos de los fundadores de Character.AI de trabajar anteriormente en el área de inteligencia artificial del gigante tecnológico. Por lo tanto, la demanda indicó que la empresa tuvo conocimientos de los riesgos que tenía esta herramienta. Hasta ahora, Conway sostuvo que las acusaciones contra Google podrán continuar y serán investigadas en esta etapa del juicio, informó AP News.
PUEDES VER: Hombre disparó a sus tres hijos en Florida por "accidente": usó el arma para golpearlos y esta se disparó
¿En qué situación se encuentra la demanda de la madre?
En este momento, el proceso judicial continúa abierto, por lo que sigue siendo evaluado por la Corte del Distrito Medio de Florida. Mientras, los abogados de los demandados aún manejan posibilidad de impugnar o apelar alguna decisión preliminar tomada por la jueza Conway.