Estudio revela que algoritmos de redes sociales llevan a menores hacia contenido violento en cuestión de minutos
Las redes sociales forman parte de la vida cotidiana de millones de adolescentes. Sin embargo, una nueva investigación internacional plantea dudas sobre la capacidad de las principales plataformas para proteger a los usuarios más jóvenes frente al contenido potencialmente dañino.
Un estudio realizado por 5Rights Foundation, Revealing Reality y especialistas en salud concluyó que TikTok, Instagram y X expusieron cuentas simuladas de adolescentes a contenido violento, sexualizado y relacionado con depresión y suicidio en menos de 60 minutos de uso acumulado.
La investigación utilizó avatares digitales diseñados para replicar el comportamiento habitual de adolescentes reales en redes sociales. Las cuentas estuvieron activas durante apenas una hora distribuida en un periodo de 12 días, equivalente a unos cinco minutos diarios.
Los resultados mostraron que los algoritmos de recomendación dirigieron rápidamente a los perfiles hacia publicaciones cada vez más peligrosas. Según el informe, bastaron algunas interacciones con contenido relacionado con tristeza para que una de las cuentas recibiera recomendaciones de ese tipo.
La investigación también encontró que las herramientas de búsqueda facilitaron el acceso a material sexualizado y violento. En algunos casos, búsquedas de términos comunes derivaron en recomendaciones de contenido cada vez más explícito.
En X, los avatares accedieron en pocos minutos a imágenes de violencia gráfica y publicaciones relacionadas con hechos criminales. Las investigadoras señalaron que este tipo de material apareció sin mayores restricciones durante la navegación.
Otro de los hallazgos apunta a que las funciones de recompensa presentes en algunas plataformas incentivaron la permanencia de los usuarios, incluso cuando el contenido recibido resultaba emocionalmente perturbador.
El estudio también cuestionó la efectividad de los controles de edad. Todas las cuentas simuladas lograron registrarse utilizando fechas de nacimiento falsas, sin enfrentar procesos de verificación adicionales que limitaran el acceso.
Las investigadoras sostienen que estos resultados evidencian una brecha entre las políticas públicas de protección anunciadas por las plataformas y la experiencia que podrían enfrentar niñas, niños y adolescentes durante el uso cotidiano de estos servicios.
Aunque la investigación se desarrolló en México junto con el Instituto Nacional de Salud Pública de ese país, las autoras indicaron que los sistemas analizados operan de manera global y podrían generar experiencias similares en otros países de América Latina, incluida Costa Rica.
“Esta investigación demuestra que el contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la causa raíz de los daños”, indicó Marie-Eve Nadeau, jefa de Asuntos Internacionales de 5Rights Foundation.
“Esta investigación evidenció una clara brecha entre los compromisos públicos de seguridad de las plataformas y lo que las niñas y los niños encuentran en la práctica. Demuestra cuán rápidamente un feed puede volverse cada vez más concentrado en contenido violento, sexualizado o emocionalmente extremo, en respuesta a la actividad cotidiana en línea”, señaló Revealing Reality.
Especialistas vinculados al estudio señalaron que la discusión no debe centrarse únicamente en las conductas de los usuarios, sino también en el diseño de los sistemas que determinan qué contenido se muestra y se amplifica dentro de las redes sociales.