El sistema judicial de Estados Unidos ha dado un paso significativo al decidir que TikTok, la popular plataforma de videos cortos, debe enfrentar una demanda legal tras la muerte de una niña de 10 años. La menor, oriunda de Pensilvania, falleció en diciembre de 2021 después de intentar un desafío viral conocido como el 'desafío del desmayo' o 'Blackout Challenge'.
La familia de la niña presentó la demanda alegando que la plataforma no tomó las medidas necesarias para proteger a los usuarios, permitiendo que el algoritmo promoviera contenido peligroso que incitó a la menor a participar en el reto.
La justicia estadounidense culpa a TikTok debido a la influencia que la plataforma ejerce a través de su algoritmo, el cual selecciona y presenta contenido a los usuarios basado en sus interacciones previas. En este caso, el algoritmo de TikTok habría mostrado repetidamente videos del peligroso 'desafío del desmayo' a la niña de 10 años, llevándola a intentar realizar el reto, que finalmente resultó en su muerte.
La demanda presentada por la familia de la menor, identifiada como Nylah Anderson, argumenta que TikTok es responsable de la exposición de los niños a contenido peligroso sin advertencias adecuadas sobre los riesgos involucrados.
En ese sentido, el Tribunal de Apelaciones del Tercer Circuito de Estados Unidos, en Filadelfia consideró que existen fundamentos suficientes para que TikTok enfrente un juicio, ya que la plataforma tiene el deber de proteger a sus usuarios, especialmente a los más jóvenes, de contenidos que puedan poner en riesgo su vida. La falta de control y supervisión sobre los desafíos virales y la falta de medidas para advertir sobre los peligros de tales retos fueron aspectos clave que influyeron en la decisión judicial.
El Tribunal del Distrito de Pensilvania, tras revisar los argumentos presentados, determinó que TikTok debe responder a las acusaciones en un juicio. Este fallo implica que la empresa no puede evadir su responsabilidad legal en el caso y que deberá enfrentar las consecuencias de permitir que contenidos peligrosos se propaguen en su plataforma sin las debidas precauciones.
La magistrada Patty Shwartz, al expresar su punto de vista en un panel conformado por tres jueces, detalló que la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996 brinda protección a las plataformas digitales contra demandas por contenidos creados por usuarios externos. No obstante, Shwartz resaltó que las sugerencias de contenido directas generadas por el algoritmo de TikTok no se encuentran amparadas por dicha legislación.
El juicio, que se espera comience en los próximos meses, pondrá a prueba no solo a TikTok sino también a otras plataformas de redes sociales sobre cómo manejan los desafíos virales y el contenido potencialmente dañino. La decisión del tribunal subraya la importancia de implementar medidas más estrictas y de mayor control sobre los algoritmos que recomiendan contenido, especialmente cuando el público objetivo incluye a menores de edad.
TikTok no ha dado declaraciones hasta el momento respecto a este asunto y cómo podría afectar el funcionamiento de sus algoritmos. En su sección de Seguridad en línea, la plataforma reconoce que ciertos desafíos pueden fomentar comportamientos riesgosos, asegurando que sus Normas de la comunidad prohíben los desafíos que puedan resultar en lesiones graves.
El 'desafío del desmayo' o 'Blackout Challenge' es un reto viral extremadamente peligroso que ha circulado en diferentes plataformas de redes sociales, incluidas TikTok. El desafío consiste en que los participantes, generalmente adolescentes y niños, se provocan un desmayo intencional mediante la hiperventilación o la asfixia autoinducida, con el objetivo de experimentar una sensación de euforia momentánea.
