Los bulos con IA que llevaron a Taylor Swift a hacer público su apoyo a Kamala Harris

Uno de los motivos que movió a Taylor Swift a hacer público su voto a Kamala Harris fue la difusión de imágenes suyas hechas con IA con mensajes de apoyo a Donald Trump.

• Lo escribía en el post que publicó en Instagram después del debate entre los dos candidatos: “Eso despertó mis temores sobre la IA y los peligros de difundir desinformación”.

Contexto. Justo antes de la Convención Demócrata de agosto, Trump publicó varias imágenes hechas con IA para lanzar sus mensajes como parte de su campaña.

• Entre ellas, una en la que aparecía una mujer de espaldas que simulaba a Kamala Harris en un mítin comunista o un vídeo en el que bailaba con Elon Musk.

En el caso de Swift, Trump subió entonces cuatro capturas de pantalla de contenidos que mezclaban fotos reales con otras generadas de manera artificial.

• Una incluía el mensaje “Taylor Swift quiere que votes por Donald Trump” con una imagen generada con IA de la cantante vestida como el Tío Sam, un símbolo de Estados Unidos. 

• En las demás aparecían supuestas swifties dando su apoyo al expresidente, pero solo una de ellas era real.

El origen del fake. La primera publicación es del 17 de agosto de un post de la cuenta @amuse que aparece etiquetado como sátira. 

• “Como se puede inferir de mi biografía, de vez en cuando, uso la sátira para expresar algo o, simplemente, echarme unas risas”, aclaraba en una nota.

La imagen real. La segunda captura contiene la foto de una chica con una camiseta en la que pone “swifties con Trump” junto a otros seguidores del expresidente. 

• Esta sí es real. La que aparece en la foto es Jenna Piwowarczyk, una joven estadounidense que se autodefine como “supremacista swiftie” y trumpista.

• En respuesta al diario The Independent, ella misma confirmó que la instantánea se había tomado en un mitin de Trump en Wisconsin en junio.

En el último pantallazo, Trump vuelve a incluir una imagen alterada con IA en la que aparecen varias mujeres y, al frente, dos chicas, una de ellas con una camiseta en apoyo al republicano.

• Al analizar la foto en la herramienta Forensics de InVID, que ayuda a detectar manipulaciones, se pueden ver algunas anomalías en las letras que lleva la chica de la derecha en la camiseta (en el mensaje de “swifties con Trump”).

• Hay otros detalles que pueden indicar que está hecho con  IA: los píxeles visibles alrededor de las letras (se pudo usar una herramienta digital para añadirlas); el cinturón de la chica con la camiseta roja y el bolso de la mujer que está más a la derecha (ambos incompletos) o las banderas del fondo (algunas diferentes a la de Estados Unidos).

• El propio Trump reconoció en entrevista con la Fox que “otra persona” había generado esas imágenes y que él mismo era consciente de los “peligros” de la difusión de este tipo de contenidos.

Taylor Swift y la difusión de imágenes con IA en periodo electoral

La respuesta. Organizaciones civiles como Public Citizen señalaron los daños derivados de la propagación de contenidos generados por IA con unas elecciones a la vista. 

• Su copresidenta, Lisa Gilbert, pidió establecer “regulaciones” a nivel federal para “hacer frente a este tipo de desinformación”.

En perspectiva. No es la primera vez que se plantea algo así. A principios de año, también se difundieron imágenes de Taylor Swift generadas por IA, en este caso, de carácter sexual.

• En ese momento, instituciones como la Casa Blanca y organizaciones como el sindicato de artistas SAG-AFTRA pidieron endurecer las normas para controlar la viralización de estos contenidos.

• Varios congresistas impulsaron, entonces, una norma que sirviese de marco legal en el país para proteger a las “víctimas del uso abusivo de la IA”, como apunta ABC News.