Entre 2016 y 2017 en Birmania ocurrieron matanzas motivadas por odio racial que había sido alimentado, en parte, mediante Facebook. Yuval Noah Harari, en su libro Nexus (Debate, 2024), disecciona ese caso para hablar del poder de los algoritmos.
Harari consigna que se calculan entre 7 mil y 25 mil los muertos de la comunidad rohinyá por la campaña de limpieza étnica emprendida por el Ejército de Birmania y extremistas budistas. Hubo además decenas de miles de violaciones y la expulsión de 730 mil rohinyás.
“Aunque los incendiarios mensajes antirrohinyá tuvieron su origen en extremistas de carne y hueso como el monje budista Wirathu, fueron los algoritmos de Facebook los que decidieron qué entradas publicar (…) En 2018, investigadores de la ONU concluyeron que, al divulgar contenido lleno de odio, Facebook había desempeñado un ‘papel determinante’ en la campaña de limpieza étnica”, escribe Harari.
El autor agrega que, por ese caso, Facebook terminaría reconociendo que “no hicimos lo suficiente para evitar que nuestra plataforma se usara para fomentar la división e incitar a la violencia fuera de la red”.
Siguiendo el argumento de Harari, en Facebook a los algoritmos se les concedió “un poder enorme” para diseminar unos mensajes sobre otros, en particular los que exacerbaran emociones, y los directivos de esa empresa sólo aceptaron que “no fueron capaces de moderarlos”.
Viene a cuento lo publicado por este autor bestseller por la decisión anunciada el martes, menos de diez años después de las matanzas en Birmania, por Mark Zuckerberg, presidente de Meta, la empresa detrás de Facebook e Instagram.
El famoso personaje ha informado que dejarán de contratar a terceros la verificación de los contenidos que se publican en Facebook e Instagram, que la comunidad se automoderará y, por si fuera poco, ha deslizado, como justificación, que la verificación lindaba en la censura.
Desde 2016, Meta decidió contratar a terceros para hacer una verificación que no quita o cancela contenidos de Facebook. Se limita a poner comentarios sobre la dudosa veracidad, o llana falsedad, de lo posteado, y la empresa tiene libertad para decidir qué difusión da a cada material.
Para dimensionar la importancia de lo que ahora anuncia Zuckerberg, cito a Alejandro Moreno, director de encuestas de EL FINANCIERO, quien en octubre divulgó el estudio CNEP México 2024, que indica que 55 por ciento de los electores mexicanos se informa por redes sociales.
Moreno desglosó ese universo: “46 por ciento del electorado mexicano siguió en Facebook noticias e información sobre las campañas; 30 por ciento lo hizo en YouTube, 26 por ciento en TikTok, 14 por ciento en Instagram y 13 por ciento en X”.
Harari alerta en su libro sobre la inteligencia artificial. Es un alegato juicioso que apela a la responsabilidad para vigilar la IA. De manera reduccionista, diría que el escritor teme la inminencia de situaciones donde los sistemas, y no los humanos, decidan asuntos cruciales.
El problema es que antes de temer por los robots, hay que lidiar con decisiones de humanos como Zuckerberg, quien se allana a autócratas que, en aras de un supuesto respeto a la libertad de expresión, dejan al mercado, y a poderosos entes –entre ellos las propias plataformas, que así ganan millones–, la calidad de la conversación, de los insumos para los debates, el alcance de la información veraz y la diseminación de propaganda y discursos de odio.
La plataforma donde hasta hoy la mitad de los electores mexicanos se informa está a punto de recibir un tsunami de mentiras. Gracias, Zuckerberg, qué peor noticia podría tener nuestra democracia.
