Smart Sampa vigila a millones: el sistema de IA de reconocimiento facial que captura delincuentes y a inocentes en Brasil

La ciudad de Sao Paulo, en Brasil, opera actualmente el sistema de reconocimiento facial más grande de América Latina. Este programa utiliza inteligencia artificial para monitorear la megalópolis a través de 40.000 cámaras.

El proyecto recibe el nombre de Smart Sampa y vigila de forma constante la vida de unos 12.000.000 de habitantes.

Desde su implementación a finales de 2024, la tecnología permitió encarcelar a casi 3.000 fugitivos. El sistema coteja las imágenes captadas en tiempo real con bases de datos del poder judicial. Además, la policía detuvo a casi 4.000 personas por delitos cometidos en flagrancia.

Orlando Morando, secretario municipal de Seguridad, indicó que la cantidad de arrestos realizados permitiría llenar siete cárceles. El funcionario manifestó que para él resulta imposible imaginar a la ciudad sin este programa. Smart Sampa representa para el municipio un costo mensual de $2.000.000.

Fallas en la identificación de fugitivos

Pese a los resultados positivos que resaltan las autoridades, la plataforma presenta fallas importantes. Informes de transparencia analizados por la agencia AFP revelan que, durante el primer año de operación, más del 8% de las personas arrestadas tras ser identificadas como fugitivas por el sistema debieron ser liberadas.

Los datos muestran que al menos 59 individuos fueron detenidos porque la tecnología los confundió con otras personas. Un caso relevante ocurrió en diciembre, cuando un hombre de 80 años pasó varias horas arrestado. El sistema lo identificó de forma equivocada como un violador.

Otra situación crítica se dio en un centro de salud mental. Agentes armados irrumpieron en una terapia psiquiátrica para llevarse a un paciente esposado. La policía liberó al sujeto horas después tras verificar que su orden judicial de captura carecía de vigencia.

Cerca de 141 detenciones ocurrieron debido a órdenes judiciales desactualizadas. El gobierno local atribuyó estos problemas a la base de datos de la justicia. El secretario Morando sostuvo que nadie permaneció preso por error, pues siempre se libera a los afectados.

Uso de la tecnología para control civil

El informe titulado Smart Sampa: ¿Transparencia para quién? ¿Transparencia de qué?, elaborado por organizaciones no gubernamentales (ONG), señala una particularidad en las capturas. Casi la mitad de los fugitivos atrapados por el sistema corresponden a deudores de pensiones alimenticias, un delito de carácter civil.

Amarilis Costa, coautora del informe y directora de la red de abogados Liberdade, advirtió que la herramienta se utiliza para el control de los ciudadanos y no solo para combatir la inseguridad pública.

Costa también señaló una falta de información sobre la identidad racial de los detenidos en los datos oficiales. Según la experta, esto impide determinar si existe un racismo algorítmico. Diversos estudios indican que los sistemas de reconocimiento facial suelen fallar con mayor frecuencia en personas negras.

Morando defiende la neutralidad de la herramienta y niega cualquier tipo de prejuicio racial en las detenciones. Las autoridades asocian el uso de Smart Sampa con una reducción de casi el 15% en el reporte de robos durante el año 2025.