Estas son las IA que prohíbe el nuevo Reglamento de Inteligencia Artificial de la UE 

Con la nueva norma, quedan totalmente prohibidas las IA que creen valoraciones de personas con el fin de predecir el riesgo de que cometa un delito, entre otras.

El Diario Oficial de la Unión Europea (UE) ha publicado el Reglamento de Inteligencia Artificial (IA), la primera ley del mundo que regula la tecnología en estos términos ha nacido en Europa. Fue aprobado en marzo por Bruselas y entrará en vigor el próximo 1 de agosto, aunque existen diferentes plazos de aplicación para las diferentes medidas. 

La norma tiene como objetivo la mejora del funcionamiento del mercado de la UE mediante reglas en la introducción de IA en el mercado y su utilización, según explica el propio texto. Para ello, detalla qué prácticas están prohibidas, qué sistemas se consideran de alto riesgo, y sanciones por incumplir la ley. 

Prácticas de IA prohibidas. Para mediados de enero de 2025, unos  seis meses desde la entrada en vigor del reglamento, “quedará totalmente prohibida la introducción en el mercado o la puesta en servicio de determinadas IA por considerarlas de riesgo inaceptable”, explica Jesús Vázquez, abogado experto en Derecho Digital.

• Estarán prohibidos los sistemas de IA que sean capaces de trascender la conciencia de una persona con técnicas deliberadamente manipuladoras, engañosas o subliminales con el objetivo o el efecto de alterar el comportamiento de una persona o un colectivo de personas y les provoque un perjuicio considerable.

• Los que pueden provocar perjuicio considerable a un determinado colectivo por su edad, discapacidad, situación social o económica específica, según dicta el artículo 5 del reglamento.

• “Por ejemplo, con este reglamento no se podría comercializar en Europa un Sistema de IA para convencer a personas sin conocimientos, por su edad u otras características, para que inviertan en productos financieros muy complejos o de alto riesgo”, explica Vázquez.

• Los sistemas que se hayan creado para evaluar o clasificar a personas atendiendo a su comportamiento o rasgos personales cuando esa puntuación derive en un trato perjudicial, desfavorable, injustificado o desproporcionado hacia esas personas.

• Las IA que realicen evaluaciones de riesgos de personas con el fin de valorar o predecir el riesgo de que cometa un delito, basándose únicamente en la elaboración del perfil.

• Las creadas para intentar deducir las emociones de una persona, excepto cuando sea por motivos médicos o de seguridad.

• Las que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión. 

• Los sistemas que clasifiquen personas sobre la base de sus datos biométricos para etiquetarlas según su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual.

• Los que cuenten con identificación biométrica remota “en tiempo real” en espacios públicos con fines de garantía del cumplimiento del Derecho.

• En este caso hay excepciones, ya que se podrá usar cuando sea necesaria en una causa policial: para la búsqueda selectiva de víctimas concretas de secuestro o desaparecidas o que se tenga conocimiento de que ha cometido un delito de trata de seres humanos o explotación sexual, tráfico de armas o materiales nucleares, homicidio voluntario o tráfico de órganos. 

La opinión del experto. Para Jesús Vázquez, este Reglamento de IA es “necesario” en Europa, y en todo el mundo: “Las aplicaciones de la IA afectan a numerosos aspectos de nuestra vida. El lado positivo nos deja sistemas de IA aplicados a diagnosticar y tratar el cáncer, por ejemplo. En su lado más negativo podemos apreciar casos como la utilización de sistemas de puntuación social gestionados por el gobierno Chino, algo que podría suponer un riesgo inaceptable para los derechos y libertades”, concluye el experto en Derecho Digital.