Skip to main content
Logotipo de la Comisión Europea
AI Act Service Desk

AI Act Explorer

Considerando
Capítulo I: Disposiciones Generales
Capítulo II: Prácticas de IA Prohibidas
Capítulo III: Sistemas de IA de Alto Riesgo

Sección 1: Clasificación de los sistemas de IA como sistemas de alto riesgo

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Sección 3: Obligaciones de los proveedores y responsables del despliegue de sistemas de IA de alto riesgo y de otras partes

Sección 4: Autoridades notificantes y organismos notificados

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Capítulo IV: Obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA
Capítulo V: Modelos de IA de uso general
Capítulo VI: Medidas de apoyo a la innovación
Capítulo VII: Gobernanza
Capítulo VIII: Base de datos de la UE para sistemas de IA de alto riesgo
Capítulo IX: Vigilancia poscomercialización, intercambio de información y vigilancia del mercado

Sección 1: Vigilancia poscomercialización

Sección 2: Intercambio de información sobre incidentes graves

Sección 3: Garantía del cumplimiento

Sección 4: Vías de recurso

Sección 5: Supervisión, investigación, cumplimiento y seguimiento respecto de proveedores de modelos de IA de uso general

Capítulo X: Códigos de conducta y directrices
Capítulo XI: Delegación de poderes y procedimiento de comité
Capítulo XII: Sanciones
Capítulo XIII: Disposiciones finales
Anexos

considerando 54

Dado que los datos biométricos constituyen una categoría de datos personales sensibles, procede clasificar como de alto riesgo varios casos de uso críticos de sistemas biométricos, en la medida que su utilización esté permitida con arreglo al Derecho de la Unión y nacional pertinente. Las imprecisiones técnicas de los sistemas de IA destinados a la identificación biométrica remota de las personas físicas pueden dar lugar a resultados sesgados y tener efectos discriminatorios. El riesgo de dichos resultados sesgados y efectos discriminatorios es especialmente pertinente por lo que respecta a la edad, la etnia, la raza, el sexo o la discapacidad. Por lo tanto, los sistemas de identificación biométrica remota deben clasificarse como de alto riesgo debido a los riesgos que entrañan. Quedan excluidos de dicha clasificación los sistemas de IA destinados a la verificación biométrica, que incluye la autenticación, cuyo único propósito es confirmar que una persona física concreta es quien dicha persona dice ser, así como confirmar la identidad de una persona física con la finalidad exclusiva de que tenga acceso a un servicio, desbloquee un dispositivo o tenga un acceso seguro a un local. Además, deben clasificarse como de alto riesgo los sistemas de IA destinados a ser utilizados para la categorización biométrica conforme a atributos o características sensibles protegidos en virtud del artículo 9, apartado 1, del Reglamento (UE) 2016/679 sobre la base de datos biométricos, en la medida en que no estén prohibidos en virtud del presente Reglamento, así como los sistemas de reconocimiento de emociones que no estén prohibidos con arreglo al presente Reglamento. Los sistemas biométricos destinados a ser utilizados exclusivamente a efectos de posibilitar la ciberseguridad y las medidas de protección de los datos personales no deben considerarse sistemas de IA de alto riesgo.

Este considerando se refiere a