Skip to main content
Logo de la Commission européenne
AI Act Service Desk

AI Act Explorer

Considérant
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180
CHAPITRE I DISPOSITIONS GÉNÉRALES
CHAPITRE II PRATIQUES INTERDITES EN MATIÈRE D’IA
CHAPITRE III SYSTÈMES D’IA À HAUT RISQUE

SECTION 1 Classification de systèmes d’IA comme systèmes à haut risque

SECTION 2 Exigences applicables aux systèmes d’IA à haut risque

SECTION 3 Obligations incombant aux fournisseurs et aux déployeurs de systèmes d’IA à haut risque et à d’autres parties

SECTION 4 Autorités notifiantes et organismes notifiés

SECTION 5 Normes, évaluation de la conformité, certificats, enregistrement

CHAPITRE IV OBLIGATIONS DE TRANSPARENCE POUR LES FOURNISSEURS ET LES DÉPLOYEURS DE CERTAINS SYSTÈMES D’IA
CHAPITRE V MODÈLES D’IA À USAGE GÉNÉRAL

SECTION 1 Règles de classification

SECTION 2 Obligations incombant aux fournisseurs de modèles d’IA à usage général

SECTION 3 Obligations incombant aux fournisseurs de modèles d’IA à usage général présentant un risque systémique

SECTION 4 Codes de bonnes pratiques

CHAPITRE VI MESURES DE SOUTIEN À L’INNOVATION
CHAPITRE VII GOUVERNANCE

SECTION 1 Gouvernance au niveau de l’Union

SECTION 2 Autorités nationales compétentes

CHAPITRE VIII BASE DE DONNÉES DE L’UE POUR LES SYSTÈMES D’IA À HAUT RISQUE
CHAPITRE IX SURVEILLANCE APRÈS COMMERCIALISATION, PARTAGE D’INFORMATIONS ET SURVEILLANCE DU MARCHÉ

SECTION 1 Surveillance après commercialisation

SECTION 2 Partage d’informations sur les incidents graves

SECTION 3 Contrôle de l’application

SECTION 4 Voies de recours

SECTION 5 Surveillance, enquêtes, contrôle de l’application et contrôle en ce qui concerne les fournisseurs de modèles d’IA à usage général

CHAPITRE X CODES DE CONDUITE ET LIGNES DIRECTRICES
CHAPITRE XI DÉLÉGATION DE POUVOIR ET PROCÉDURE DE COMITÉ
CHAPITRE XII SANCTIONS
CHAPITRE XIII DISPOSITIONS FINALES
Annexes
ANNEXE I
ANNEXE II
ANNEXE III
ANNEXE IV
ANNEXE V
ANNEXE VI
ANNEXE VII
ANNEXE VIII
ANNEXE IX
ANNEXE X
ANNEXE XI
ANNEXE XII
ANNEXE XIII
  • Chapter III: High-Risk AI Systems
  • SECTION 2 Exigences applicables aux systèmes d’IA à haut risque

Article 14: Contrôle humain

Summary

Les systèmes d’IA à haut risque doivent être conçus de manière à permettre un contrôle humain pendant leur fonctionnement afin de réduire au minimum les risques pour la santé, la sécurité et les droits fondamentaux. Les mesures de contrôle devraient être proportionnées aux risques, à l’autonomie et au contexte d’utilisation du système, y compris les garanties intégrées et les contrôles mis en œuvre par le déployeur. Les êtres humains doivent être en mesure de surveiller, d’interpréter et d’ignorer le système, tout en étant conscients de la dépendance excessive potentielle à l’égard des résultats de l’IA. Pour les systèmes d’identification biométrique à distance, les décisions critiques doivent être vérifiées par au moins deux personnes compétentes, sauf dans des scénarios spécifiques en matière répressive ou de contrôle aux frontières.

Les résumés sont destinés à fournir des explications utiles, mais ne sont pas juridiquement contraignants.

1.   La conception et le développement des systèmes d’IA à haut risque permettent, notamment au moyen d’interfaces homme-machine appropriées, un contrôle effectif par des personnes physiques pendant leur période d’utilisation.

2.   Le contrôle humain vise à prévenir ou à réduire au minimum les risques pour la santé, la sécurité ou les droits fondamentaux qui peuvent apparaître lorsqu’un système d’IA à haut risque est utilisé conformément à sa destination ou dans des conditions de mauvaise utilisation raisonnablement prévisible, en particulier lorsque de tels risques persistent malgré l’application d’autres exigences énoncées dans la présente section.

3.   Les mesures de contrôle sont proportionnées aux risques, au niveau d’autonomie et au contexte d’utilisation du système d’IA à haut risque, et sont assurées au moyen d’un ou des deux types de mesures suivants:

a)des mesures identifiées et, lorsque cela est techniquement possible, intégrées par le fournisseur dans le système d’IA à haut risque avant la mise sur le marché ou la mise en service de ce dernier;
b)des mesures identifiées par le fournisseur avant la mise sur le marché ou la mise en service du système d’IA à haut risque et qui se prêtent à une mise en œuvre par le déployeur.

4.   Aux fins de la mise en œuvre des dispositions des paragraphes 1, 2 et 3, le système d’IA à haut risque est fourni au déployeur de telle manière que les personnes physiques chargées d’effectuer un contrôle humain, dans la mesure où cela est approprié et proportionné, ont la possibilité:

a)de comprendre correctement les capacités et les limites pertinentes du système d’IA à haut risque et d’être en mesure de surveiller correctement son fonctionnement, y compris en vue de détecter et de traiter les anomalies, les dysfonctionnements et les performances inattendues;
b)d’avoir conscience d’une éventuelle tendance à se fier automatiquement ou excessivement aux sorties produites par un système d’IA à haut risque (biais d’automatisation), en particulier pour les systèmes d’IA à haut risque utilisés pour fournir des informations ou des recommandations concernant les décisions à prendre par des personnes physiques;
c)d’interpréter correctement les sorties du système d’IA à haut risque, compte tenu par exemple des outils et méthodes d’interprétation disponibles;
d)de décider, dans une situation particulière, de ne pas utiliser le système d’IA à haut risque ou d’ignorer, remplacer ou inverser la sortie du système d’IA à haut risque;
e)d’intervenir dans le fonctionnement du système d’IA à haut risque ou d’interrompre le système au moyen d’un bouton d’arrêt ou d’une procédure similaire permettant au système de s’arrêter de manière sécurisée.

5.   Pour les systèmes d’IA à haut risque visés à l’annexe III, point 1 a), les mesures prévues au paragraphe 3 du présent article sont de nature à garantir que, en outre, aucune mesure ou décision n’est prise par le déployeur sur la base de l’identification résultant du système sans vérification et confirmation distinctes de cette identification par au moins deux personnes physiques disposant des compétences, de la formation et de l’autorité nécessaires.

L’exigence d’une vérification distincte par au moins deux personnes physiques ne s’applique pas aux systèmes d’IA à haut risque utilisés à des fins répressives ou dans les domaines de la migration, des contrôles aux frontières ou de l’asile, lorsque le droit de l’Union ou le droit national considère que l’application de cette exigence est disproportionnée.

Relevant recitals