Frequently Asked Questions

Le terme «agent de l’IA» est souvent utilisé de manière incohérente dans le débat public, en partie en raison d’une démarcation floue et toujours en évolution entre les agents de l’IA et d’autres types d’IA. Néanmoins, il existe un large consensus sur le fait qu'un agent d'IA doit avoir la capacité de recevoir et de traiter les entrées de son environnement, et d'exécuter des actions basées sur ce traitement qui peuvent interagir avec ou affecter son environnement (par exemple, émettre des appels de fonction). Le terme «IA agentique» est parfois utilisé pour décrire des configurations plus sophistiquées qui intègrent plusieurs agents d’IA. Néanmoins, l'interrelation précise entre ces deux termes continue d'évoluer. 

En règle générale, un agent d’IA contiendra au moins un modèle d’IA à usage général (GPAI) et constituera un système d’IA, car il aura généralement une certaine forme d’interface, qui est considérée comme une composante du système (considérant 97 de la législation sur l’IA). Il est difficile de faire une déclaration plus précise que «généralement», car le terme «agent d’IA» n’est pas défini juridiquement et est utilisé familièrement pour différents types d’artefacts. Ainsi, si les agents d’IA ne constituent pas une catégorie distincte d’IA en vertu de la législation sur l’IA, les définitions d’un système d’IA à l’article 3, paragraphe 1, de la législation sur l’IA et d’un modèle d’IA généralisé à l’article 3, paragraphe 63, de la législation sur l’IA sont suffisantes pour couvrir les agents d’IA. Cela signifie que les règles applicables aux systèmes d’IA et aux modèles GPAI en vertu de la législation sur l’IA s’appliquent également aux agents d’IA. 

Parmi les règles applicables aux systèmes d’IA, les interdictions de la manipulation préjudiciable et de l’exploitation des vulnérabilités [article 5, paragraphe 1, points a) et b), de la législation sur l’IA], dont le respect peut nécessiter des garanties dans la conception et le développement des agents d’IA afin d’éviter les pratiques interdites qui sont raisonnablement susceptibles de causer un préjudice important, sont particulièrement pertinentes. À partir du 2 août 2026, si l’agent d’IA est classé comme un système d’IA à haut risque, il est également soumis à des exigences supplémentaires qui garantissent sa sécurité et sa fiabilité pour l’utilisation prévue (chapitre III de la législation sur l’IA). En outre, si l’agent d’IA est destiné à interagir avec des personnes physiques ou à générer du contenu, des règles de transparence s’appliqueront (article 50 de la législation sur l’IA) – un code de bonnes pratiques visant à rendre ces règles opérationnelles est en cours d’élaboration. 

En ce qui concerne les modèles d’IAGP qui sous-tendent généralement les agents d’IA, des facteurs tels que le niveau d’autonomie ou l’utilisation des outils du modèle peuvent être déterminants pour la désignation du modèle en tant que modèle présentant un risque systémique [article 51, paragraphe 1, point b), annexe XIII, point e), de la législation sur l’IA]. En outre, les fournisseurs de modèles GPAI présentant un risque systémique sont soumis à des obligations de gestion des risques, qui comprennent des considérations relatives aux capacités autonomes du modèle et à son utilisation agentique [opérationnalisées, par exemple, dans la mesure 5.1, point 7, appendice 1.3.1, points 5) et 7), appendice 1.3.3, points 1), 4) et 12), ou appendice 3.2, deuxième alinéa, chapitre sur la sûreté et la sécurité du code de bonnes pratiques GPAI]. 

Étant donné que les développements liés aux agents de l’IA sont récents et évoluent rapidement, les considérations réglementaires de la Commission européenne ne sont que préliminaires à ce stade. Le Bureau de l’IA continue de suivre de près ces évolutions et, si nécessaire, envisagera d’élaborer des stratégies pour faire face aux risques potentiels posés par les agents de l’IA. Par exemple, le récent appel d’offres du Bureau de l’IA sur l’assistance technique pour la sécurité de l’IA comprend un lot consacré à l’évaluation de la sûreté et de la sécurité des agents de l’IA. 

Lorsqu’un modèle d’IA à usage général est intégré dans un système d’IA ou en fait partie, le système qui en résulte devrait être considéré comme un système d’IA à usage général s’il acquiert la capacité de servir à de multiples fins grâce à cette intégration. Les systèmes d’IA à usage général peuvent être utilisés directement ou intégrés dans d’autres systèmes d’IA. 

Compte tenu de leur polyvalence, les systèmes d’IA à usage général peuvent être utilisés en tant que systèmes d’IA à haut risque à part entière ou en tant que composants d’autres systèmes d’IA à haut risque. Afin de garantir une répartition équitable des responsabilités tout au long de la chaîne de valeur de l’IA, les fournisseurs de systèmes d’IA à usage général devraient coopérer étroitement avec les fournisseurs de systèmes d’IA à haut risque pertinents, sauf disposition contraire du présent règlement. Cette coopération devrait permettre aux fournisseurs de systèmes d’IA à haut risque de se conformer aux obligations qui leur incombent en vertu du présent règlement et faciliter les interactions avec les autorités compétentes établies par le règlement. 

La législation sur l’IA réglemente, entre autres, les modèles d’IA à usage général qui sont mis sur le marché de l’Union, y compris leur développement et leur utilisation. Pour de plus amples informations sur les conditions dans lesquelles un modèle d’IA est considéré comme «à usage général», voir la question «Quand un modèle peut-il être qualifié de modèle d’IA à usage général?» et la section 2.1 des lignes directrices sur la portée des obligations applicables aux modèles d’IA à usage général.

«mise sur le marché»: la première fourniture d’un système d’IA ou d’un modèle d’IA à usage général destiné à être distribué ou utilisé sur le marché de l’Union au cours d’une activité commerciale, à titre onéreux ou gratuit (article 3, paragraphe 9, point 10), de la législation sur l’IA). Quelques exemples de ce qui constitue une mise sur le marché figurent à la section 3.1.2 des lignes directrices sur la portée des obligations applicables aux modèles d’IA à usage général.

L’article 3, paragraphe 63, de la législation sur l’IA définit un «modèle d’IA à usage général» comme «un modèle d’IA, y compris lorsqu’un tel modèle d’IA est formé avec une grande quantité de données au moyen d’une autosurveillance à grande échelle, qui présente une généralité significative et est capable d’exécuter avec compétence un large éventail de tâches distinctes, quelle que soit la manière dont le modèle est mis sur le marché, et qui peut être intégré dans divers systèmes ou applications en aval, à l’exception des modèles d’IA qui sont utilisés pour des activités de recherche, de développement ou de prototypage avant leur mise sur le marché». Cette définition énumère de manière générale les facteurs qui déterminent si un modèle est un modèle d’IA à usage général. Néanmoins, il n’établit pas de critères spécifiques que les fournisseurs potentiels peuvent utiliser pour évaluer si leur modèle est un modèle d’IA à usage général. 

La section 2.1 des lignes directrices sur la portée des obligations applicables aux modèles d’IA à usage général fournit un critère indicatif: un modèle est considéré comme un modèle d’IA à usage général si les ressources de calcul utilisées pour sa formation dépassent 10 23 opérations en virgule flottante et qu’il peut générer du langage (texte ou audio), du texte à l’image ou du texte à la vidéo. Ce seuil de calcul correspond à la quantité typique de calcul utilisée pour former des modèles avec un milliard de paramètres sur de grands ensembles de données. En outre, les modalités choisies permettent une génération de contenu flexible capable de s'adapter à un large éventail de tâches distinctes. Toutefois, il ne s’agit pas d’une règle absolue: les modèles répondant à ce critère peuvent exceptionnellement ne pas être considérés comme des modèles d’IA à usage général s’ils ne présentent pas de généralité significative, tandis que les modèles inférieurs à ce seuil peuvent toujours être des modèles d’IA à usage général s’ils présentent une généralité significative et peuvent effectuer avec compétence un large éventail de tâches.

Un modèle d’IA à usage général est classé comme modèle d’IA à usage général présentant un risque systémique s’il remplit l’une des deux conditions suivantes.

Tout d'abord, s'il a des capacités qui correspondent ou dépassent celles des modèles les plus avancés. La législation sur l’IA suppose que les modèles formés avec une quantité cumulée de ressources de calcul supérieure à 1025 opérations en virgule flottante disposent de telles capacités (article 51, paragraphe 2, de la législation sur l’IA). Le seuil est fixé sur la base du fait que l’utilisation de cette quantité de calcul indique que le modèle pourrait avoir une incidence significative sur le marché de l’Union en raison de sa portée ou de ses effets négatifs potentiels sur la santé publique, la sûreté, la sécurité, les droits fondamentaux ou la société. La Commission européenne adapte ce seuil si nécessaire pour tenir compte des évolutions technologiques.

Deuxièmement, la Commission européenne peut désigner un modèle en tant que modèle d’IA à usage général présentant un risque systémique, soit de sa propre initiative, soit à la suite d’une alerte qualifiée du groupe scientifique, si le modèle a des capacités ou une incidence équivalentes à celles des modèles les plus avancés [article 51, paragraphe 1, point b), de la législation sur l’IA]. Cela explique le fait qu'il existe des modèles qui peuvent présenter des risques systémiques même s'ils n'atteignent pas le seuil de calcul.

Pour qu’un modèle remplisse l’une ou l’autre condition, son fournisseur doit se conformer à des obligations supplémentaires, y compris l’évaluation et l’atténuation des risques systémiques (voir la question «Quelles sont les exigences supplémentaires applicables aux modèles d’IA à usage général présentant un risque systémique?»).

Les fournisseurs de modèles formés avec moins de 10^25 opérations en virgule flottante de calcul cumulatif ne sont pas censés notifier leur modèle à la Commission européenne et se conformer aux obligations en matière de sûreté et de sécurité, sauf si leur modèle a été désigné comme présentant des risques systémiques par la Commission européenne.

La formation d’un modèle d’IA à usage général (avec ou sans risque systémique) nécessite une allocation initiale considérable de ressources de calcul. Par conséquent, les fournisseurs sont en mesure de savoir si leur modèle remplira le critère indicatif de constitution d’un modèle d’IA à usage général, énoncé à la section 2.1 des lignes directrices sur la portée des obligations applicables aux modèles d’IA à usage général, ou le seuil de calcul de la formation cumulée prévu à l’article 51, paragraphe 2, de la législation sur l’IA, avant la fin de la formation (considérant 112 de la législation sur l’IA). En particulier, les fournisseurs sont censés estimer si leur modèle sera un modèle d’IA à usage général (entraîné avec plus de 10 23 opérations à virgule flottante de calcul cumulatif) et un modèle d’IA à usage général à risque systémique (entraîné avec plus de 10 25 opérations à virgule flottante de calcul cumulatif) avant le début d’une grande période de pré-entraînement.

Une fois qu’un modèle dépasse le seuil cumulé de calcul de la formation de 10^25 opérations en virgule flottante, fixé à l’article 51, paragraphe 2, de la législation sur l’IA, ou que le fournisseur sait que le modèle dépassera ce seuil, il dispose de deux semaines pour le notifier à la Commission européenne (article 52 de la législation sur l’IA). Pour de plus amples informations sur la notification, voir la question «Si un modèle d’IA à usage général est supérieur au seuil de calcul pour ces modèles présentant un risque systémique, est-il toujours considéré comme présentant un risque systémique?».

Les fournisseurs peuvent contester la classification automatique en tant que modèle d’IA à usage général présentant un risque systémique lorsqu’ils atteignent le seuil de calcul prévu à l’article 51, paragraphe 2, de la législation sur l’IA. Par exemple, ils peuvent réfuter la présomption selon laquelle leur modèle a des capacités à fort impact en apportant la preuve que les capacités de leur modèle ne correspondent pas ou ne dépassent pas celles enregistrées dans les modèles les plus avancés. La section 2.3 des lignes directrices sur le champ d’application des obligations applicables aux modèles d’IA à usage général fournit des orientations supplémentaires sur la manière d’y parvenir. Si la Commission européenne accepte les arguments du fournisseur, le modèle cessera d’être classé comme risque systémique, réduisant ainsi les obligations du fournisseur en ce qui concerne ce modèle spécifique à partir du moment de l’acceptation.

Conformément à l’application collaborative et proportionnée de la législation sur l’IA et au droit du fournisseur à une bonne administration, la Commission européenne peut tenir compte des nouvelles informations soumises par le fournisseur après la notification, une fois qu’elles sont disponibles. En outre, la décision de la Commission européenne d’accepter ou de rejeter les arguments du fournisseur peut tenir compte des incertitudes dans les informations fournies et définir les conditions d’une éventuelle réévaluation future en conséquence. Toutefois, les obligations incombant aux fournisseurs de modèles d’IA à usage général présentant un risque systémique s’appliquent à partir du moment où le modèle remplit la condition de l’article 51, paragraphe 1, point a), de la législation sur l’IA (c’est-à-dire les capacités à fort impact, présumées en atteignant le seuil de calcul).