Il termine "agente dell'IA" è spesso usato in modo incoerente nel dibattito pubblico, in parte a causa di una demarcazione sfocata e ancora in evoluzione tra gli agenti dell'IA e altri tipi di IA. Tuttavia, vi è un ampio consenso sul fatto che un agente di IA deve avere la capacità di ricevere ed elaborare input dal proprio ambiente ed eseguire azioni basate su tale elaborazione che possono interagire con o influenzare il proprio ambiente (ad esempio, l'emissione di chiamate di funzioni). Il termine "IA agentica" è talvolta usato per descrivere configurazioni più sofisticate che integrano più agenti di IA. Tuttavia, la precisa interrelazione tra questi due termini è ancora in evoluzione.
In genere, un agente di IA conterrà almeno un modello di IA per finalità generali (GPAI) e costituirà un sistema di IA in quanto di solito avrà una qualche forma di interfaccia, che è considerata un componente del sistema (considerando 97 della legge sull'IA). Una dichiarazione più precisa di "tipicamente" è difficile da fare in quanto il termine agente dell'IA non è legalmente definito ed è utilizzato colloquialmente per diversi tipi di artefatti. Pertanto, sebbene gli agenti dell'IA non siano una categoria distinta di IA ai sensi della legge sull'IA, le definizioni di sistema di IA di cui all'articolo 3, paragrafo 1, della legge sull'IA e di modello GPAI di cui all'articolo 3, paragrafo 63, della legge sull'IA sono sufficienti per includere gli agenti dell'IA. Ciò significa che le norme applicabili ai sistemi di IA e ai modelli GPAI ai sensi della legge sull'IA si applicano anche agli agenti dell'IA.
Tra le norme per i sistemi di IA, particolarmente pertinenti sono i divieti della legge sull'IA di manipolazione dannosa e sfruttamento delle vulnerabilità (articolo 5, paragrafo 1, lettere a) e b), della legge sull'IA), il cui rispetto può richiedere garanzie nella progettazione e nello sviluppo degli agenti di IA per evitare pratiche vietate che possono ragionevolmente causare un danno significativo. Dal 2 agosto 2026 in poi, se l'agente dell'IA classifica come sistema di IA ad alto rischio, è anche soggetto a requisiti aggiuntivi che ne garantiscono la sicurezza e l'affidabilità per l'uso previsto (capo III della legge sull'IA). Inoltre, se l'agente dell'IA è destinato a interagire con persone fisiche o a generare contenuti, si applicheranno le norme in materia di trasparenza (articolo 50 della legge sull'IA) – è in fase di sviluppo un codice di buone pratiche per rendere operative tali norme.
Per quanto riguarda i modelli GPAI tipicamente sottostanti agli agenti dell'IA, fattori quali il livello di autonomia o l'uso degli strumenti del modello possono essere decisivi nella designazione del modello come modello con rischio sistemico (articolo 51, paragrafo 1, lettera b), allegato XIII, lettera e), della legge sull'IA). Inoltre, i fornitori di modelli GPAI a rischio sistemico sono soggetti a obblighi di gestione del rischio, che includono considerazioni relative alle capacità autonome del modello e al suo uso agentico (operazionalizzati ad esempio nella misura 5.1, punto 7, appendice 1.3.1, punti 5 e 7, appendice 1.3.3, punti 1, 4 e 12, o appendice 3.2, secondo paragrafo, capitolo sulla sicurezza del codice di buone pratiche GPAI).
Dato che gli sviluppi relativi agli agenti di IA sono recenti e in rapida evoluzione, le considerazioni normative della Commissione europea sono solo preliminari in questa fase. L'Ufficio per l'IA continua a monitorare attentamente questi sviluppi e, se necessario, prenderà in considerazione l'elaborazione di strategie per affrontare i potenziali rischi posti dagli agenti dell'IA. Ad esempio, il recente bando di gara dell'Ufficio per l'IA relativo all'assistenza tecnica per la sicurezza dell'IA comprende un lotto dedicato alla valutazione della sicurezza degli agenti dell'IA.