Frequently Asked Questions

Il termine "agente dell'IA" è spesso usato in modo incoerente nel dibattito pubblico, in parte a causa di una demarcazione sfocata e ancora in evoluzione tra gli agenti dell'IA e altri tipi di IA. Tuttavia, vi è un ampio consenso sul fatto che un agente di IA deve avere la capacità di ricevere ed elaborare input dal proprio ambiente ed eseguire azioni basate su tale elaborazione che possono interagire con o influenzare il proprio ambiente (ad esempio, l'emissione di chiamate di funzioni). Il termine "IA agentica" è talvolta usato per descrivere configurazioni più sofisticate che integrano più agenti di IA. Tuttavia, la precisa interrelazione tra questi due termini è ancora in evoluzione. 

In genere, un agente di IA conterrà almeno un modello di IA per finalità generali (GPAI) e costituirà un sistema di IA in quanto di solito avrà una qualche forma di interfaccia, che è considerata un componente del sistema (considerando 97 della legge sull'IA). Una dichiarazione più precisa di "tipicamente" è difficile da fare in quanto il termine agente dell'IA non è legalmente definito ed è utilizzato colloquialmente per diversi tipi di artefatti. Pertanto, sebbene gli agenti dell'IA non siano una categoria distinta di IA ai sensi della legge sull'IA, le definizioni di sistema di IA di cui all'articolo 3, paragrafo 1, della legge sull'IA e di modello GPAI di cui all'articolo 3, paragrafo 63, della legge sull'IA sono sufficienti per includere gli agenti dell'IA. Ciò significa che le norme applicabili ai sistemi di IA e ai modelli GPAI ai sensi della legge sull'IA si applicano anche agli agenti dell'IA. 

Tra le norme per i sistemi di IA, particolarmente pertinenti sono i divieti della legge sull'IA di manipolazione dannosa e sfruttamento delle vulnerabilità (articolo 5, paragrafo 1, lettere a) e b), della legge sull'IA), il cui rispetto può richiedere garanzie nella progettazione e nello sviluppo degli agenti di IA per evitare pratiche vietate che possono ragionevolmente causare un danno significativo. Dal 2 agosto 2026 in poi, se l'agente dell'IA classifica come sistema di IA ad alto rischio, è anche soggetto a requisiti aggiuntivi che ne garantiscono la sicurezza e l'affidabilità per l'uso previsto (capo III della legge sull'IA). Inoltre, se l'agente dell'IA è destinato a interagire con persone fisiche o a generare contenuti, si applicheranno le norme in materia di trasparenza (articolo 50 della legge sull'IA) – è in fase di sviluppo un codice di buone pratiche per rendere operative tali norme. 

Per quanto riguarda i modelli GPAI tipicamente sottostanti agli agenti dell'IA, fattori quali il livello di autonomia o l'uso degli strumenti del modello possono essere decisivi nella designazione del modello come modello con rischio sistemico (articolo 51, paragrafo 1, lettera b), allegato XIII, lettera e), della legge sull'IA). Inoltre, i fornitori di modelli GPAI a rischio sistemico sono soggetti a obblighi di gestione del rischio, che includono considerazioni relative alle capacità autonome del modello e al suo uso agentico (operazionalizzati ad esempio nella misura 5.1, punto 7, appendice 1.3.1, punti 5 e 7, appendice 1.3.3, punti 1, 4 e 12, o appendice 3.2, secondo paragrafo, capitolo sulla sicurezza del codice di buone pratiche GPAI). 

Dato che gli sviluppi relativi agli agenti di IA sono recenti e in rapida evoluzione, le considerazioni normative della Commissione europea sono solo preliminari in questa fase. L'Ufficio per l'IA continua a monitorare attentamente questi sviluppi e, se necessario, prenderà in considerazione l'elaborazione di strategie per affrontare i potenziali rischi posti dagli agenti dell'IA. Ad esempio, il recente bando di gara dell'Ufficio per l'IA relativo all'assistenza tecnica per la sicurezza dell'IA comprende un lotto dedicato alla valutazione della sicurezza degli agenti dell'IA. 

Quando un modello di IA per finalità generali è integrato in un sistema di IA o ne fa parte, il sistema risultante dovrebbe essere considerato un sistema di IA per finalità generali se acquisisce la capacità di servire molteplici finalità attraverso tale integrazione. I sistemi di IA per finalità generali possono essere utilizzati direttamente o integrati in altri sistemi di IA. 

Data la loro versatilità, i sistemi di IA per finalità generali possono essere utilizzati come sistemi di IA ad alto rischio a pieno titolo o come componenti di altri sistemi di IA ad alto rischio. Per garantire un'equa distribuzione delle responsabilità lungo tutta la catena del valore dell'IA, i fornitori di sistemi di IA per finalità generali dovrebbero cooperare strettamente con i fornitori di pertinenti sistemi di IA ad alto rischio, salvo altrimenti specificato nel presente regolamento. Tale cooperazione dovrebbe consentire ai fornitori di sistemi di IA ad alto rischio di rispettare i loro obblighi a norma del presente regolamento e facilitare le interazioni con le autorità competenti istituite dal regolamento. 

La legge sull'IA disciplina, tra l'altro, i modelli di IA per finalità generali immessi sul mercato dell'Unione, compresi il loro sviluppo e uso. Per ulteriori informazioni sulle condizioni in cui un modello di IA è considerato "generale", cfr. la domanda "Quando un modello si qualifica come modello di IA per finalità generali?" e la sezione 2.1 degli orientamenti sull'ambito di applicazione degli obblighi per i modelli di IA per finalità generali.

"immissione sul mercato": la prima fornitura di un sistema di IA o di un modello di IA per finalità generali per la distribuzione o l'uso sul mercato dell'Unione durante un'attività commerciale, a titolo oneroso o gratuito (articolo 3, paragrafo 9, punto 10, della legge sull'IA). Alcuni esempi di ciò che costituisce un'immissione sul mercato sono riportati nella sezione 3.1.2 degli orientamenti sull'ambito di applicazione degli obblighi per i modelli di IA per finalità generali.

L'articolo 3, punto 63, della legge sull'IA definisce un "modello di IA per finalità generali" come "un modello di IA, anche quando tale modello di IA è addestrato con una grande quantità di dati utilizzando l'autocontrollo su larga scala, che mostra una generalità significativa ed è in grado di svolgere con competenza un'ampia gamma di compiti distinti indipendentemente dal modo in cui il modello è immesso sul mercato e che può essere integrato in una varietà di sistemi o applicazioni a valle, ad eccezione dei modelli di IA utilizzati per attività di ricerca, sviluppo o prototipazione prima della loro immissione sul mercato". Questa definizione elenca in modo generale i fattori che determinano se un modello è un modello di IA per finalità generali. Tuttavia, non stabilisce criteri specifici che i potenziali fornitori possono utilizzare per valutare se il loro modello è un modello di IA per finalità generali. 

La sezione 2.1 degli orientamenti sull'ambito di applicazione degli obblighi per i modelli di IA per finalità generali fornisce un criterio indicativo: un modello è considerato un modello di IA per finalità generali se le risorse computazionali utilizzate per la sua formazione superano le 10^23 operazioni in virgola mobile e può generare linguaggio (testo o audio), da testo a immagine o da testo a video. Questa soglia di calcolo corrisponde alla quantità tipica di calcolo utilizzata per addestrare modelli con un miliardo di parametri su set di dati di grandi dimensioni. Inoltre, le modalità scelte consentono una generazione flessibile di contenuti in grado di soddisfare un'ampia gamma di compiti distinti. Tuttavia, questa non è una regola assoluta: i modelli che soddisfano questo criterio possono eccezionalmente non essere considerati modelli di IA per finalità generali se non hanno una generalità significativa, mentre i modelli al di sotto di questa soglia possono ancora essere modelli di IA per finalità generali se presentano una generalità significativa e possono svolgere con competenza un'ampia gamma di compiti.

Un modello di IA per finalità generali è classificato come modello di IA per finalità generali con rischio sistemico se soddisfa una delle due condizioni seguenti.

In primo luogo, se ha capacità che corrispondono o superano quelle dei modelli più avanzati. La legge sull'IA presume che i modelli addestrati con una quantità cumulativa di risorse computazionali superiore a 10^25 operazioni in virgola mobile abbiano tali capacità (articolo 51, paragrafo 2, della legge sull'IA). La soglia è fissata sulla base del fatto che l'uso di tale quantità di calcolo indica che il modello potrebbe avere un impatto significativo sul mercato dell'Unione a causa della sua portata o dei suoi potenziali effetti negativi sulla salute pubblica, sulla sicurezza, sui diritti fondamentali o sulla società. La Commissione europea adegua tale soglia ove necessario per tenere conto degli sviluppi tecnologici.

In secondo luogo, la Commissione europea può designare un modello come modello di IA per finalità generali con rischio sistemico, di propria iniziativa o a seguito di una segnalazione qualificata del gruppo di esperti scientifici, se il modello ha capacità o un impatto equivalenti a quelli dei modelli più avanzati (articolo 51, paragrafo 1, lettera b), della legge sull'IA). Ciò spiega il fatto che esistono modelli che possono presentare rischi sistemici nonostante non raggiungano la soglia di calcolo.

Per un modello che soddisfa una delle due condizioni, il suo fornitore deve rispettare obblighi aggiuntivi, tra cui la valutazione e l'attenuazione dei rischi sistemici (cfr. la domanda "Quali sono i requisiti aggiuntivi per i modelli di IA per finalità generali con rischio sistemico?").

I fornitori di modelli formati con meno di 10^25 operazioni in virgola mobile di calcolo cumulativo non sono tenuti a notificare alla Commissione europea il loro modello e a rispettare gli obblighi in materia di sicurezza, a meno che il loro modello non sia stato designato come presentante rischi sistemici dalla Commissione europea.

La formazione di un modello di IA per finalità generali (con o senza rischio sistemico) richiede un'allocazione anticipata considerevole delle risorse di calcolo. Pertanto, i fornitori sono in grado di sapere se il loro modello soddisferà il criterio indicativo per costituire un modello di IA per finalità generali, di cui alla sezione 2.1 degli orientamenti sull'ambito di applicazione degli obblighi per i modelli di IA per finalità generali, o la soglia di calcolo cumulativa dell'addestramento di cui all'articolo 51, paragrafo 2, della legge sull'IA, prima che l'addestramento sia completato (considerando 112 della legge sull'IA). In particolare, i fornitori dovrebbero stimare se il loro modello sarà un modello di IA per finalità generali (addestrato con più di 10^23 operazioni in virgola mobile di calcolo cumulativo) e un modello di IA per finalità generali con rischio sistemico (addestrato con più di 10^25 operazioni in virgola mobile di calcolo cumulativo) prima dell'inizio di un'ampia corsa di pre-formazione.

Una volta che un modello supera la soglia cumulativa di calcolo dell'addestramento di 10^25 operazioni in virgola mobile, di cui all'articolo 51, paragrafo 2, della legge sull'IA, o il fornitore sa che il modello supererà tale soglia, il fornitore ha due settimane per notificarlo alla Commissione europea (articolo 52 della legge sull'IA). Per ulteriori informazioni sulla notifica cfr. la domanda "Se un modello di IA per finalità generali supera la soglia di calcolo per tali modelli a rischio sistemico, si ritiene che abbia sempre un rischio sistemico?"

I fornitori possono contestare la classificazione automatica come modello di IA per finalità generali con rischio sistemico quando raggiungono la soglia di calcolo di cui all'articolo 51, paragrafo 2, della legge sull'IA. Ad esempio, possono confutare la presunzione che il loro modello abbia capacità ad alto impatto fornendo prove del fatto che le capacità del loro modello non corrispondono o superano quelle registrate nei modelli più avanzati. La sezione 2.3 degli orientamenti sull'ambito di applicazione degli obblighi per i modelli di IA per finalità generali fornisce ulteriori orientamenti su come farlo. Se la Commissione europea accetta le argomentazioni del fornitore, il modello cesserà di essere classificato come rischio sistemico, riducendo così gli obblighi per il fornitore in relazione a tale modello specifico dal momento dell'accettazione in poi.

In linea con l'applicazione collaborativa e proporzionata della legge sull'IA e con il diritto del fornitore a una buona amministrazione, la Commissione europea può tenere conto delle nuove informazioni presentate dal fornitore dopo la notifica, una volta che siano disponibili. Inoltre, la decisione della Commissione europea di accettare o respingere le argomentazioni del prestatore può tenere conto delle incertezze nelle informazioni fornite e delineare di conseguenza le condizioni per un eventuale riesame futuro. Tuttavia, gli obblighi per i fornitori di modelli di IA per finalità generali con rischio sistemico si applicano dal momento in cui il modello soddisfa la condizione di cui all'articolo 51, paragrafo 1, lettera a), della legge sull'IA (ossia capacità ad alto impatto, presunte raggiungendo la soglia di calcolo).