Articolo 13: Trasparenza e fornitura di informazioni ai deployer

I sistemi di IA ad alto rischio devono essere progettati in modo tale da garantire che il loro funzionamento sia sufficientemente trasparente, consentendo ai deployer di comprendere gli output dei sistemi e di utilizzarli adeguatamente. Devono essere accompagnati da istruzioni chiare e complete contenenti i dati di contatto del fornitore, le caratteristiche, le capacità e i limiti delle prestazioni del sistema. Le informazioni fornite dovrebbero comprendere, tra l'altro, la finalità prevista, il livello di accuratezza, robustezza e cibersicurezza e i rischi potenziali. Le istruzioni dovrebbero inoltre specificare le misure di sorveglianza umana, i requisiti computazionali e di hardware, le esigenze di manutenzione e i meccanismi di registrazione per garantire il corretto funzionamento e la conformità.

I riassunti hanno lo scopo di fornire spiegazioni utili, ma non sono giuridicamente vincolanti.

1. I sistemi di IA ad alto rischio sono progettati e sviluppati in modo tale da garantire che il loro funzionamento sia sufficientemente trasparente da consentire ai deployer di interpretare l'output del sistema e utilizzarlo adeguatamente. Sono garantiti un tipo e un livello di trasparenza adeguati, che consentano di conseguire il rispetto dei pertinenti obblighi del fornitore e del deployer di cui alla sezione 3.

2. I sistemi di IA ad alto rischio sono accompagnati da istruzioni per l'uso, in un formato appropriato digitale o non digitale, che comprendono informazioni concise, complete, corrette e chiare che siano pertinenti, accessibili e comprensibili per i deployer.

3. Le istruzioni per l'uso contengono almeno le informazioni seguenti:

a)l'identità e i dati di contatto del fornitore e, ove applicabile, del suo rappresentante autorizzato;

b)le caratteristiche, le capacità e i limiti delle prestazioni del sistema di IA ad alto rischio, tra cui:

i)la finalità prevista;

ii)il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza di cui all'articolo 15 rispetto al quale il sistema di IA ad alto rischio è stato sottoposto a prova e convalidato, e qualsiasi circostanza nota e prevedibile che possa avere un impatto sul livello atteso di accuratezza, robustezza e cibersicurezza;

iii)qualsiasi circostanza nota o prevedibile connessa all'uso del sistema di IA ad alto rischio in conformità della sua finalità prevista o in condizioni di uso improprio ragionevolmente prevedibile che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali di cui all'articolo 9, paragrafo 2;

iv)se del caso, le capacità e caratteristiche tecniche del sistema di IA ad alto rischio connesse alla fornitura di informazioni pertinenti per spiegarne l'output;

v)ove opportuno, le sue prestazioni per quanto riguarda le persone o i gruppi di persone specifici sui quali il sistema è destinato a essere utilizzato;

vi)ove opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova, tenendo conto della finalità prevista del sistema di IA ad alto rischio;

vii)se del caso, informazioni che consentano ai deployer di interpretare l'output del sistema di IA ad alto rischio e di usarlo in modo opportuno;

c)le eventuali modifiche apportate al sistema di IA ad alto rischio e alle sue prestazioni, che sono state predeterminate dal fornitore al momento della valutazione iniziale della conformità;

d)le misure di sorveglianza umana di cui all'articolo 14, comprese le misure tecniche poste in essere per facilitare l'interpretazione degli output dei sistemi di IA ad alto rischio da parte dei deployer;

e)le risorse computazionali e di hardware necessarie, la durata prevista del sistema di IA ad alto rischio e tutte le misure di manutenzione e cura, compresa la relativa frequenza, necessarie per garantire il corretto funzionamento di tale sistema, anche per quanto riguarda gli aggiornamenti software;

f)se del caso, una descrizione dei meccanismi inclusi nel sistema di IA ad alto rischio che consente ai deployer di raccogliere, conservare e interpretare correttamente i log in conformità dell'articolo 12.

Considerazioni pertinenti

Consulta il testo ufficiale. Il testo utilizzato in questo strumento è l’‘Artificial Intelligence Act (Regolamento (UE) 2024/1689), versione ufficiale del 13 giugno 2024’

AI Act Explorer

Articolo 13: Trasparenza e fornitura di informazioni ai deployer