Skip to main content
AI Act Service Desk

AI Act Explorer

Motywy
ROZDZIAŁ I: PRZEPISY OGÓLNE
ROZDZIAŁ II: ZAKAZANE PRAKTYKI
ROZDZIAŁ III: SYSTEMY AI WYSOKIEGO RYZYKA

SEKCJA 1: Klasyfikacja systemów AI jako systemów AI wysokiego ryzyka

SEKCJA 2: Wymogi dotyczące systemów AI wysokiego ryzyka

SEKCJA 3: Obowiązki dostawców i podmiotów stosujących systemy AI wysokiego ryzyka oraz innych osób

SEKCJA 4: Organy notyfikujące i jednostki notyfikowane

SEKCJA 5: Normy, ocena zgodności, certyfikaty, rejestracja

ROZDZIAŁ IV: OBOWIĄZKI W ZAKRESIE PRZEJRZYSTOŚCI DLA DOSTAWCÓW I PODMIOTÓW STOSUJĄCYCH NIEKTÓRE SYSTEMY AI
ROZDZIAŁ V: MODELE AI OGÓLNEGO PRZEZNACZENIA
ROZDZIAŁ VI: ŚRODKI WSPIERAJĄCE INNOWACYJNOŚĆ
ROZDZIAŁ VII: ZARZĄDZANIE
ROZDZIAŁ VIII: BAZA DANYCH UE DLA SYSTEMÓW AI WYSOKIEGO RYZYKA
ROZDZIAŁ IX: MONITOROWANIE PO WPROWADZENIU DO OBROTU, WYMIANA INFORMACJI ORAZ NADZÓR RYNKU

SEKCJA 1: Monitorowanie po wprowadzeniu do obrotu

SEKCJA 2: Wymiana informacji na temat poważnych incydentów

SEKCJA 3: Egzekwowanie

SEKCJA 4: Środki ochrony prawnej

SEKCJA 5: Nadzór, postępowania, egzekwowanie i monitorowanie w odniesieniu do dostawców modeli AI ogólnego przeznaczenia

ROZDZIAŁ X: KODEKSY POSTĘPOWANIA I WYTYCZNE
ROZDZIAŁ XI: PRZEKAZANIE UPRAWNIEŃ I PROCEDURA KOMITETOWA
ROZDZIAŁ XII: KARY
ROZDZIAŁ XIII: PRZEPISY KOŃCOWE
Załączniki

motyw 67

Wysokiej jakości dane i dostęp do wysokiej jakości danych odgrywają kluczową rolę w ustanawianiu struktury i zapewnianiu skuteczności działania wielu systemów AI, w szczególności w przypadku stosowania technik obejmujących trenowanie modeli, w celu zapewnienia, aby system AI wysokiego ryzyka działał zgodnie z przeznaczeniem i bezpiecznie oraz aby nie stał się źródłem zakazanej przez prawo Unii dyskryminacji. Wysokiej jakości zbiory danych treningowych, walidacyjnych i testowych wymagają wdrożenia odpowiednich praktyk w zakresie administrowania i zarządzania danymi. Zbiory danych treningowych, walidacyjnych i testowych, w tym etykiety, powinny być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne z punktu widzenia przeznaczenia systemu. Aby ułatwić zapewnienie zgodności z prawem Unii o ochronie danych, takim jak rozporządzenie (UE) 2016/679, praktyki w zakresie administrowania i zarządzania danymi powinny przewidywać, w przypadku danych osobowych, zapewnianie przejrzystości pierwotnego celu zbierania danych. Te zbiory danych powinny również charakteryzować się odpowiednimi właściwościami statystycznymi, w tym w odniesieniu do osób lub grup osób, wobec których system AI wysokiego ryzyka ma być wykorzystywany, ze szczególnym uwzględnieniem ograniczania ewentualnej stronniczości w zbiorach danych, która może mieć wpływ na zdrowie i bezpieczeństwo osób, negatywnie oddziaływać na prawa podstawowe lub prowadzić do dyskryminacji zakazanej na mocy prawa Unii, zwłaszcza w przypadku gdy dane wyjściowe wpływają na dane wejściowe wykorzystywane na potrzeby przyszłych operacji (sprzężenie zwrotne, ang. feedback loops). Stronniczość może być na przykład nieodłączną cechą źródłowych zbiorów danych, szczególnie jeżeli używa się danych historycznych lub wygenerowanych na etapie wdrażania systemów w warunkach rzeczywistych. Na wyniki generowane przez systemy AI może wpływać taka nieodłączna stronniczość, która z zasady stopniowo zwiększa się, a tym samym utrwala i pogłębia istniejącą dyskryminację, zwłaszcza w odniesieniu do osób należących do grup szczególnie wrażliwych, w tym grup rasowych lub etnicznych. Wymóg, aby zbiory danych były w jak największym stopniu kompletne i wolne od błędów, nie powinien wpływać na stosowanie technik ochrony prywatności w kontekście wdrażania i testowania systemów AI. W szczególności zbiory danych powinny uwzględniać – w zakresie wymaganym z uwagi na ich przeznaczenie – cechy, właściwości lub elementy, które są specyficzne dla określonego otoczenia geograficznego, kontekstualnego, behawioralnego lub funkcjonalnego, w którym dany system AI ma być wykorzystywany. Zgodność z wymogami związanymi z zarządzaniem danymi można zapewnić, korzystając z usług stron trzecich, które oferują certyfikowane usługi w zakresie zgodności, w tym weryfikację zarządzania danymi i integralności zbioru danych oraz praktyki w zakresie trenowania, walidacji i testowania danych, o ile zapewniona jest zgodność z wymogami dotyczącymi danych określonymi w niniejszym rozporządzeniu.

Niniejszy motyw odnosi się do