Skip to main content
Logo der Europäischen Kommission
AI Act Service Desk

AI Act Explorer

Erwägungsgründe
KAPITEL I ALLGEMEINE BESTIMMUNGEN
KAPITEL II VERBOTENE PRAKTIKEN IM KI-BEREICH
KAPITEL III HOCHRISIKO-KI-SYSTEME

ABSCHNITT 1 Einstufung von KI-Systemen als Hochrisiko-KI-Systeme

ABSCHNITT 2 Anforderungen an Hochrisiko-KI-Systeme

ABSCHNITT 3 Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter

ABSCHNITT 4 Notifizierende Behörden und notifizierte Stellen

ABSCHNITT 5 Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

KAPITEL IV TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME
KAPITEL V KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK
KAPITEL VI MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG
KAPITEL VII GOVERNANCE
KAPITEL VIII EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME
KAPITEL IX BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG

ABSCHNITT 1 Beobachtung nach dem Inverkehrbringen

ABSCHNITT 2 Austausch von Informationen über schwerwiegende Vorfälle

ABSCHNITT 3 Durchsetzung

ABSCHNITT 4 Rechtsbehelfe

ABSCHNITT 5 Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

KAPITEL X VERHALTENSKODIZES UND LEITLINIEN
KAPITEL XI BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN
KAPITEL XII SANKTIONEN
KAPITEL XIII SCHLUSSBESTIMMUNGEN
Anhänge
  • Chapter III: High-Risk AI Systems
  • ABSCHNITT 4 Notifizierende Behörden und notifizierte Stellen

Artikel 31: Anforderungen an notifizierte Stellen

Summary

Die notifizierten Stellen müssen nach dem nationalen Recht eines Mitgliedstaats gegründet sein und die Anforderungen an die Organisation, das Qualitätsmanagement und die Cybersicherheit erfüllen. Sie müssen von den Anbietern von KI-Systemen und anderen interessierten Akteuren unabhängig sein und Unparteilichkeit und Vertraulichkeit gewährleisten. Die notifizierten Stellen müssen über dokumentierte Verfahren in Bezug auf Vertraulichkeit verfügen, bei denen die Größe und der Sektor des Anbieters berücksichtigt wird, und eine Haftpflichtversicherung abgeschlossen haben. Sie müssen mit beruflicher Integrität, Fachkompetenz und ausreichenden internen Kompetenzen arbeiten, an Koordinierungstätigkeiten mitwirken und stets über den Stand der einschlägigen Normen unterrichtet sein.

Die Zusammenfassungen sollen eine hilfreiche Erläuterung bieten, sind jedoch rechtlich nicht verbindlich.

(1)   Eine notifizierte Stelle wird nach dem nationalen Recht eines Mitgliedstaats gegründet und muss mit Rechtspersönlichkeit ausgestattet sein.

(2)   Die notifizierten Stellen müssen die zur Wahrnehmung ihrer Aufgaben erforderlichen Anforderungen an die Organisation, das Qualitätsmanagement, die Ressourcenausstattung und die Verfahren sowie angemessene Cybersicherheitsanforderungen erfüllen.

(3)   Die Organisationsstruktur, die Zuweisung der Zuständigkeiten, die Berichtslinien und die Funktionsweise der notifizierten Stellen müssen das Vertrauen in ihre Leistung und in die Ergebnisse der von ihnen durchgeführten Konformitätsbewertungstätigkeiten gewährleisten.

(4)   Die notifizierten Stellen müssen von dem Anbieter eines Hochrisiko-KI-Systems, zu dem sie Konformitätsbewertungstätigkeiten durchführen, unabhängig sein. Außerdem müssen die notifizierten Stellen von allen anderen Akteuren, die ein wirtschaftliches Interesse an den bewerteten Hochrisiko-KI-Systemen haben, und von allen Wettbewerbern des Anbieters unabhängig sein. Dies schließt die Verwendung von bewerteten Hochrisiko-KI-Systemen, die für die Tätigkeit der Konformitätsbewertungsstelle nötig sind, oder die Verwendung solcher Hochrisiko-KI-Systeme zum persönlichen Gebrauch nicht aus.

(5)   Weder die Konformitätsbewertungsstelle, ihre oberste Leitungsebene noch die für die Erfüllung ihrer Konformitätsbewertungsaufgaben zuständigen Mitarbeiter dürfen direkt an Entwurf, Entwicklung, Vermarktung oder Verwendung von Hochrisiko-KI-Systemen beteiligt sein oder die an diesen Tätigkeiten beteiligten Parteien vertreten. Sie dürfen sich nicht mit Tätigkeiten befassen, die ihre Unabhängigkeit bei der Beurteilung oder ihre Integrität im Zusammenhang mit den Konformitätsbewertungstätigkeiten, für die sie notifiziert sind, beeinträchtigen könnten. Dies gilt besonders für Beratungsdienstleistungen.

(6)   Notifizierte Stellen werden so organisiert und geführt, dass bei der Ausübung ihrer Tätigkeit Unabhängigkeit, Objektivität und Unparteilichkeit gewahrt sind. Von den notifizierten Stellen werden eine Struktur und Verfahren dokumentiert und umgesetzt, die ihre Unparteilichkeit gewährleisten und sicherstellen, dass die Grundsätze der Unparteilichkeit in ihrer gesamten Organisation, von allen Mitarbeitern und bei allen Bewertungstätigkeiten gefördert und angewandt werden.

(7)   Die notifizierten Stellen gewährleisten durch dokumentierte Verfahren, dass ihre Mitarbeiter, Ausschüsse, Zweigstellen, Unterauftragnehmer sowie alle zugeordneten Stellen oder Mitarbeiter externer Einrichtungen die Vertraulichkeit der Informationen, die bei der Durchführung der Konformitätsbewertungstätigkeiten in ihren Besitz gelangen, im Einklang mit Artikel 78 wahren, außer wenn ihre Offenlegung gesetzlich vorgeschrieben ist. Informationen, von denen Mitarbeiter der notifizierten Stellen bei der Durchführung ihrer Aufgaben gemäß dieser Verordnung Kenntnis erlangen, unterliegen der beruflichen Schweigepflicht, außer gegenüber den notifizierenden Behörden des Mitgliedstaats, in dem sie ihre Tätigkeiten ausüben.

(8)   Die notifizierten Stellen verfügen über Verfahren zur Durchführung ihrer Tätigkeiten unter gebührender Berücksichtigung der Größe eines Betreibers, des Sektors, in dem er tätig ist, seiner Struktur sowie der Komplexität des betreffenden KI-Systems.

(9)   Die notifizierten Stellen schließen eine angemessene Haftpflichtversicherung für ihre Konformitätsbewertungstätigkeiten ab, es sei denn, diese Haftpflicht wird aufgrund nationalen Rechts von dem Mitgliedstaat, in dem sie niedergelassen sind, gedeckt oder dieser Mitgliedstaat ist selbst unmittelbar für die Konformitätsbewertung zuständig.

(10)   Die notifizierten Stellen müssen in der Lage sein, ihre Aufgaben gemäß dieser Verordnung mit höchster beruflicher Integrität und der erforderlichen Fachkompetenz in dem betreffenden Bereich auszuführen, gleichgültig, ob diese Aufgaben von den notifizierten Stellen selbst oder in ihrem Auftrag und in ihrer Verantwortung durchgeführt werden.

(11)   Die notifizierten Stellen müssen über ausreichende interne Kompetenzen verfügen, um die von externen Stellen in ihrem Namen wahrgenommen Aufgaben wirksam beurteilen zu können. Die notifizierten Stellen müssen ständig über ausreichendes administratives, technisches, juristisches und wissenschaftliches Personal verfügen, das Erfahrungen und Kenntnisse in Bezug auf einschlägige Arten der KI-Systeme, Daten und Datenverarbeitung sowie die in Abschnitt 2 festgelegten Anforderungen besitzt.

(12)   Die notifizierten Stellen wirken an den in Artikel 38 genannten Koordinierungstätigkeiten mit. Sie wirken außerdem unmittelbar oder mittelbar an der Arbeit der europäischen Normungsorganisationen mit oder stellen sicher, dass sie stets über den Stand der einschlägigen Normen unterrichtet sind.

Relevant recitals