i
Dies ist eine maschinelle Übersetzung durch den eTranslation-Dienst der Europäischen Kommission, der Ihnen hilft, diese Seite zu verstehen. Bitte lesen Sie die Nutzungsbedingungen.
Diese Liste häufig gestellter Fragen wurde auf der Grundlage von Anfragen, die während der Webinare des KI-Pakts eingingen, sowie von Beiträgen von Interessenträgern erstellt. Diese Liste wird regelmäßig und bei Bedarf aktualisiert.
Was ist das KI-Gesetz und was sind seine Ziele?
Das EU-KI-Gesetz ist das weltweit erste umfassende KI-Gesetz. Ziel ist es, Innovation und die Einführung von KI zu fördern und gleichzeitig ein hohes Maß an Schutz der Gesundheit, der Sicherheit und der Grundrechte, einschließlich Demokratie und Rechtsstaatlichkeit, zu gewährleisten.
Die Einführung von KI-Systemen hat ein großes Potenzial, gesellschaftlichen Nutzen und Wirtschaftswachstum zu bringen und die Innovation in der EU und die globale Wettbewerbsfähigkeit zu verbessern. In bestimmten Fällen können die besonderen Merkmale bestimmter KI-Systeme jedoch Risiken im Zusammenhang mit der Sicherheit der Nutzer, einschließlich der physischen Sicherheit, und den Grundrechten mit sich bringen. Einige leistungsstarke KI-Modelle, die weit verbreitet sind, könnten auch systemische Risiken darstellen.
Dies führt aufgrund des mangelnden Vertrauens zu Rechtsunsicherheit und einer möglicherweise langsameren Einführung von KI-Technologien durch Behörden, Unternehmen und Bürger. Unterschiedliche regulatorische Reaktionen der nationalen Behörden könnten zu einer Fragmentierung des Binnenmarkts führen.
Als Reaktion auf diese Herausforderungen waren legislative Maßnahmen erforderlich, um einen gut funktionierenden Binnenmarkt für KI-Systeme und -Modelle zu gewährleisten, in dem sowohl Nutzen als auch Risiken angemessen berücksichtigt werden.
Wann tritt das KI-Gesetz in Kraft? Wie ist der Zeitplan für die Umsetzung?
Das KI-Gesetz gilt schrittweise, mit einer vollständigen Einführung bis zum 2. August 2027.
Die Verbote, Definitionen und Bestimmungen im Zusammenhang mit KI-Kompetenz traten am 2. Februar 2025 in Kraft.
Die Vorschriften über die Governance und die Verpflichtungen für KI-Modelle mit allgemeinem Verwendungszweck traten am 2. August 2025 in Kraft.
Die Verpflichtungen in Bezug auf die in Anhang III aufgeführten Hochrisikosysteme, die Transparenzanforderungen (Artikel 50) sowie die Maßnahmen zur Innovationsförderung gelten ab dem 2. August 2026. Dies ist auch der Zeitpunkt, an dem mit der Durchsetzung des KI-Gesetzes begonnen wird;
Die Verpflichtungen für Hochrisiko-KI-Systeme, die als Hochrisiko-KI-Systeme eingestuft werden, weil sie in regulierte Produkte eingebettet sind, die in Anhang I (Listeder Harmonisierungsrechtsvorschriften der Union)aufgeführt sind, treten am 2. August 2027 in Kraft.
Werden in naher Zukunft Überarbeitungen des KI-Gesetzes erwartet?
Das KI-Gesetz ist als flexible und zukunftssichere Verordnung konzipiert, die es ermöglicht, die Vorschriften an das rasante Tempo der technologischen Entwicklung sowie an mögliche Änderungen bei der Nutzung von KI-Systemen und aufkommende Risiken anzupassen.
Während das KI-Gesetz im Allgemeinen nur im Gesetzgebungsverfahren geändert werden kann, ist die Kommission in bestimmten Fällen befugt, bestimmte Teile des KI-Gesetzes zu ändern. Beispielsweise können die folgenden Teile des KI-Gesetzes von der Kommission angepasst werden:
Liste der Anwendungsfälle mit hohem Risiko in Anhang III. Die Kommission ist verpflichtet, eine jährliche Überprüfung durchzuführen, um zu bewerten, ob Änderungen an der Liste erforderlich sind.
Der Schwellenwert, ab dem davon ausgegangen wird, dass KI-Modelle mit allgemeinem Verwendungszweck über hohe Wirkungsfähigkeiten verfügen und als systemische Risiken eingestuft werden.
Die Kommission bewertet auch regelmäßig, ob weitere Änderungen des KI-Gesetzes erforderlich sind, und erstattet dem Europäischen Parlament und dem Rat Bericht. Eine solche regelmäßige Bewertung ist direkt im KI-Gesetz vorgesehen.
Welche Arten von Systemen sind im KI-Gesetz geregelt?
Das KI-Gesetz gilt nicht für alle KI-Lösungen, sondern nur für solche, die die Definition eines „KI-Systems“ im Sinne von Artikel 3 Absatz 1 des KI-Gesetzes erfüllen.
Das KI-Gesetz verfolgt einen risikobasierten Ansatz und führt Vorschriften für KI-Systeme ein, die auf dem von ihnen ausgehenden Risikoniveau basieren. Jegliche KI-Praktiken mit einem inakzeptablen Risiko für die Gesundheit, die Sicherheit oder die Grundrechte, die in der Charta der Grundrechte verankert sind, sind verboten (z. B. KI-Systeme, die verwendet werden, um Emotionen von Arbeitnehmern bei der Arbeit zu erkennen, außer aus medizinischen Gründen und Sicherheitsgründen; bestimmte soziale Scoring-Praktiken). KI-Systeme mit hohem Risiko für Gesundheit, Sicherheit oder Grundrechte müssen bestimmte Anforderungen erfüllen, um sicherzustellen, dass sie sicher und vertrauenswürdig sind (z. B. KI-Systeme, die beim Grenzkontrollmanagement eingesetzt werden; Strafverfolgungsbehörden oder autonome Fahrzeuge könnten Beispiele für Hochrisiko-KI-Systeme sein). Bestimmte KI-Systeme müssen Transparenzanforderungen erfüllen (z. B. müssen Deep Fakes als KI-generiert gekennzeichnet werden; Chatbots sollten darüber informieren, dass eine Person nicht mit einem Menschen kommuniziert). Alle anderen KI-Systeme bleiben unreguliert und können in der EU ohne Anforderungen in Verkehr gebracht, in Betrieb genommen oder verwendet werden – zum Zeitpunkt der Ausarbeitung des Vorschlags für ein KI-Gesetz wurde geschätzt, dass diese 85 % betragen würden.
Gilt das KI-Gesetz für die bereits auf dem Markt verwendeten Systeme?
Das KI-Gesetz gilt nicht automatisch für alle KI-Systeme, die vor seinem Geltungsbeginn in Verkehr gebracht wurden. Stattdessen werden die Compliance-Verpflichtungen in Abhängigkeit von der Kategorie und davon, ob das System erheblichen Änderungen unterliegt, schrittweise eingeführt.
Das KI-Gesetz gilt ab dem 31. Dezember 2030 für KI-Systeme, die Bestandteile der mit den in Anhang X aufgeführten Rechtsakten eingerichteten IT-Großsysteme sind und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden. Werden solche IT-Großsysteme bewertet oder werden die Rechtsakte in Anhang X vor dem 31. Dezember 2030 ersetzt oder geändert, so ist das KI-Gesetz zu berücksichtigen.
Das KI-Gesetz gilt auch für Hochrisiko-KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur für den Fall, dass diese Systeme erheblich geändert werden. Das KI-Gesetz gilt ab dem 31. Dezember 2030 auch für Hochrisiko-KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden und von Behörden genutzt werden sollen.
Schließlich gilt das KI-Gesetz ab dem 2. August 2027 für KI-Modelle mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 in Verkehr gebracht wurden.
Die Vorschriften über verbotene KI-Praktiken (Artikel 5) gelten jedoch für alle KI-Systeme, ohne das Datum ihres Inverkehrbringens zu berücksichtigen.
Werden "logikbasierte" oder "wissensbasierte" Ansätze auch von der Definition des KI-Systems abgedeckt?
In Erwägungsgrund 12 des KI-Gesetzes, der sich speziell auf die Aufbauphase des KI-Systems konzentriert, wird weiter präzisiert, dass „die Techniken, die Rückschlüsse beim Aufbau eines KI-Systems ermöglichen, Ansätze des maschinellen Lernens umfassen, die aus Daten lernen, wie bestimmte Ziele erreicht werden können, sowie logische und wissensbasierte Ansätze, die aus verschlüsseltem Wissen oder symbolischer Darstellung der zu lösenden Aufgabe ableiten.“ Diese Techniken sollten als „KI-Techniken“ verstanden werden.
Neben verschiedenen Ansätzen des maschinellen Lernens, die häufig als KI-Technik verstanden werden, sind die in Erwägungsgrund 12 des KI-Gesetzes genannte zweite Kategorie von KI-Techniken „logische und wissensbasierte Ansätze, die aus verschlüsseltem Wissen oder symbolischer Darstellung der zu lösenden Aufgabe ableiten“. Anstatt aus Daten zu lernen, lernen diese KI-Systeme aus Wissen, einschließlich Regeln, Fakten und Beziehungen, die von menschlichen Experten kodiert werden.
Auf der Grundlage des von menschlichen Experten kodierten Wissens können diese Systeme über deduktive oder induktive Motoren oder unter Verwendung von Vorgängen wie Sortieren, Suchen, Abgleichen und Verketten „begründet“ werden. Indem sie logische Schlussfolgerungen ziehen, wenden solche Systeme formale Logik, vordefinierte Regeln oder Ontologien auf neue Situationen an. Logik und wissensbasierte Ansätze umfassen beispielsweise Wissensrepräsentation, induktive (logische) Programmierung, Wissensbasen, Inferenz- und deduktive Engines, (symbolisches) Denken, Expertensysteme sowie Such- und Optimierungsmethoden.
Was unterscheidet ein KI-Modell von einem KI-System? Werden Leitlinien herausgegeben?
Im KI-Gesetz wird zwischen einem KI-System im Sinne von Artikel 3 Absatz 1 und einem KI-Modell mit allgemeinem Verwendungszweck im Sinne von Artikel 3 Absatz 63 unterschieden.
Im KI-Gesetz werden KI-Modelle als solche bezeichnet, die „wesentliche Bestandteile von KI-Systemen sind. Sie stellen für sich genommen keine KI-Systeme dar. KI-Modelle erfordern die Hinzufügung weiterer Komponenten, wie zum Beispiel einer Benutzeroberfläche, um zu KI-Systemen zu werden. KI-Modelle sind in der Regel in KI-Systeme integriert und Teil dieser Systeme“ (Erwägungsgrund 97). „Große generative KI-Modelle sind ein typisches Beispiel für ein KI-Modell mit allgemeinem Verwendungszweck, da sie eine flexible Generierung von Inhalten wie Text, Audio, Bild oder Video ermöglichen, die eine Vielzahl unterschiedlicher Aufgaben problemlos erfüllen können“ (Erwägungsgrund 99).
Das KI-Gesetz definiert ein KI-System als ein „maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichen Autonomiegraden betrieben werden kann und das nach der Einführung Anpassungsfähigkeit aufweisen kann und das für explizite oder implizite Ziele aus dem Input, den es erhält, ableitet, wie Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können“ (Artikel 3 Absatz 1, Erwägungsgrund 12).
Weitere Informationen finden Sie in den Leitlinien für die Definition eines Systems der künstlichen Intelligenz.
Was bedeutet der „risikobasierte Ansatz“?
Das KI-Gesetz verfolgt einen risikobasierten Ansatz und klassifiziert KI-Systeme in vier verschiedene Risikokategorien: inakzeptables Risiko, hohes Risiko, Transparenzrisiko und minimales bis gar kein Risiko.
Für die inakzeptable Risikokategorie werden im KI-Gesetz bestimmte Praktiken aufgeführt, die verboten sind (Artikel 5 des KI-Gesetzes). Die Hochrisiko-KI-Systeme werden gemäß Artikel 6 des KI-Gesetzes in Verbindung mit Anhang I (Listeder Harmonisierungsrechtsvorschriften der Union)und Anhang III des KI-Gesetzes definiert. Anhang III enthält acht Bereiche, in denen der Einsatz von KI besonders sensibel sein kann, und listet konkrete Anwendungsfälle für jeden Bereich auf, die nach Einschätzung des Mitgesetzgebers erhebliche Risiken für Gesundheit, Sicherheit und Grundrechte darstellen. Für bestimmte KI-Systeme, bei denen Transparenz besonders wichtig ist, sind Transparenzvorschriften vorgesehen. Alle anderen KI-Systeme gelten als KI-Systeme mit „minimalem bis keinem Risiko“, und im KI-Gesetz sind für sie keine Verpflichtungen vorgesehen. Freiwillige Anbieter dieser Systeme können sich dafür entscheiden, die Anforderungen an vertrauenswürdige KI anzuwenden und freiwillige Verhaltenskodizes einzuhalten.
Welche Verpflichtungen bestehen für KI-Systeme mit hohem Risiko, Transparenzrisiko und minimalem Risiko?
Je nach Risikoniveau variieren die Verpflichtungen und Anforderungen im Zusammenhang mit bestimmten KI-Systemen.
Anbieter von Hochrisiko-KI-Systemen müssen sicherstellen, dass ihr Hochrisiko-KI-System die Anforderungen des KI-Gesetzes erfüllt, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Beispiele für solche Anforderungen sind die Einrichtung eines Risikomanagementsystems, die Aufzeichnung von Protokollen und die Gewährleistung einer qualitativen Daten- und Daten-Governance sowie die menschliche Aufsicht. Darüber hinaus müssen die Anbieter ihr System in der EU-Datenbank registrieren und dem System Gebrauchsanweisungen für Betreiber beifügen.
Anbieter von Transparenzrisikosystemen wie Chatbots, soziale Begleiter von KI oder Deep Fakes müssen bestimmte Transparenzverpflichtungen erfüllen. Dazu gehört beispielsweise, natürliche Personen darüber zu informieren, dass sie mit einem KI-System interagieren, oder sicherzustellen, dass KI-generierte Inhalte als solche erkannt werden können. Anbieter von Systemen, die Inhalte generieren oder manipulieren können, müssen offenlegen, dass die Inhalte von KI generiert werden.
Das KI-Gesetz schreibt keine Verpflichtungen für KI-Systeme mit geringem Risiko vor, aber die Mitgliedstaaten können die Ausarbeitung freiwilliger Verhaltenskodizes für KI-Systeme, bei denen es sich nicht um Hochrisikosysteme handelt, erleichtern.
Wie sollten sich entwickelnde KI-Systeme gehandhabt werden?
Grundsätzlich hat die Entwicklung eines KI-Systems keine rechtlichen Auswirkungen. Im Falle von Hochrisiko-KI-Systemen sollten solche Entwicklungen jedoch im Rahmen des Risikomanagements und der damit verbundenen Compliance-Verpflichtungen antizipiert und angegangen werden. Werden an einem KI-System wesentliche Änderungen vorgenommen, kann dies rechtliche Konsequenzen nach sich ziehen, einschließlich der Notwendigkeit einer erneuten Konformitätsbewertung nach dem KI-Gesetz.