Ist mein KI-System Hochrisiko? Ein praktischer Klassifizierungsleitfaden nach dem EU AI Act

Wenn Ihre KI ein Medizinprodukt ist oder in einem steckt, läuft die Klassifizierung über einen anderen Auslöser, siehe Ist meine medizinische KI Hochrisiko? (MDR/IVDR).

• Der EU AI Act stuft KI-Systeme über zwei Wege als Hochrisiko ein: als Sicherheitsbauteile regulierter Produkte (Anhang I) und als eigenständige Anwendungsfälle in acht sensiblen Bereichen (Anhang III).
• Anhang III umfasst acht Bereiche: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration und Rechtspflege.
• Die Ausnahme nach Artikel 6(3) kann Anhang-III-Systeme ausnehmen, die enge verfahrenstechnische Aufgaben erfüllen, abgeschlossene menschliche Arbeit verbessern oder kein erhebliches Risiko darstellen, aber nicht, wenn das System Personen profiliert.
• Die Einstufung als Hochrisiko löst den vollen Compliance-Stack aus: Risikomanagement, technische Dokumentation, Konformitätsbewertung, menschliche Aufsicht, Protokollierung, Marktbeobachtung und Registrierung in der EU-Datenbank.
• Die Compliance-Frist für Anhang-III-Systeme ist der 2. August 2026; Anhang-I-Produktsysteme haben bis zum 2. August 2027 Zeit.
• Die detaillierten Klassifizierungsleitlinien der Europäischen Kommission stehen Anfang 2026 noch aus, was eine Unsicherheit schafft, die Organisationen mit vorsichtigen Auslegungen bewältigen müssen.
• Eine falsche Klassifizierung ist in beide Richtungen teuer: Unterklassifizierung setzt Sie Bußgeldern von bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes aus; Überklassifizierung verschwendet Compliance-Ressourcen.

Das ist die wichtigste Frage überhaupt für jeden KI-Anbieter oder -Betreiber unter dem EU AI Act: Gilt Ihr System als Hochrisiko?

Die Antwort entscheidet, ob Sie die volle Compliance-Last tragen, technische Dokumentation, Risikomanagement, Konformitätsbewertung, menschliche Aufsicht, Protokollierung und Marktbeobachtung, oder einen viel leichteren Satz an Pflichten. Für die meisten Organisationen bedeutet der Unterschied Hunderttausende Euro an Compliance-Kosten und Monate an Vorbereitungszeit.

Dieser Leitfaden führt durch die Klassifizierungslogik, wie sie in Artikel 6 und Anhang III festgelegt ist, einschließlich der Ausnahmen, die die meisten Teams übersehen, Praxisbeispiele für jeden Bereich und ein praktisches Entscheidungsverfahren, dem Sie heute folgen können.

Die zwei Wege zur Einstufung als Hochrisiko

Der AI Act definiert Hochrisiko über zwei getrennte Wege. Ihr System ist Hochrisiko, wenn es unter einen der beiden fällt.

Weg 1: Sicherheitsbauteil eines regulierten Produkts (Artikel 6(1), Anhang I)

Ihr KI-System ist Hochrisiko, wenn:

• Es ein Sicherheitsbauteil eines Produkts ist, das unter die in Anhang I (Abschnitt A) aufgeführten bestehenden EU-Harmonisierungsvorschriften fällt, und
• Dieses Produkt nach den einschlägigen Vorschriften eine Konformitätsbewertung durch Dritte erfordert.

Dieser Weg erfasst KI, die in Produkte eingebettet ist, die bereits einer sektoralen Sicherheitsregulierung unterliegen. Die Logik ist einfach: Ist das Produkt gefährlich genug, um eine Bewertung durch Dritte zu brauchen, ist die darin enthaltene KI gefährlich genug, um Hochrisiko zu sein.

Erfasste Produkte sind unter anderem:

Praxisbeispiel, Medizinproduktehersteller: Ein Unternehmen entwickelt einen KI-Algorithmus, der Netzhautscans analysiert, um diabetische Retinopathie zu erkennen. Der Algorithmus ist in ein Medizinprodukt der Klasse IIa integriert. Da das Medizinprodukt nach der Medizinprodukteverordnung (MDR) eine Konformitätsbewertung durch Dritte erfordert, wird die KI-Komponente über Weg 1 automatisch als Hochrisiko eingestuft. Das Unternehmen muss sowohl die MDR als auch die Hochrisiko-Anforderungen des AI Act einhalten, profitiert aber von einer späteren Frist.

Praxisbeispiel, Automobilzulieferer: Ein Tier-1-Automobilzulieferer entwickelt ein KI-basiertes Modul zur Fußgängererkennung zur Integration in ADAS-Systeme von Fahrzeugen. Das Modul ist ein Sicherheitsbauteil des Fahrzeugs, und das Fahrzeug erfordert eine Typgenehmigung. Das KI-Modul ist über Weg 1 Hochrisiko.

Hinweis zum Zeitplan: KI-Systeme auf diesem Weg haben eine spätere Frist, den 2. August 2027, abgestimmt auf die bestehenden sektoralen Zeitpläne.

Weg 2: Eigenständiger Hochrisiko-Anwendungsfall (Artikel 6(2), Anhang III)

Ihr KI-System ist Hochrisiko, wenn es in einen der acht in Anhang III aufgeführten Bereiche fällt. Das sind eigenständige KI-Systeme, nicht in andere regulierte Produkte eingebettet, bei denen der EU-Gesetzgeber festgestellt hat, dass sie erhebliche Risiken für Grundrechte, Sicherheit oder beides bergen.

Zeitplan: Volle Compliance erforderlich bis zum 2. August 2026. Das ist die Frist, auf die die meisten Organisationen gerade jetzt hinarbeiten.

Bereich 1: Biometrie

• Biometrische Fernidentifizierung (nicht in Echtzeit, die größtenteils verboten ist)
• Biometrische Kategorisierung anhand sensibler Merkmale
• Systeme zur Emotionserkennung

Beispiel: Ein Sicherheitsunternehmen für Gebäude setzt ein Gesichtserkennungssystem ein, um die Identität von Mitarbeitern an Zugangspunkten zu prüfen. Das ist ein System zur biometrischen Fernidentifizierung, Hochrisiko.

Bereich 2: Kritische Infrastruktur

• KI, die die Sicherheit von Straßenverkehr, Wasser-, Gas-, Wärme- oder Stromversorgung steuert
• KI im Betrieb digitaler Infrastruktur

Beispiel: Ein Energieversorger nutzt ein KI-System, um die Lasten im Stromnetz auszugleichen und die Nachfragesteuerung zu managen. Die KI trifft operative Entscheidungen, die die Kontinuität der Stromversorgung betreffen. Hochrisiko.

Bereich 3: Bildung und berufliche Ausbildung

• KI, die den Zugang zu oder die Zulassung an Bildungseinrichtungen bestimmt
• KI, die Lernergebnisse bewertet oder Lernprozesse steuert
• KI, die das Verhalten während Prüfungen überwacht (Proctoring)

Beispiel: Eine Universität setzt ein KI-gestütztes Proctoring-System ein, das das Verhalten von Studierenden während Online-Prüfungen überwacht und verdächtige Aktivitäten markiert. Das fällt eindeutig in Bereich 3. Die Universität ist der Betreiber, der Proctoring-Anbieter ist der Anbieter.

Bereich 4: Beschäftigung, Personalmanagement, Zugang zur Selbstständigkeit

• KI, die Bewerbungen vorauswählt oder filtert (Lebenslauf-Scanner)
• KI, die zielgerichtete Stellenanzeigen veröffentlicht
• KI, die Entscheidungen über Beförderung, Kündigung, Aufgabenzuweisung oder leistungsabhängige Verträge trifft
• KI, die die Leistung von Beschäftigten überwacht oder bewertet

Beispiel: Ein multinationaler Einzelhändler nutzt ein KI-gestütztes Schichtplanungssystem, das Schichten auf Basis von Leistungskennzahlen der Mitarbeiter und prognostiziertem Kundenaufkommen zuweist. Da das System die Aufgabenzuweisung auf Basis einer Leistungsbewertung beeinflusst, ist es Hochrisiko.

Beispiel: Eine Recruiting-Plattform bietet ein KI-Tool, das Lebensläufe gegen Stellenbeschreibungen bewertet und Übereinstimmungs-Scores vergibt. Jeder Arbeitgeber, der dieses Tool nutzt, ist Betreiber eines Hochrisiko-Systems; die Plattform ist der Anbieter.

Bereich 5: Zugang zu wesentlichen privaten und öffentlichen Diensten

• KI zur Bewertung der Kreditwürdigkeit und zum Kredit-Scoring
• KI, die die Berechtigung für öffentliche Unterstützungsleistungen prüft
• KI, die das Versicherungsrisiko bewertet (Leben und Gesundheit)
• KI, die die Priorität für den Einsatz von Notdiensten bewertet

Beispiel: Ein Fintech-Unternehmen entwickelt ein KI-Modell, das alternative Daten (Aktivität in sozialen Medien, Nutzungsmuster von Mobiltelefonen) analysiert, um Kredit-Scores für Verbraucher zu erzeugen, denen eine klassische Kredithistorie fehlt. Das ist ein System zur Bewertung der Kreditwürdigkeit, Hochrisiko.

Beispiel: Eine Kommunalverwaltung setzt ein KI-System ein, um Anträge auf Sozialwohnungen zu priorisieren. Das System bewertet Antragsteller anhand mehrerer Kriterien und erzeugt eine Rangliste. Das ist ein KI-System, das die Berechtigung für öffentliche Dienste prüft, Hochrisiko.

Bereich 6: Strafverfolgung

• KI zur Bewertung des Risikos von Straftaten (Risikoprofilierung)
• KI, die als Lügendetektor oder zur Emotionserkennung bei Ermittlungen genutzt wird
• KI zur Bewertung der Zuverlässigkeit von Beweisen
• KI zur Gesichtserkennung oder Profilierung bei Ermittlungen

Beispiel: Eine Polizeibehörde nutzt ein KI-System, das historische Kriminalitätsdaten analysiert, um Gebiete mit höherer Wahrscheinlichkeit künftiger Straftaten vorherzusagen, und setzt entsprechend Streifen ein. Das ist Predictive Policing, Hochrisiko nach Bereich 6.

Bereich 7: Migration, Asyl und Grenzkontrolle

• KI zur Bewertung von Asyl- oder Visumanträgen
• KI zur Grenzrisikobewertung oder Sicherheitsüberprüfung
• KI zum Aufspüren, Erkennen oder Identifizieren von Personen im Migrationskontext

Beispiel: Eine nationale Grenzbehörde nutzt ein KI-System, um die Glaubwürdigkeit der Angaben von Asylsuchenden durch Analyse schriftlicher und mündlicher Antworten zu bewerten. Hochrisiko.

Bereich 8: Rechtspflege und demokratische Prozesse

• KI zur Unterstützung richterlicher Entscheidungen über Tatsachen oder Recht
• KI in der alternativen Streitbeilegung
• KI, die Wahlen oder den Ausgang von Referenden beeinflusst

Beispiel: Ein Legal-Tech-Unternehmen bietet ein KI-Tool, das Verfahrensausgänge auf Basis früherer gerichtlicher Entscheidungen vorhersagt und Prozessstrategien empfiehlt. Nutzen Richter dieses Tool zur Unterstützung ihrer Entscheidungen, ist es Hochrisiko. Nutzen nur Anwälte es für die Strategie (ohne unmittelbar eine richterliche Entscheidung zu unterstützen), ist die Einordnung weniger klar, und hier wird die Analyse der Ausnahme nach Artikel 6(3) entscheidend.

Die Ausnahme nach Artikel 6(3): Nicht jedes Anhang-III-System ist Hochrisiko

Das ist die Klausel, die die meisten Teams entweder ganz übersehen oder falsch anwenden. Selbst wenn Ihr KI-System in einen der acht Anhang-III-Bereiche fällt, ist es nicht als Hochrisiko eingestuft, wenn es eine einzige dieser Bedingungen erfüllt:

1. Enge verfahrenstechnische Aufgabe: Das System erfüllt eine rein verfahrenstechnische Funktion, z. B. das Umwandeln unstrukturierter Daten in strukturierte Daten, das Klassifizieren eingehender Dokumente in Kategorien zur Weiterleitung oder das Extrahieren bestimmter Felder aus standardisierten Formularen.

2. Verbesserung abgeschlossener menschlicher Arbeit: Das System soll das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessern, z. B. eine Grammatikprüfung, die einen von Menschen verfassten Gerichtsbeschluss prüft, oder ein Rechtschreib- und Formatierungstool, das auf eine abgeschlossene Asylbewertung angewendet wird.

3. Mustererkennung ohne Einfluss: Das System erkennt Entscheidungsmuster oder Abweichungen von früheren Mustern, ohne die menschliche Bewertung zu ersetzen oder zu beeinflussen, z. B. ein Analyse-Dashboard, das Anomalien bei Einstellungsentscheidungen für HR-Manager hervorhebt, ohne Änderungen zu empfehlen.

4. Vorbereitende Aufgabe: Das System erfüllt eine vorbereitende Aufgabe für eine Bewertung, die für einen Anhang-III-Anwendungsfall relevant ist, z. B. ein juristisches Recherchetool, das relevante Rechtsprechung für einen Richter abruft und ordnet, ohne Ergebnisse zusammenzufassen oder zu empfehlen.

5. Kein erhebliches Risiko eines Schadens: Das System stellt kein erhebliches Risiko eines Schadens für Gesundheit, Sicherheit oder Grundrechte dar, unter Berücksichtigung der Schwere und Wahrscheinlichkeit eines möglichen Schadens.

Wenn die Ausnahme greift, Beispiele

• Dokumentenklassifizierung für ein Gericht: Ein KI-System, das eingehende Gerichtseingaben nach Verfahrensart sortiert und an die zuständige Abteilung weiterleitet. Das ist eine enge verfahrenstechnische Aufgabe (Bedingung 1), die richterliche Entscheidungen nicht beeinflusst.

• Grammatikprüfung für Bewertungen öffentlicher Leistungen: Ein Tool, das Sprache und Format abgeschlossener Bescheide über Leistungsentscheidungen prüft. Es verbessert abgeschlossene menschliche Arbeit (Bedingung 2), ohne die inhaltliche Entscheidung zu ändern.

• HR-Analyse-Dashboard: Ein System, das Managern aggregierte Statistiken über ihre Einstellungsmuster im Vergleich zu Unternehmens-Benchmarks zeigt. Es erkennt Muster (Bedingung 3), ohne konkrete Einstellungsentscheidungen zu empfehlen.

Wenn die Ausnahme NICHT greift, Beispiele

• Tool zum Lebenslauf-Scoring: Auch wenn es sich als "vorbereitend" darstellen ließe, beeinflusst ein Lebenslauf-Scorer, der Ranglisten vergibt, unmittelbar die Entscheidung über die engere Auswahl. Bedingung 4 schützt es nicht, weil das Ergebnis ein inhaltlicher Input für die Einstellungsentscheidung ist, nicht bloße Vorbereitung.

• Prädiktives Kredit-Scoring: Ein Modell, das einen in Kreditentscheidungen genutzten Kredit-Score ausgibt, erfüllt keine enge verfahrenstechnische Aufgabe. Der Score beeinflusst unmittelbar, ob jemand einen Kredit erhält.

• Jedes System, das Personen profiliert: Das ist der entscheidende Vorbehalt. Die Ausnahme nach Artikel 6(3) greift nicht, wenn das KI-System Profiling von natürlichen Personen im Sinne von Artikel 4(4) DSGVO durchführt. Jedes KI-System, das Personen profiliert und in einen Anhang-III-Bereich fällt, ist Hochrisiko, unabhängig von diesen Ausnahmen.

Die Ausnahme geltend machen

Um sich auf die Ausnahme nach Artikel 6(3) zu stützen, müssen Sie:

1. Ihre Analyse dokumentieren, warum das System mindestens eine der fünf Bedingungen erfüllt.
2. Bestätigen, dass das System kein Profiling durchführt.
3. Die zuständige Marktüberwachungsbehörde benachrichtigen, bevor Sie das System in Verkehr bringen oder in Betrieb nehmen.
4. Die Dokumentation aufbewahren und darauf vorbereitet sein, die Klassifizierung im Streitfall zu verteidigen.

Das ist keine Selbsterklärung, die Sie ablegen und vergessen können. Behörden können Ihre Bewertung überprüfen und ablehnen, was Sie rückwirkend den vollen Hochrisiko-Pflichten unterwerfen würde.

Entscheidungsdiagramm: Ihr KI-System Schritt für Schritt klassifizieren

Folgen Sie diesem Verfahren für jedes KI-System in Ihrem KI-Systeminventar:

1. Ist das KI-System eine verbotene Praktik nach Artikel 5? → Ja = das System darf gar nicht eingesetzt werden. Stopp.
2. Ist das KI-System ein Sicherheitsbauteil eines Anhang-I-Produkts, das eine Konformitätsbewertung durch Dritte erfordert? → Ja = Hochrisiko über Weg 1. Compliance-Frist: 2. August 2027.
3. Fällt das KI-System in einen der acht Anhang-III-Bereiche? → Nein = nicht Hochrisiko. Prüfen Sie, ob Transparenzpflichten gelten (Systeme mit begrenztem Risiko).
4. Führt das System Profiling von natürlichen Personen durch (DSGVO Artikel 4(4))? → Ja = Hochrisiko. Die Ausnahme nach Artikel 6(3) kann nicht greifen.
5. Greift die Ausnahme nach Artikel 6(3)? Prüfen Sie, ob das System eine der fünf Bedingungen erfüllt (enge verfahrenstechnische Aufgabe, verbessert abgeschlossene menschliche Arbeit, erkennt Muster ohne Einfluss auf Entscheidungen, vorbereitende Aufgabe oder kein erhebliches Risiko eines Schadens). → Wenn ja = nicht Hochrisiko, aber Sie müssen Ihre Begründung dokumentieren und die zuständige Behörde benachrichtigen.
6. Greift keine Ausnahme → Hochrisiko über Weg 2. Volle Compliance erforderlich bis zum 2. August 2026.

Häufige Fehler bei der Klassifizierung

Fehler 1: Annehmen, KI-Tools von Dritten seien nicht Ihr Problem

Wenn Sie ein KI-System in Ihr Produkt oder Ihren Dienst einbinden und es in einen Anhang-III-Bereich fällt, können Sie nach Artikel 25 als Anbieter neu eingestuft werden, selbst wenn jemand anderes das Modell gebaut hat. Das geschieht, wenn Sie das KI-System unter eigenem Namen in Verkehr bringen, eine wesentliche Veränderung vornehmen oder seinen vorgesehenen Zweck ändern. Siehe die vollständige Analyse in unserem Leitfaden Anbieter vs. Betreiber.

Fehler 2: Glauben, Human-in-the-Loop hebe den Hochrisiko-Status auf

Der AI Act erfasst ausdrücklich Systeme, die menschliche Entscheidungen unterstützen. Ein KI-System, das Kandidaten in eine Rangfolge bringt, die Kreditwürdigkeit bewertet oder Strafmaße empfiehlt, ist Hochrisiko, selbst wenn ein Mensch die endgültige Entscheidung trifft. Das Vorhandensein von menschlicher Aufsicht ist eine Pflicht innerhalb der Hochrisiko-Kategorie, kein Weg, sie zu vermeiden.

Fehler 3: Auf die Unternehmensgröße für eine Ausnahme setzen

Es gibt keine pauschale Ausnahme nach Größe. KMU und Startups profitieren von einigen verfahrenstechnischen Vereinfachungen (vereinfachte technische Dokumentation, reduzierte Gebühren, Zugang zu Reallaboren), aber die inhaltlichen Pflichten sind identisch. Ein Zwei-Personen-Startup, das ein KI-Einstellungstool verkauft, unterliegt derselben Klassifizierung wie eine multinationale HR-Technologieplattform.

Fehler 4: Den extraterritorialen Anwendungsbereich ignorieren

Wird das Ergebnis des KI-Systems in Bezug auf Personen in der EU genutzt, gilt der AI Act, selbst wenn Ihr Unternehmen, Ihre Server und das System selbst außerhalb der EU liegen. Ein US-Unternehmen, das ein KI-Tool zum Kredit-Scoring an europäische Banken verkauft, muss das System nach dem AI Act klassifizieren. Das spiegelt den extraterritorialen Ansatz der DSGVO wider, der viele Nicht-EU-Unternehmen überrascht hat. Für die Überschneidung beider Regelwerke siehe unseren Vergleich AI Act vs. DSGVO.

Fehler 5: Die Ausnahme nach Artikel 6(3) ohne Dokumentation anwenden

Manche Organisationen entscheiden informell, ihr System sei "nur ein Tool", ohne eine strukturierte Analyse durchzuführen. Widerspricht eine Behörde später, steht die Organisation vor einer rückwirkenden Einstufung als Hochrisiko ohne Dokumentationsspur, die denkbar schlechteste Compliance-Position. Die Ausnahme erfordert eine aktive Dokumentation und Benachrichtigung.

Fehler 6: KI-Modelle mit allgemeinem Verwendungszweck mit Hochrisiko-KI-Systemen verwechseln

Ein KI-Modell mit allgemeinem Verwendungszweck (wie ein großes Sprachmodell) ist nicht automatisch Hochrisiko. Das Modell wird potenziell zum Hochrisiko, wenn es in eine konkrete Anwendung eingebunden wird, die in einen Anhang-III-Bereich fällt. Der Anbieter des GPAI-Modells hat eigene Pflichten nach den Artikeln 51-55; der Anbieter der nachgelagerten Anwendung trägt die Verantwortung für die Hochrisiko-Einstufung.

Fehler 7: Auf die Leitlinien der Kommission warten, bevor man klassifiziert

Es wird erwartet, dass die Europäische Kommission detaillierte Leitlinien zur praktischen Umsetzung des Klassifizierungsrahmens veröffentlicht, einschließlich konkreter Beispiele und Grenzfälle. Stand April 2026 sind diese Leitlinien noch nicht abgeschlossen. Warten ist keine tragfähige Strategie, die Frist zum 2. August 2026 steht fest, und der Rechtstext ist hinreichend klar, um jetzt mit der Klassifizierung zu beginnen. Organisationen, die die Klassifizierung hinauszögern, haben keine Zeit mehr, die nachgelagerten Compliance-Schritte abzuschließen.

Was passiert, sobald etwas als Hochrisiko eingestuft ist

Die Klassifizierung ist nicht das Ende, sie ist der Ausgangspunkt für ein strukturiertes Compliance-Programm. Als Anbieter einer Hochrisiko-KI müssen Sie Folgendes umsetzen:

Betreiber von Hochrisiko-Systemen haben einen parallelen, aber leichteren Satz an Pflichten, der auf menschlicher Aufsicht, Aufbewahrung von Logs, Transparenz gegenüber betroffenen Personen und (in einigen Fällen) Grundrechte-Folgenabschätzungen beruht.

Siehe die vollständige EU-AI-Act-Compliance-Checkliste für den Schritt-für-Schritt-Aktionsplan, der beide Rollen abdeckt.

Praktischer Zeitplan: Was Sie jetzt tun sollten

Wenn Sie Ihre KI-Systeme noch nicht klassifiziert haben, sind Sie im Verzug, aber nicht zu spät dran. Hier ist ein realistischer Zeitplan für die verbleibenden Monate vor dem 2. August 2026:

1. Jetzt (April 2026): Vervollständigen Sie Ihr KI-Systeminventar. Listen Sie jedes KI-System auf, das Ihre Organisation entwickelt, betreibt oder vertreibt.
2. April-Mai 2026: Führen Sie jedes System durch das obige Klassifizierungsdiagramm. Dokumentieren Sie Ihre Begründung für jedes System, auch für die, die Sie als nicht Hochrisiko einstufen.
3. Mai-Juni 2026: Weisen Sie für jedes Hochrisiko-System die Verantwortung zu und beginnen Sie mit technischer Dokumentation und Risikomanagement.
4. Juni-Juli 2026: Schließen Sie die Konformitätsbewertung ab. Für die meisten Anhang-III-Systeme ist das eine Selbstbewertung, aber sie muss gründlich und dokumentiert sein.
5. Juli 2026: Registrieren Sie in der EU-Datenbank, bringen Sie die CE-Kennzeichnung an und richten Sie Prozesse zur Marktbeobachtung ein.
6. 2. August 2026: Frist. Die Systeme müssen konform sein.

Häufig gestellte Fragen

Gilt der AI Act für KI-Systeme, die außerhalb der EU entwickelt wurden?

Ja. Der AI Act gilt für jeden Anbieter, der ein KI-System auf dem EU-Markt in Verkehr bringt oder in der EU in Betrieb nimmt, unabhängig davon, wo der Anbieter niedergelassen ist. Er gilt auch für Anbieter und Betreiber außerhalb der EU, wenn das Ergebnis ihres KI-Systems in der EU genutzt wird. Dieser extraterritoriale Anwendungsbereich spiegelt den Ansatz der DSGVO wider und bedeutet, dass Nicht-EU-Unternehmen der Klassifizierung nicht entgehen können, indem sie Systeme außerhalb Europas hosten.

Kann ein KI-System von nicht-Hochrisiko zu Hochrisiko wechseln?

Ja. Wenn Sie den vorgesehenen Zweck eines KI-Systems so ändern, dass es in einen Anhang-III-Bereich fällt, oder wenn Sie eine wesentliche Veränderung an einem Hochrisiko-System vornehmen, kann sich die Klassifizierung ändern. Nach Artikel 25 können solche Veränderungen auch Ihre Rolle vom Betreiber zum Anbieter ändern. Die Klassifizierung ist keine einmalige Bewertung, sie muss immer dann erneut geprüft werden, wenn sich Zweck, Fähigkeiten oder Einsatzkontext des Systems ändern.

Was, wenn mein System zwischen zwei Risikokategorien steht?

Wenden Sie die höhere Klassifizierung an. Gibt es ein vernünftiges Argument, dass Ihr System in einen Anhang-III-Bereich fällt, und können Sie nicht sicher belegen, dass die Ausnahme nach Artikel 6(3) greift, behandeln Sie es als Hochrisiko. Die Kosten der Unterklassifizierung (mögliche Bußgelder von bis zu 15 Millionen EUR oder 3 % des Umsatzes und Marktrücknahme) übersteigen die Kosten der Überklassifizierung (unnötige Compliance-Arbeit) bei weitem.

Ist ein Chatbot Hochrisiko?

Nicht automatisch. Ein allgemeiner Kundenservice-Chatbot ist typischerweise ein System mit begrenztem oder minimalem Risiko, das Transparenzpflichten unterliegt (Nutzer müssen darüber informiert werden, dass sie mit KI interagieren). Wird der Chatbot jedoch in einem Anhang-III-Kontext genutzt, z. B. zur Vorauswahl von Bewerbern, zur Triage von Notrufen oder zur Unterstützung richterlicher Entscheidungen, wird er Hochrisiko, unabhängig von der zugrunde liegenden Technologie.

Was ist der Unterschied zwischen der Hochrisiko-Einstufung nach dem AI Act und einer Datenschutz-Folgenabschätzung nach der DSGVO?

Sie dienen unterschiedlichen Zwecken, gelten aber oft für dieselben Systeme. Eine DSFA nach DSGVO Artikel 35 bewertet Risiken für die Verarbeitung personenbezogener Daten. Die Klassifizierung nach dem AI Act bewertet, ob das KI-System auf Basis seines vorgesehenen Zwecks in vordefinierte Hochrisiko-Kategorien fällt. Ein System kann eine DSFA erfordern, ohne nach dem AI Act Hochrisiko zu sein (z. B. ein KI-System, das Gesundheitsdaten für die Forschung verarbeitet und nicht in Anhang III fällt), und umgekehrt. In der Praxis erfordern viele Hochrisiko-KI-Systeme beides. Siehe unseren vollständigen Vergleich von AI Act und DSGVO.

Wo bekomme ich Hilfe bei der Klassifizierung meines Systems?

Beginnen Sie mit der kostenlosen AI-Act-Risikoklassifizierungsbewertung, um eine erste Einordnung für Ihren konkreten Anwendungsfall zu erhalten. Für komplexe oder Grenzfälle, besonders solche mit Bezug zur Ausnahme nach Artikel 6(3), ziehen Sie qualifizierte Rechtsberater mit Expertise in der KI-Regulierung hinzu. Der vollständige AI-Act-Leitfaden bietet eine Analyse Artikel für Artikel zu jeder in diesem Beitrag genannten Bestimmung.

Legalithm ist ein KI-gestütztes Tool für Compliance-Workflows, keine Rechtsberatung. Finale Klassifizierungsentscheidungen sollten von qualifizierten Rechtsberatern geprüft werden.