DPIA vs. FRIA: Der komplette Leitfaden zur KI-Folgenabschätzung

Bei medizinischer KI gilt die DPIA meist, die FRIA meist nicht, siehe Brauchen Sie eine FRIA für medizinische KI?.

Wenn Ihre Organisation in der EU ein KI-System betreibt, das personenbezogene Daten verarbeitet und in eine Hochrisiko-Kategorie nach Anhang III fällt, müssen Sie fast sicher zwei getrennte Folgenabschätzungen durchführen: eine Datenschutz-Folgenabschätzung (DPIA) nach der DSGVO und eine Grundrechte-Folgenabschätzung (FRIA) nach dem EU AI Act. Die eine ersetzt die andere nicht. Wer eine davon auslässt, riskiert Vollzugsmaßnahmen unter zwei verschiedenen Sanktionsregimen, und zwar gleichzeitig.

Dieser Leitfaden erklärt, was jede Abschätzung verlangt, wo sie sich überschneiden, wo sie auseinandergehen und wie Sie eine praktische kombinierte Methodik aufbauen, die beide in einem einzigen Ablauf erfüllt.

• Zwei eigenständige rechtliche Pflichten: Die DPIA ist nach Artikel 35 DSGVO vorgeschrieben. Die FRIA ist nach Artikel 27 des AI Act vorgeschrieben. Sie stammen aus verschiedenen Verordnungen mit verschiedenen Aufsichtsbehörden, verschiedenen Anwendungsbereichen und verschiedenen Höchstsanktionen.
• Unterschiedlicher Fokus: Eine DPIA bewertet Risiken für Datenschutz und Privatsphäre. Eine FRIA bewertet Risiken für alle Grundrechte nach der EU-Grundrechtecharta, einschließlich Nichtdiskriminierung, Menschenwürde, Meinungsfreiheit, Zugang zur Justiz und mehr.
• Unterschiedliche Auslöser: Eine DPIA wird durch risikoreiche Verarbeitung personenbezogener Daten ausgelöst (Profiling, umfangreiche besondere Kategorien, systematische Überwachung). Eine FRIA wird durch den Betrieb eines Hochrisiko-KI-Systems in bestimmten Anhang-III-Bereichen ausgelöst (Kredit-Scoring, Versicherung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration, Bildung).
• Unterschiedliche Verantwortliche: Die DPIA liegt beim Verantwortlichen (data controller). Die FRIA liegt beim Betreiber (Deployer) des KI-Systems. Das können unterschiedliche juristische Personen sein.
• Unterschiedliche Meldepflichten: Eine DPIA ist ein internes Dokument, keine Registrierung nötig (nur in einigen Fällen eine vorherige Konsultation der Datenschutzbehörde). Eine FRIA muss in der EU-Datenbank registriert und ihr Ergebnis an die Marktüberwachungsbehörden übermittelt werden.
• Kombinierbar: Artikel 27 Absatz 4 des AI Act erlaubt ausdrücklich, die FRIA zusammen mit einer DPIA durchzuführen. Das kombinierte Dokument muss aber die Anforderungen beider erfüllen.
• Beide vor dem Betrieb erforderlich: Keine der Abschätzungen ist eine Übung für die Zeit nach dem Start. Beide müssen vor Inbetriebnahme des Systems abgeschlossen sein.

Zwei Abschätzungen, zwei Rechtsgrundlagen, warum Sie beide brauchen könnten

Der EU-Rechtsrahmen für KI schafft eine doppelte Prüfpflicht, die viele Organisationen überrascht. Wenn Sie ein KI-System betreiben, das personenbezogene Daten verarbeitet und unter die Hochrisiko-Einstufung des AI Act fällt, erlegen Ihnen zwei verschiedene Verordnungen zwei verschiedene Prüfpflichten auf.

Die DPIA-Pflicht nach der DSGVO

Die Datenschutz-Folgenabschätzung ist seit Mai 2018 vorgeschrieben. Nach Artikel 35 DSGVO müssen Verantwortliche eine DPIA durchführen, bevor sie eine Verarbeitung vornehmen, die "voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat". Bei KI-Systemen ist das fast immer der Fall, automatisierte Entscheidungsfindung, Profiling und die umfangreiche Verarbeitung personenbezogener Daten gelten alle als Indikatoren für ein hohes Risiko.

Die DPIA konzentriert sich auf den Datenschutz: welche personenbezogenen Daten erhoben werden, warum, wie sie verarbeitet werden, welche Risiken für die betroffenen Personen entstehen und welche Schutzmaßnahmen diese Risiken mindern.

Die FRIA-Pflicht nach dem AI Act

Die Grundrechte-Folgenabschätzung ist neuer und wurde durch den EU AI Act (Verordnung (EU) 2024/1689) eingeführt. Nach Artikel 27 müssen Betreiber von Hochrisiko-KI-Systemen in bestimmten Kategorien, also öffentliche Stellen, Erbringer wesentlicher Dienste und Einrichtungen in sensiblen Bereichen nach Anhang III, eine FRIA durchführen, bevor sie ein Hochrisiko-KI-System in Betrieb nehmen.

Die FRIA geht über den Datenschutz hinaus. Sie verlangt die Bewertung von Risiken für das gesamte Spektrum der Grundrechte nach der EU-Charta: Menschenwürde, Nichtdiskriminierung, Meinungsfreiheit, Rechte des Kindes, Rechte von Menschen mit Behinderungen, Zugang zu wirksamen Rechtsbehelfen, Verbraucherschutz und Rechte auf soziale Sicherheit, unter anderem.

Die eine erfüllt NICHT die andere

Das ist der entscheidende Punkt. Eine DPIA deckt nicht die Breite der Grundrechteanalyse ab, die eine FRIA verlangt. Eine FRIA enthält nicht die spezifische Datenschutz-Risikomethodik, die eine DPIA verlangt. Selbst wenn Sie beide Abschätzungen in einem einzigen Dokument durchführen (wie es Artikel 27 Absatz 4 erlaubt), müssen Sie sicherstellen, dass jede Anforderung beider Rahmenwerke erfüllt ist.

Organisationen, die davon ausgehen, ihre bestehende DPIA-Praxis reiche für die Compliance mit dem AI Act, setzen sich dem Sanktionsregime des AI Act aus, mit Bußgeldern von bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes bei Verstößen gegen Betreiberpflichten, zusätzlich zu allen DSGVO-Sanktionen.

Mehr dazu, wie DSGVO und AI Act zusammenwirken, in unserem ausführlichen Vergleich: EU AI Act vs. DSGVO: Leitfaden zu Unterschieden und Überschneidungen.

Was ist eine DPIA?

Eine Datenschutz-Folgenabschätzung ist ein strukturierter Prozess, um Risiken zu erkennen, zu bewerten und zu mindern, die die Verarbeitung personenbezogener Daten für Einzelpersonen mit sich bringt. Sie ist einer der zentralen Rechenschaftsmechanismen der DSGVO.

Rechtsgrundlage: Artikel 35 DSGVO

Artikel 35 Absatz 1 verlangt vom Verantwortlichen, eine DPIA "vorab" durchzuführen, wann immer eine Form der Verarbeitung, "insbesondere bei Verwendung neuer Technologien", "voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat".

Ergänzt wird diese Pflicht durch Artikel 35 Absatz 3 (bestimmte Pflichtauslöser), Artikel 35 Absatz 4 (Listen risikoreicher Verarbeitungen der nationalen Aufsichtsbehörden) und Artikel 36 (vorherige Konsultation der Datenschutzbehörde, wenn ein hohes Restrisiko verbleibt). Die Leitlinien der Artikel-29-Datenschutzgruppe zu DPIAs (WP 248 rev.01, vom EDSA bestätigt) bieten zusätzliche Hilfe bei der Umsetzung.

Wann eine DPIA erforderlich ist

Eine DPIA ist verpflichtend, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Einzelpersonen zur Folge hat. Artikel 35 Absatz 3 nennt drei Situationen, in denen eine DPIA immer erforderlich ist:

1. Systematische und umfassende Bewertung mit rechtlichen oder erheblichen Auswirkungen (Profiling), das erfasst die meiste KI-gestützte Entscheidungsfindung, die Einzelpersonen betrifft: Kredit-Scoring, Einstellungsentscheidungen, Versicherungskalkulation, Anspruch auf Sozialleistungen, akademische Bewertungen.
2. Umfangreiche Verarbeitung besonderer Kategorien von Daten, Gesundheitsdaten, biometrische Daten, genetische Daten, rassische oder ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse Überzeugungen, sexuelle Orientierung. KI-Systeme im Gesundheitswesen, im Personalwesen (Diversitätsdaten) oder in der Strafverfolgung verarbeiten diese Kategorien häufig.
3. Systematische Überwachung öffentlich zugänglicher Bereiche, Videoüberwachung mit Gesichtserkennung, Crowd-Analytics, Verhaltensüberwachung im öffentlichen Raum.

Über diese drei hinaus hat die Artikel-29-Datenschutzgruppe neun Kriterien benannt, die auf ein hohes Risiko hindeuten (Bewertung/Scoring, automatisierte Entscheidungsfindung mit erheblichen Auswirkungen, systematische Überwachung, sensible Daten, umfangreiche Verarbeitung, Abgleich von Datensätzen, schutzbedürftige betroffene Personen, Einsatz innovativer Technologie und Verarbeitung, die Rechte einschränkt). Erfüllt eine Verarbeitung zwei oder mehr davon, sollte eine DPIA durchgeführt werden.

Die meisten KI-Systeme, die personenbezogene Daten verarbeiten, erfüllen mindestens zwei Kriterien. In der Praxis gilt: Wenn Sie ein KI-System betreiben, das Entscheidungen über Einzelpersonen trifft oder vorbereitet, gehen Sie davon aus, dass eine DPIA erforderlich ist.

Wer sie durchführen muss

Die Pflicht liegt beim Verantwortlichen, der Stelle, die über die Zwecke und Mittel der Verarbeitung entscheidet (Artikel 4 Nummer 7 DSGVO). Im KI-Kontext ist das typischerweise die Organisation, die das KI-System betreibt, aber nicht immer. Nutzt ein Arbeitgeber eine Recruiting-KI eines Dritten, entscheidet aber selbst, welche Bewerber bewertet werden und welche Kriterien gelten, ist der Arbeitgeber der Verantwortliche. Eine gemeinsame Verantwortlichkeit kann ebenfalls entstehen, wenn mehrere Stellen diese Entscheidungen teilen.

Der Verantwortliche muss bei der Durchführung der DPIA den Datenschutzbeauftragten (falls benannt) einbeziehen (Artikel 35 Absatz 2) und, wo angemessen, den Standpunkt der betroffenen Personen einholen (Artikel 35 Absatz 9).

Was eine DPIA abdecken muss

Artikel 35 Absatz 7 legt die inhaltlichen Mindestanforderungen fest:

1. Systematische Beschreibung der Verarbeitungsvorgänge, welche Daten von wem erhoben werden, wie sie verarbeitet werden, mit welcher Technologie, zu welchem Zweck und auf welcher Rechtsgrundlage.
2. Bewertung der Notwendigkeit und Verhältnismäßigkeit, ist die Verarbeitung für den genannten Zweck notwendig? Ließe sich dasselbe Ziel mit weniger Daten, weniger eingreifenden Mitteln oder ohne KI erreichen? Ist die Rechtsgrundlage gültig und ausreichend?
3. Bewertung der Risiken für die Rechte und Freiheiten der betroffenen Personen, was könnte schiefgehen? Wie wahrscheinlich und wie schwer wäre der Schaden? Zu den Schadensarten gehören: Diskriminierung, Identitätsdiebstahl, finanzieller Verlust, Rufschädigung, Verlust der Vertraulichkeit, Re-Identifizierung pseudonymisierter Daten und die Unmöglichkeit, Rechte auszuüben.
4. Maßnahmen zur Bewältigung der Risiken, technische und organisatorische Schutzmaßnahmen: Verschlüsselung, Pseudonymisierung, Zugriffskontrollen, Datenminimierung, Zweckbindung, Aufbewahrungsfristen, menschliche Aufsicht, Transparenzmaßnahmen und Mechanismen für die Rechte der betroffenen Personen.

DPIA für KI-Systeme, besondere Aspekte

KI-Verarbeitung bringt zusätzliche DPIA-Aspekte mit sich: Herkunft und Verzerrung der Trainingsdaten (bilden die Daten die Zielgruppe ab?), Undurchsichtigkeit des Modells (lässt sich die Logik den betroffenen Personen nach Artikel 13-14 und Artikel 22 erklären?), Genauigkeit und unterschiedliche Fehlerquoten über demografische Gruppen hinweg, Datenaufbewahrung für Training vs. Inferenz (die getrennte Rechtsgrundlagen erfordern kann), Schutzmaßnahmen bei automatisierter Entscheidungsfindung nach Artikel 22 und Auftragsverarbeiter-/Übermittlungsrisiken, wenn Training oder Inferenz eine Cloud-Infrastruktur Dritter nutzen.

Einen breiteren Blick auf KI-Verzerrungen und Fairness-Tests bietet: KI-Bias-Tests und Fairness nach dem EU AI Act.

Was ist eine FRIA?

Die Grundrechte-Folgenabschätzung ist eine verpflichtende Abschätzung vor Inbetriebnahme nach dem EU AI Act. Sie verlangt von Betreibern in bestimmten Kategorien, zu bewerten, wie der Einsatz eines Hochrisiko-KI-Systems die Grundrechte berühren kann, und geht damit weit über den Datenschutz hinaus, hin zu Würde, Nichtdiskriminierung, Zugang zur Justiz und mehr.

Für eine vertiefte Betrachtung speziell der FRIA siehe unseren eigenen Leitfaden: AI Act FRIA: Leitfaden zur Grundrechte-Folgenabschätzung.

Rechtsgrundlage: Artikel 27 des AI Act

Artikel 27 begründet die FRIA-Pflicht. Wichtige Regelungen: Art. 27 Abs. 1 verlangt die Abschätzung, bevor das System in Betrieb genommen wird; Art. 27 Abs. 2 legt fest, dass die FRIA eine bestehende DPIA ergänzen soll, wo sich die Pflichten überschneiden; Art. 27 Abs. 4 erlaubt, die FRIA zusammen mit der DPIA durchzuführen; und Art. 27 Abs. 5 verpflichtet den Betreiber, die Marktüberwachungsbehörde zu unterrichten und die Ergebnisse in der EU-Datenbank zu registrieren.

Wann eine FRIA erforderlich ist

Eine FRIA ist erforderlich, wenn alle der folgenden Bedingungen erfüllt sind:

1. Das System ist nach dem AI Act als Hochrisiko eingestuft (in Anhang III aufgeführt oder unter die Kriterien von Artikel 6 fallend).
2. Der Betreiber gehört zu einer der in Artikel 27 Absatz 1 genannten Kategorien, Einrichtungen des öffentlichen Rechts, private Einrichtungen, die wesentliche Dienste erbringen, oder Einrichtungen, die in bestimmten Anhang-III-Bereichen tätig sind.
3. Das System wird in Betrieb genommen (erste Inbetriebnahme oder wesentliche Änderung des Einsatzkontexts).

Die FRIA muss vor Inbetriebnahme des Systems abgeschlossen sein. Sie ist eine Voraussetzung für den rechtmäßigen Betrieb, keine nachträgliche Übung.

Unsicher, ob Ihr System Hochrisiko ist? Nutzen Sie unseren Einstufungsleitfaden: Ist mein KI-System Hochrisiko? Leitfaden zur Einstufung.

Wer sie durchführen muss

Die FRIA liegt beim Betreiber, der Stelle, die das KI-System unter ihrer Verantwortung einsetzt (Artikel 3 Nummer 4 AI Act). Artikel 27 Absatz 1 nennt zwei Kategorien:

• Einrichtungen des öffentlichen Rechts, Behörden, öffentliche Krankenhäuser, Universitäten, Sozialverwaltungen, Gerichte, Ausländerbehörden und jede Stelle, die Aufgaben des öffentlichen Rechts wahrnimmt.
• Private Einrichtungen in bestimmten Anhang-III-Bereichen, private Einrichtungen, die Hochrisiko-KI für Kredit-Scoring, Versicherung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration oder Bildung einsetzen.

Der Betreiber kann sich vom Verantwortlichen nach der DSGVO unterscheiden. Ein Krankenhaus, das ein KI-Diagnosewerkzeug eines Dritten einsetzt, ist zugleich Betreiber und Verantwortlicher, es führt sowohl die FRIA als auch die DPIA durch. Der KI-Anbieter hat eigene Pflichten (Konformitätsbewertung, technische Dokumentation), führt aber die FRIA nicht durch.

Bereiche, die eine FRIA erfordern

Artikel 27 Absatz 1 gilt für Betreiber von Hochrisiko-KI-Systemen in den folgenden Anhang-III-Bereichen:

Branchenspezifische Hilfestellung finden Sie hier:

• AI Act Compliance-Leitfaden für HR und Recruiting
• AI Act Compliance-Leitfaden für Finanzdienstleistungen
• AI Act Compliance-Leitfaden für Bildung und EdTech

Was eine FRIA abdecken muss

Artikel 27 Absatz 3 legt den Mindestinhalt fest. Der Betreiber muss dokumentieren:

1. Die Prozesse des Betreibers, in denen das System eingesetzt wird, und die Entscheidungen, die es vorbereitet oder automatisiert.
2. Den Zeitraum und die Häufigkeit des vorgesehenen Einsatzes (dauerhaft, periodisch oder ereignisgesteuert).
3. Die Kategorien natürlicher Personen und Gruppen, die voraussichtlich betroffen sind, einschließlich schutzbedürftiger Gruppen und des Ausmaßes der Auswirkungen.
4. Die spezifischen Schadensrisiken für diese Gruppen, den konkreten Rechten der EU-Charta zugeordnet und nach Wahrscheinlichkeit und Schwere bewertet.
5. Maßnahmen der menschlichen Aufsicht, wie Prüfer eingebunden sind, welche Befugnis zum Übersteuern sie haben und welche Eskalationsverfahren gelten.
6. Abhilfemaßnahmen für den Fall, dass sich erkannte Risiken verwirklichen, Beschwerdemechanismen, Rechtsbehelfsverfahren, Überwachungsprotokolle.

Die FRIA muss die Risiken an der EU-Grundrechtecharta messen, einschließlich Menschenwürde (Art. 1), Privatleben (Art. 7), Datenschutz (Art. 8), Gleichheit (Art. 20), Nichtdiskriminierung (Art. 21), Rechte des Kindes (Art. 24), Rechte von Menschen mit Behinderungen (Art. 26), soziale Sicherheit (Art. 34), Gesundheitsschutz (Art. 35), Zugang zu Diensten (Art. 36) und wirksamem Rechtsbehelf (Art. 47).

Meldepflichten

Anders als die DPIA, die ein internes Rechenschaftsdokument ist, hat die FRIA verpflichtende Meldepflichten:

1. Marktüberwachungsbehörde: Der Betreiber muss die zuständige nationale Marktüberwachungsbehörde über die Ergebnisse der FRIA unterrichten (Artikel 27 Absatz 5).
2. EU-Datenbank: Der Betreiber muss die FRIA in die nach Artikel 71 eingerichtete EU-Datenbank einstellen (mit Querverweis auf Artikel 49 Absatz 4).

Wer eine FRIA nicht durchführt oder die zuständigen Behörden nicht unterrichtet, verstößt gegen die Betreiberpflichten des AI Act, mit Geldbußen von bis zu 15 Millionen EUR oder 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4).

Direkter Vergleich: DPIA vs. FRIA

Wo sich DPIA und FRIA überschneiden

Trotz unterschiedlicher Rechtsgrundlagen und Anwendungsbereiche haben DPIA und FRIA erhebliche Gemeinsamkeiten. Diese Überschneidungen zu erkennen ist der Schlüssel zu einer effizienten kombinierten Methodik.

Beide bewerten Risiken für Einzelpersonen vor dem Betrieb

Im Kern fragen beide: Welchen Schaden könnte dieses System den betroffenen Menschen zufügen? Die DPIA fasst das als Datenschutzrisiko, die FRIA als Grundrechterisiko. Der analytische Vorgang aber, betroffene Personen bestimmen, mögliche Schäden erfassen, Wahrscheinlichkeit und Schwere bewerten, Minderungsmaßnahmen festlegen, ist strukturell identisch. Beide müssen vor dem Start des Systems abgeschlossen sein, was eine natürliche Gelegenheit für einen einzigen Prozess vor Inbetriebnahme schafft.

Gemeinsame Faktengrundlage

Beide Abschätzungen brauchen dieselbe Grundlage: die Systembeschreibung (was es tut, Eingaben, Ausgaben), Datenflüsse (Erhebung, Speicherung, Zugriff), Einsatzkontext (Prozesse, Entscheidungen, Bediener), betroffene Gruppen (einschließlich schutzbedürftiger Gruppen) und Regelungen zur menschlichen Aufsicht. Diese Fakten einmal zu dokumentieren und in beiden Prüfsträngen darauf zu verweisen, vermeidet Doppelarbeit.

Ausdrückliche gesetzliche Erlaubnis zur Kombination

Artikel 27 Absatz 4 billigt einen kombinierten Ansatz: Die FRIA kann eine bestehende DPIA ergänzen, sofern das kombinierte Dokument alle Anforderungen beider Rahmenwerke abdeckt. Artikel 27 Absatz 2 stellt zudem klar, dass die FRIA, wo FRIA-Pflichten bereits durch eine DPIA erfüllt sind, diese ergänzt statt sie zu verdoppeln.

Entscheidende Unterschiede, die Sie nicht übergehen dürfen

Die Überschneidungen schaffen zwar Effizienzchancen, doch die Unterschiede zwischen DPIA und FRIA sind erheblich und lassen sich nicht mit einer einzigen allgemeinen Abschätzung überdecken. Diese Unterschiede zu verstehen ist für die Compliance unverzichtbar.

Umfang: Datenschutzrechte vs. alle Grundrechte

Das ist der wichtigste Unterschied. Eine DPIA ist eng auf den Datenschutz ausgerichtet, das Recht auf Privatsphäre nach Artikel 7 der EU-Charta und das Recht auf Schutz personenbezogener Daten nach Artikel 8. Eine FRIA muss die Auswirkungen des Systems auf den gesamten Katalog der Grundrechte der Charta bewerten.

Nehmen Sie ein KI-System zur Bewerberprüfung. Eine DPIA würde bewerten: welche personenbezogenen Daten von Bewerbern erhoben werden, ob die Rechtsgrundlage gültig ist, ob die Bewerber informiert werden, ob sie ihre Rechte ausüben können, ob die Daten korrekt sind, ob sie angemessen aufbewahrt werden.

Die FRIA muss weiter gehen: Diskriminiert das System nach Geschlecht, Ethnie, Alter oder Behinderung (Artikel 21 GRCh)? Achtet es die Menschenwürde (Artikel 1 GRCh)? Beeinträchtigt es die Meinungsfreiheit, etwa indem es Bewerber für ihre Aktivität in sozialen Medien bestraft (Artikel 11 GRCh)? Achtet es die Rechte von Menschen mit Behinderungen (Artikel 26 GRCh), könnten also zum Beispiel Bewerber mit bestimmten Sprechmustern oder körperlichen Merkmalen durch die Analyse von Videointerviews systematisch benachteiligt werden?

Eine DPIA, die Nichtdiskriminierung, Würde oder andere Charta-Rechte nicht behandelt, erfüllt die FRIA-Anforderung nicht, egal wie gründlich ihre Datenschutzanalyse ist.

Verantwortliche Stelle: Verantwortlicher vs. Betreiber

In vielen Fällen sind Verantwortlicher und Betreiber dieselbe Stelle, eine Bank, die eine Kredit-Scoring-KI betreibt und die personenbezogenen Daten kontrolliert, ist beides. Aber das ist nicht immer so:

• Eine Personalvermittlung (Betreiber) kann eine Recruiting-KI nutzen, während das einstellende Unternehmen (Verantwortlicher) über die Zwecke der Datenverarbeitung entscheidet.
• Ein Managed-Service-Anbieter (Betreiber) kann ein KI-System im Auftrag einer Behörde (Verantwortlicher) betreiben.
• Ein Joint Venture kann Situationen schaffen, in denen Betreiber und Verantwortlicher unterschiedliche juristische Personen innerhalb desselben Konzerns sind.

Wenn Verantwortlicher und Betreiber unterschiedliche Stellen sind, muss jede ihre jeweilige Abschätzung eigenständig durchführen. Der Verantwortliche führt die DPIA durch, der Betreiber die FRIA. Eine Abstimmung zwischen beiden ist unerlässlich, verschiebt die Pflicht aber nicht.

Meldung: internes Dokument vs. öffentliche Registrierung

Eine DPIA ist ein internes Rechenschaftsdokument, ohne Pflicht zur Veröffentlichung oder Registrierung. Die einzige externe Pflicht ist die vorherige Konsultation der Datenschutzbehörde nach Artikel 36, wenn ein hohes Restrisiko verbleibt.

Eine FRIA hat eine verpflichtende, nach außen gerichtete Meldung: Der Betreiber muss die Marktüberwachungsbehörde unterrichten und die Ergebnisse in der EU-Datenbank registrieren. Das bedeutet, dass die FRIA von Aufsichtsbehörden, betroffenen Personen, der Zivilgesellschaft und der Presse geprüft werden kann. Die Dokumentationsstandards müssen dieser Sichtbarkeit gerecht werden.

Sanktionsregime: verschiedene Behörden, verschiedene Höchstbeträge

Das Unterlassen einer DPIA wird von der Datenschutzbehörde nach Artikel 83 Absatz 4 DSGVO verfolgt, mit Bußgeldern von bis zu 10 Millionen EUR oder 2 % des weltweiten Jahresumsatzes.

Das Unterlassen einer FRIA wird von der Marktüberwachungsbehörde nach Artikel 99 Absatz 4 AI Act verfolgt, mit Bußgeldern von bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes.

Diese Sanktionen sind kumulativ, nicht alternativ. Eine Organisation, die ein Hochrisiko-KI-System betreibt, ohne eine der Abschätzungen durchzuführen, könnte sich dem Vollzug durch zwei verschiedene Behörden mit getrennten Bußgeldern ausgesetzt sehen. Das gesamte mögliche Risiko beträgt 25 Millionen EUR oder 5 % des weltweiten Umsatzes, noch bevor zusätzliche Sanktionen für die zugrunde liegenden Verstöße berücksichtigt sind, die die Abschätzungen aufgedeckt hätten.

Einen umfassenden Überblick über die Sanktionen des AI Act bietet: Sanktionen und Bußgelder des EU AI Act erklärt.

Praktische kombinierte Methodik

Die folgende Methodik erlaubt es Organisationen, sowohl DPIA- als auch FRIA-Anforderungen in einem einzigen abgestimmten Prozess zu erfüllen und dabei die getrennten Analysestränge zu wahren, die jede Verordnung verlangt.

Schritt 1, bestimmen, welche Abschätzungen gelten

Bevor Sie eine Abschätzung durchführen, klären Sie Ihre Pflichten:

Flussdiagramm: Brauchen Sie eine DPIA, eine FRIA oder beide?

Verarbeitet Ihr KI-System personenbezogene Daten?
├── JA → Erfüllt es die DPIA-Auslöser (Kriterien Art. 35 Abs. 3)?
│   ├── JA → DPIA ist ERFORDERLICH
│   └── NEIN → Neun Kriterien der Art.-29-Gruppe prüfen
│       ├── Erfüllt 2+ Kriterien → DPIA ist ERFORDERLICH
│       └── Erfüllt 0-1 Kriterien → DPIA ist NICHT erforderlich (aber empfohlen)
│
└── NEIN → DPIA ist NICHT erforderlich

Ist Ihr KI-System als Hochrisiko eingestuft (Anhang III)?
├── JA → Sind Sie eine öffentliche Stelle oder in einem Anhang-III-Bereich tätig
│         (Kredit, Versicherung, Beschäftigung, wesentliche Dienste,
│         Strafverfolgung, Migration, Bildung)?
│   ├── JA → FRIA ist ERFORDERLICH
│   └── NEIN → FRIA ist NICHT erforderlich
│
└── NEIN → FRIA ist NICHT erforderlich

Sind sowohl eine DPIA als auch eine FRIA erforderlich, gehen Sie nach der kombinierten Methodik vor. Gilt nur eine, führen Sie diese Abschätzung allein nach den Standardanforderungen durch.

Schritt 2, gemeinsame Risikoerkennung durchführen

Bauen Sie eine einzige Faktengrundlage auf, die beide Abschätzungen speist:

1. Systeminventar: Dokumentieren Sie das KI-System, den Anbieter, den Technologietyp, den vorgesehenen Zweck und die Risikoeinstufung.
2. Daten-Mapping: Erfassen Sie alle Datenflüsse, Eingaben, Ausgaben, Speicherung, Aufbewahrung, Zugriffskontrollen und internationale Übermittlungen.
3. Prozess-Mapping: Dokumentieren Sie den Geschäftsprozess, die Auslöser, die Ausgaben und die menschlichen Entscheidungen, die sich auf das System stützen.
4. Stakeholder-Mapping: Bestimmen Sie betroffene Personen und Gruppen aus beiden Blickwinkeln, betroffene Personen (DPIA) und Grundrechtsträger (FRIA). Markieren Sie schutzbedürftige Gruppen.
5. Risiko-Brainstorming: Führen Sie einen gemeinsamen Workshop durch, der Datenschutzschäden (unbefugter Zugriff, Ungenauigkeit, Kontrollverlust) und Grundrechteschäden (Diskriminierung, Verletzung der Würde, Verweigerung von Diensten, Barrieren für Menschen mit Behinderungen) abdeckt.

Schritt 3, die Analysestränge trennen

Ist die gemeinsame Faktengrundlage gelegt, teilen Sie die Analyse in zwei parallele Stränge:

Strang A: DPIA-Analyse

• Bewerten Sie die Rechtsgrundlage nach Artikel 6 DSGVO (und Artikel 9 für besondere Kategorien).
• Prüfen Sie Notwendigkeit und Verhältnismäßigkeit.
• Bewerten Sie für jedes Risiko Wahrscheinlichkeit und Schwere (finanzieller Verlust, Diskriminierung, Identitätsdiebstahl, Verlust der Vertraulichkeit, Unmöglichkeit, Rechte auszuüben).
• Legen Sie Minderungsmaßnahmen fest: Verschlüsselung, Pseudonymisierung, Minimierung, Aufbewahrungsgrenzen, Zugriffskontrollen, Transparenzhinweise, Verfahren für die Rechte der betroffenen Personen.
• Bestimmen Sie das Restrisiko. Ist es hoch, leiten Sie die vorherige Konsultation der Datenschutzbehörde ein (Artikel 36).

Strang B: FRIA-Analyse

• Ordnen Sie jedes Risiko für jede betroffene Gruppe konkreten Rechten der EU-Charta zu.
• Bewerten Sie den Einsatzkontext: Nutzungszeitraum, Häufigkeit, Ausmaß, geografischer Umfang.
• Prüfen Sie diskriminierende Ergebnisse (Artikel 21 GRCh) über geschützte Merkmale hinweg.
• Bewerten Sie die Auswirkungen auf die Würde (Artikel 1), den Zugang zur Justiz (Artikel 47), die soziale Sicherheit (Artikel 34) und andere einschlägige Charta-Bestimmungen.
• Dokumentieren Sie Maßnahmen der menschlichen Aufsicht und Abhilfepläne (Beschwerdemechanismen, Rechtsbehelfe, Überwachung).
• Bereiten Sie die Meldung an die Marktüberwachungsbehörde und die EU-Datenbank vor.

Schritt 4, angemessen dokumentieren und melden

Erstellen Sie ein einziges kombiniertes Abschätzungsdokument mit klar abgegrenzten Abschnitten:

Meldemaßnahmen:

• DPIA: Intern ablegen. Datenschutzbehörde konsultieren, wenn das Restrisiko hoch ist (Artikel 36 DSGVO).
• FRIA: An die Marktüberwachungsbehörde übermitteln und in der EU-Datenbank registrieren (Artikel 27 Absatz 5 AI Act).

Ein vollständiges Rahmenwerk zur Compliance-Planung finden Sie hier: EU AI Act Compliance-Checkliste 2026.

Wann Sie nur eine DPIA, nur eine FRIA oder beide brauchen

Die folgende Tabelle zeigt häufige Szenarien:

Das häufigste Szenario für Organisationen, die Hochrisiko-KI in Anhang-III-Bereichen betreiben, ist, dass beide Abschätzungen erforderlich sind. Das Szenario mit nur einer FRIA tritt vor allem dann auf, wenn KI-Systeme überhaupt keine personenbezogenen Daten verarbeiten, was bei Systemen, die Einzelpersonen betreffen, selten ist.

Häufige Fehler, die Sie vermeiden sollten

Auf Grundlage erster Vollzugssignale und Hinweise der Aufsichtsbehörden:

1. Annehmen, die DPIA decke die Grundrechte ab, eine DPIA behandelt nur den Datenschutz. Diskriminierung, Würde und Schäden beim Zugang zu Diensten müssen getrennt in einer FRIA bewertet werden.

2. Die FRIA nach dem Betrieb durchführen, Artikel 27 Absatz 1 verlangt die FRIA vor Inbetriebnahme des Systems. Nachträgliche Abschätzungen erfüllen die Pflicht nicht.

3. Abschätzungen als einmalige Übungen behandeln, beide sind lebende Dokumente. Systemaktualisierungen, neue Nutzergruppen und Kontextänderungen müssen eine erneute Bewertung auslösen.

4. Die FRIA nicht registrieren, anders als die DPIA muss die FRIA an die Marktüberwachungsbehörde übermittelt und in der EU-Datenbank registriert werden.

5. Allgemeine Vorlagen verwenden, beide Abschätzungen müssen auf Ihr System, Ihren Kontext und Ihre betroffene Gruppe zugeschnitten sein. Aufsichtsbehörden erwarten eine konkrete, faktengestützte Analyse.

6. Schutzbedürftige Gruppen ignorieren, sowohl die DSGVO (Kriterien der Art.-29-Gruppe) als auch der AI Act (Erwägungsgrund 97, Artikel 27 Absatz 3 Buchst. c) verlangen die Bewertung unterschiedlicher Auswirkungen auf Kinder, Menschen mit Behinderungen, Beschäftigte und Empfänger von Sozialleistungen.

7. Abgeschottete Abschätzungen von Verantwortlichem/Betreiber, wenn Verantwortlicher und Betreiber unterschiedliche Stellen sind, müssen ihre Abschätzungen abgestimmt werden. Der Betreiber braucht Details zur Datenverarbeitung, der Verantwortliche braucht den Einsatzkontext.

8. Kumulative Sanktionen übersehen, ein Versäumnis bei beiden Abschätzungen bedeutet Vollzug durch zwei Behörden unter zwei Sanktionsregimen zugleich.

Häufig gestellte Fragen

Kann ich DPIA und FRIA als ein einziges Dokument durchführen?

Ja. Artikel 27 Absatz 4 erlaubt ausdrücklich, die FRIA "in Verbindung mit" der DPIA durchzuführen. Das kombinierte Dokument muss jedoch alle Anforderungen beider Rahmenwerke erfüllen, die DSGVO-spezifische Analyse (Rechtsgrundlage, Notwendigkeit, Verhältnismäßigkeit, Datenschutzrisiken) und die AI-Act-spezifische Analyse (alle Grundrechte, Einsatzkontext, Registrierung in der EU-Datenbank). Ein kombiniertes Dokument spart Aufwand, verringert aber nicht die inhaltlichen Pflichten.

Wer ist verantwortlich, wenn wir ein KI-Werkzeug eines Dritten nutzen?

Die DPIA liegt beim Verantwortlichen, die FRIA beim Betreiber. In den meisten Fällen ist die Organisation, die ein Werkzeug eines Dritten einsetzt, beides und trägt beide Pflichten. Der KI-Anbieter hat eigene Pflichten (technische Dokumentation, Konformitätsbewertung), ist aber nicht für Ihre DPIA oder FRIA verantwortlich. Fordern Sie die technischen Informationen, die Sie brauchen, beim Anbieter an, das ist dessen Pflicht nach Artikel 13 und Artikel 26 Absatz 1.

Was passiert, wenn die DPIA ein hohes Restrisiko ergibt?

Der Verantwortliche muss die Datenschutzbehörde vor Beginn der Verarbeitung konsultieren (Artikel 36 DSGVO). Die Behörde hat bis zu acht Wochen Zeit (um sechs verlängerbar), um schriftlich zu beraten, was auch eine Einschränkung der Verarbeitung umfassen kann. Diese vorherige Konsultation hat kein Gegenstück bei der FRIA, wobei eine FRIA, die schwere Grundrechterisiken aufzeigt, den Betreiber dazu bewegen sollte, den Betrieb zu überdenken.

Verlangt der AI Act eine FRIA für alle Hochrisiko-KI-Systeme?

Nein. Artikel 27 gilt nur für bestimmte Betreiberkategorien: öffentliche Stellen und private Einrichtungen in bestimmten Anhang-III-Bereichen (Kredit, Versicherung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration, Bildung). Ein privater Hersteller, der Hochrisiko-KI für die interne Qualitätskontrolle betreibt, braucht möglicherweise keine FRIA, wohl aber eine DPIA, falls personenbezogene Daten verarbeitet werden. Siehe: Ist mein KI-System Hochrisiko? Leitfaden zur Einstufung.

Wie oft müssen Abschätzungen aktualisiert werden?

Keine ist ein einmaliges Ereignis. Artikel 35 Absatz 11 DSGVO verlangt eine Überprüfung der DPIA, wenn sich die Verarbeitungsrisiken ändern. Die FRIA muss aktualisiert werden, wenn sich die Einsatzumstände ändern, bei neuen Systemversionen, neuen betroffenen Gruppen oder neuen Belegen für Auswirkungen auf die Grundrechte. Bewährte Praxis: Integrieren Sie Auslöser für eine erneute Bewertung in Ihr KI-Governance-Rahmenwerk (Systemaktualisierungen, Vorfälle, Richtlinienänderungen, jährliche Überprüfung).

Was ist die Frist für die erste FRIA?

Die FRIA-Pflicht gilt ab dem 2. August 2026. Betreiber, die zu diesem Datum bereits Hochrisiko-KI einsetzen, müssen eine FRIA vorliegen haben. Bei neuen Inbetriebnahmen muss die FRIA vor dem Start des Systems abgeschlossen sein. Angesichts der Komplexität ist es dringend ratsam, frühzeitig zu beginnen.

Einen vollständigen Zeitplan finden Sie hier: EU AI Act Zeitplan: Wichtige Daten und Fristen.

Nächste Schritte: Bereiten Sie Ihre KI-Folgenabschätzungen vor

Die doppelte DPIA-/FRIA-Pflicht ist eine der operativ anspruchsvollsten Anforderungen des EU-Rechtsrahmens für KI. Organisationen, die sie früh angehen, mit einer kombinierten Methodik, klarer Rollenverteilung und integrierter Governance, werden die Compliance deutlich besser bewältigen als jene, die jede Abschätzung als getrennte Last-Minute-Übung behandeln.

Wichtige Maßnahmen:

1. Inventarisieren Sie Ihre KI-Systeme, erfassen Sie für jedes System Betreiber und Verantwortlichen. Siehe: So bauen Sie ein KI-Systeminventar auf.
2. Bestimmen Sie die Pflichten, nutzen Sie das Flussdiagramm und die Szenariotabelle oben, um zu ermitteln, welche Abschätzungen gelten.
3. Setzen Sie eine kombinierte Methodik ein, gemeinsame Risikoerkennung, parallele Analysestränge, einheitliche Dokumentation, angemessene Meldung.
4. Beziehen Sie Anbieter ein, fordern Sie die technische Dokumentation nach Artikel 13 und Artikel 26 Absatz 1 an.
5. Setzen Sie Governance-Auslöser, Systemaktualisierungen, Kontextänderungen, Vorfälle und jährliche Überprüfungszyklen sollten alle eine erneute Bewertung anstoßen.

Bereit, Ihre KI-Systeme zu prüfen? Starten Sie Ihre kostenlose AI-Act-Risikobewertung, um zu bestimmen, welche Ihrer Systeme eine DPIA, eine FRIA oder beide erfordern, und einen priorisierten Maßnahmenplan für die Compliance zu erhalten.