AI Act für Finanzdienstleistungen: Compliance-Leitfaden für Banken, Versicherungen und Fintech

Finanzdienstleistungen sind einer der vom EU AI Act am stärksten betroffenen Sektoren, und einer der am wenigsten vorbereiteten. Banken, Versicherer, Investmentfirmen, Zahlungsdienstleister und Fintechs nutzen KI-Systeme, die genau in die Hochrisiko-Einstufung der Verordnung fallen: Kredit-Scoring, Bewertung der Kreditwürdigkeit, Versicherungstarifierung, Schadenbearbeitung, Geldwäschebekämpfung und Risikoprofilierung von Kunden. Das sind keine Randfälle. Sie sind in Anhang III, Nummer 5(b) des AI Act ausdrücklich als KI-Systeme aufgeführt, die den Zugang zu wesentlichen privaten Diensten und Leistungen bestimmen.

Die Compliance-Last ist erheblich. Bis zum 2. August 2026 muss jedes Hochrisiko-KI-System, das auf dem EU-Markt in Verkehr gebracht wird, ein umfassendes Bündel an Anforderungen erfüllen: Risikomanagementsysteme, Daten-Governance-Programme, technische Dokumentation, Mechanismen für menschliche Aufsicht, Standards für Genauigkeit und Robustheit und, für Betreiber, die Finanzinstitute sind, eine Grundrechte-Folgenabschätzung. Finanzinstitute stehen zudem vor einer Herausforderung, die kein anderer Sektor im gleichen Maße teilt: Der AI Act wirkt nicht isoliert. Er legt sich über ein dichtes bestehendes Regulierungsumfeld, DORA, MiFID II, Solvency II, PSD2, die Verbraucherkreditrichtlinie, die DSGVO, und erzeugt überlappende und mitunter widersprüchliche Compliance-Anforderungen.

Dieser Leitfaden schlüsselt jede für Finanzdienstleistungen relevante AI-Act-Pflicht auf, erklärt das Zusammenspiel mit der bestehenden Finanzregulierung und liefert einen umsetzbaren Compliance-Fahrplan. Wenn Sie Ihre KI-Systeme noch nicht klassifiziert haben, beginnen Sie mit dem Leitfaden zur Hochrisiko-Klassifizierung und kehren Sie dann hierher zurück.

• Kredit-Scoring- und Kreditwürdigkeits-KI sind nach Anhang III, Nummer 5(b) ausdrücklich Hochrisiko, die für das Privatkundengeschäft folgenreichste Einstufung.
• Versicherungstarifierungs-KI für Lebens- und Krankenversicherungen fällt in den Anwendungsbereich als KI-System, das den Zugang zu wesentlichen privaten Diensten bewertet. Sach- und Schadenversicherungssparten stehen vor einer weniger sicheren, aber dennoch plausiblen Einstufung.
• Betrugserkennung ist in der Regel nicht Hochrisiko, wenn sie ausschließlich zur Erkennung von Finanzbetrug genutzt wird, wird aber Hochrisiko, wenn ihre Ausgabe bestimmt, ob einem Kunden ein Finanzdienst verweigert wird.
• Die Frist zum 2. August 2026 gilt für alle neuen Hochrisiko-KI-Systeme. Bereits in Betrieb befindliche Systeme unterliegen einer Übergangsbestimmung, aber nur, wenn sie keine wesentliche Änderung erfahren.
• Finanzinstitute sind sowohl Betreiber als auch mitunter Anbieter von KI-Systemen. Jede Rolle trägt eigene Pflichten. Siehe den Leitfaden zu Anbieter und Betreiber.
• Der AI Act wirkt mit DORA, MiFID II, Solvency II und der DSGVO zusammen und erzeugt überlappende, aber nicht identische Anforderungen an Dokumentation, Tests, Governance und menschliche Aufsicht.
• Sanktionen reichen bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen Hochrisiko-Pflichten und 35 Millionen EUR oder 7 % für verbotene Praktiken. Siehe den vollständigen Leitfaden zu den Sanktionen.
• Die Konformitätsbewertung für Finanz-KI ist in den meisten Fällen eine Selbstbewertung, keine benannte Stelle erforderlich, muss aber gründlich, dokumentiert und prüffähig sein. Siehe den Leitfaden zur Konformitätsbewertung.
• Nutzen Sie die Legalithm AI-Act-Bewertung, um Ihre Finanz-KI-Systeme zu klassifizieren und die anwendbaren Pflichten zu bestimmen.

Warum Finanzdienstleistungen mit hohen AI-Act-Pflichten konfrontiert sind

Finanz-KI-Systeme berühren die Lebensgrundlagen von Menschen auf grundlegender Ebene. Ein Kredit-Scoring-Algorithmus, der einen Hypothekenantrag ablehnt, bestimmt, ob jemand ein Zuhause kaufen kann. Ein Versicherungstarifierungsmodell, das Prämien auf Basis von Gesundheitsprognosen aufschlägt, bestimmt, ob jemand sich Versicherungsschutz leisten kann. Ein Geldwäschebekämpfungssystem, das ein Konto zur Ermittlung markiert, kann zu Vermögenssperren und Kontoschließungen führen. Die europäischen Gesetzgeber stuften diese Auswirkungen als hohes Risiko für die Grundrechte ein, konkret das Recht auf Nichtdiskriminierung, das Recht auf einen wirksamen Rechtsbehelf, das Recht auf Eigentum und das Recht auf soziale Sicherheit.

Finanz-KI als Hochrisiko nach Anhang III

Die Hochrisiko-Einstufung des AI Act in Artikel 6(2) gilt für KI-Systeme, die in die in Anhang III aufgeführten Anwendungsfälle fallen. Für Finanzdienstleistungen ist die entscheidende Bestimmung Anhang III, Nummer 5(b):

KI-Systeme, die zur Bewertung der Kreditwürdigkeit natürlicher Personen oder zur Feststellung ihrer Kreditwürdigkeitsbewertung bestimmt sind, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug verwendet werden.

Zusätzlich erfasst Anhang III, Nummer 5(a) KI-Systeme, die zur Bewertung der Anspruchsberechtigung auf wesentliche private Dienste und Leistungen genutzt werden, was die Versicherungstarifierung für Lebens- und Krankenversicherungsprodukte sowie bestimmte Vermögensverwaltungs- und Anlageberatungstools einschließt.

Die Einstufung hängt nicht von der Raffinesse des Modells ab. Ein logistisches Regressionsmodell, das einen Kredit-Score produziert, unterliegt denselben Anforderungen wie ein tiefes neuronales Netz. Der Auslöser ist die Funktion, die Bewertung der Kreditwürdigkeit oder die Feststellung eines Kredit-Scores, nicht die zugrunde liegende Technologie.

Die Frist August 2026

Der zeitlich gestaffelte Durchsetzungsplan des AI Act bedeutet, dass verschiedene Pflichten zu verschiedenen Zeitpunkten in Kraft treten. Für Hochrisiko-KI-Systeme in den Finanzdienstleistungen:

Finanzinstitute, die noch nicht mit der Compliance-Planung begonnen haben, sind bereits im Rückstand. Die Konformitätsbewertung, die technische Dokumentation, das Risikomanagementsystem und das Daten-Governance-Programm, die der AI Act verlangt, lassen sich nicht in Wochen umsetzen, sie erfordern Monate systematischer Arbeit. Weitere Meilensteine finden Sie im vollständigen EU-AI-Act-Zeitplan.

Hochrisiko-KI-Systeme im Finanzwesen: detaillierte Aufschlüsselung

Nicht jedes von einer Bank oder einem Versicherer genutzte KI-System ist Hochrisiko. Die Einstufung ist funktionsspezifisch. Die Grenze zu verstehen ist wesentlich für eine präzise Abgrenzung und um sowohl Unter- als auch Übererfüllung zu vermeiden.

Kredit-Scoring und Bewertung der Kreditwürdigkeit

Einstufung: Hochrisiko (Anhang III, Nummer 5(b))

Das ist die eindeutigste und folgenreichste Hochrisiko-Einstufung in den Finanzdienstleistungen. Jedes KI-System, dessen Zweck es ist, die Kreditwürdigkeit natürlicher Personen zu bewerten oder ihren Kredit-Score festzustellen, ist Hochrisiko. Der Anwendungsbereich ist breit:

• Herkömmliche Kredit-Scoring-Modelle, die von Auskunfteien genutzt werden (z. B. Modelle, die Scores für Kreditentscheidungen im Konsumentengeschäft produzieren).
• Interne Bankmodelle, die bewerten, ob ein Kredit-, Hypotheken-, Überziehungs- oder Kreditkartenantrag genehmigt wird.
• Alternative Kredit-Scoring-Systeme, die von Fintechs genutzt werden, Modelle, die nicht-traditionelle Daten wie Zahlungen von Versorgungsrechnungen, Mietverlauf, Mobiltelefonnutzung, Social-Media-Signale oder Ausgabeverhalten einbeziehen.
• Modelle zur Tragfähigkeitsprüfung, die bestimmen, ob ein Verbraucher eine Schuldverpflichtung bedienen kann.
• Vorqualifizierungs-Engines, die bestimmen, welche Verbraucher Kreditangebote sehen, weil das KI-System faktisch die Kreditwürdigkeit bewertet, um zu entscheiden, ob ein Produkt präsentiert wird.
• Algorithmen zur dynamischen Kreditlimitanpassung, die bestehende Kreditlinien auf Basis fortlaufender Kreditwürdigkeitsbewertung ändern.

Praxisbeispiel: Ein digitaler Kreditgeber nutzt ein Machine-Learning-Modell mit über 500 Merkmalen, einschließlich Gerätetyp, Surfverhalten, Antragszeitpunkt und Transaktionsverlauf, um einen Kreditrisiko-Score zu produzieren. Dieses Modell ist Hochrisiko, unabhängig davon, ob der Kreditgeber es "Kredit-Score", "Risikobewertung" oder "Entscheidungs-Engine" nennt. Die Funktion, die Bewertung der Kreditwürdigkeit, bestimmt die Einstufung.

Was das in der Praxis bedeutet: Jede Privatkundenbank, jedes Konsumentenkreditunternehmen, jeder Kreditkartenherausgeber, jeder Hypothekengeber und jeder Fintech-Kreditgeber im EU-Markt muss sicherstellen, dass seine Kredit-Scoring-KI bis August 2026 die vollständigen Anforderungen von Kapitel III erfüllt. Für Institute, die von Anbietern gelieferte Scoring-Modelle nutzen, tragen sowohl der Anbieter (als Provider) als auch das Institut (als Betreiber) Compliance-Pflichten. Wie sich diese Verantwortlichkeiten aufteilen, zeigt der Leitfaden zu Anbieter und Betreiber.

Versicherungstarifierung und Risikobewertung (Leben und Kranken)

Einstufung: Hochrisiko (Anhang III, Nummer 5(a))

KI-Systeme, die genutzt werden, um Versicherungsprämien, Deckungsbedingungen oder die Anspruchsberechtigung für Lebens- und Krankenversicherungsprodukte zu bestimmen, fallen in die Hochrisiko-Einstufung. Die Logik ist, dass diese Systeme den Zugang zu einem wesentlichen privaten Dienst bestimmen, Gesundheits- und Lebensabsicherung, und ihre Ausgaben eine direkte, materielle Auswirkung auf das finanzielle Wohlergehen von Einzelpersonen und den Zugang zur Gesundheitsversorgung haben können.

Konkret erfasst:

• Underwriting-Modelle für Lebens- und Krankenversicherungen, die KI nutzen, um Risiken zu bewerten und Prämien festzulegen.
• Risikoklassifizierungssysteme, die Antragsteller in Risikostufen einordnen, die das Prämienniveau beeinflussen.
• Schadenprognosemodelle, die während des Underwritings genutzt werden, um die künftige Schadenwahrscheinlichkeit zu schätzen und die Tarifierung zu stützen.
• Gesundheitsrisiko-Scoring-Systeme, die die Gesundheitsprofile von Antragstellern anhand medizinischer Daten, Wearable-Daten oder Lebensstildaten bewerten.
• Algorithmen zur dynamischen Tarifierung, die Kranken- oder Lebensversicherungsprämien auf Basis fortlaufender Verhaltens- oder Gesundheitsdaten anpassen.

Sach- und Schadenversicherung, die Grauzone: Die Einstufung von KI in der Sach- und Schadenversicherung ist weniger geklärt. Tarifierungsmodelle für Kfz-, Wohngebäude- und Gewerbeversicherungen werden in Anhang III, Nummer 5 nicht so direkt genannt wie Kreditwürdigkeit und Kranken-/Lebensversicherung. Wo ein KI-System jedoch bestimmt, ob ein Verbraucher Zugang zu einer Kfz-Versicherung erhält, in den meisten EU-Mitgliedstaaten eine gesetzliche Pflicht, besteht ein starkes Argument, dass es den Zugang zu einem wesentlichen Dienst bewertet. Die Leitlinien des Europäischen KI-Büros und die Durchsetzungspraxis der Mitgliedstaaten werden diese Grenze klären. Umsichtige Versicherer sollten eine AI-Act-Risikobewertung für alle Underwriting-KI-Systeme durchführen, nicht nur für Leben und Kranken.

Praxisbeispiel: Ein Lebensversicherer setzt ein KI-Modell ein, das Gesundheitsfragebögen, medizinische Akten und Daten von Wearable-Geräten der Antragsteller aufnimmt, um das Sterblichkeitsrisiko vorherzusagen und Prämien festzulegen. Dieses Modell ist nach dem AI Act Hochrisiko. Es muss die Anforderungen an die Daten-Governance erfüllen, einschließlich der Prüfung der Trainingsdaten auf Verzerrungen in Bezug auf Geschlecht, ethnische Zugehörigkeit, Alter, Behinderung und sozioökonomischen Status, und muss eine aussagekräftige menschliche Aufsicht der Tarifierungsentscheidungen vorsehen.

Betrugserkennung, die entscheidende Ausnahme

Einstufung: In der Regel NICHT Hochrisiko

Anhang III, Nummer 5(b) enthält eine ausdrückliche Ausnahme:

"...mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug verwendet werden."

Das bedeutet, dass KI-Systeme, deren alleiniger Zweck die Betrugserkennung ist, Transaktionsüberwachung, Identifizierung verdächtiger Aktivitäten, Anomalieerkennung in Zahlungsströmen, nach der Anhang-III-Einstufung des AI Act nicht Hochrisiko sind. Die Begründung ist, dass Betrugserkennungssysteme Verbraucher schützen, statt ihren Zugang zu Diensten zu kontrollieren.

Aber die Ausnahme ist enger, als sie scheint. Entscheidende Feinheiten:

1. Die Ausnahme gilt nur für die Betrugserkennung, nicht für die nachgelagerten Folgen. Wenn die Ausgabe eines Betrugserkennungssystems eine automatische Kontosperre, eine Transaktionsblockade oder eine Verweigerung des Dienstes auslöst, kann das KI-System, das diese nachgelagerte Entscheidung trifft, selbst Hochrisiko sein, weil es nun den Zugang zu einem wesentlichen Finanzdienst bestimmt.

2. Systeme zur Geldwäschebekämpfung (AML) und zur Bekämpfung der Terrorismusfinanzierung (CTF) nehmen eine mehrdeutige Stellung ein. Diese Systeme sind nicht ausschließlich Betrugserkennung, sie bewerten Kundenrisikoprofile zu regulatorischen Compliance-Zwecken. Wo AML/CTF-KI zu Kontoschließungen, De-Risking oder Verweigerung des Dienstes führt, beeinflusst die Ausgabe des Systems den Zugang zu wesentlichen Bankdiensten. Finanzinstitute sollten diese Systeme einzeln bewerten, statt davon auszugehen, dass die Betrugserkennungs-Ausnahme allgemein gilt.

3. Kombinierte Systeme, die sowohl Betrugserkennung als auch Kreditrisikobewertung durchführen, eine verbreitete Architektur in Fintechs, können sich für die Kreditrisikokomponente nicht auf die Betrugserkennungs-Ausnahme berufen. Hat das System einen Doppelzweck, gilt die Hochrisiko-Einstufung für die Kreditwürdigkeitsfunktion.

Praxisbeispiel: Ein Zahlungsdienstleister nutzt ein KI-System, um potenziell betrügerische Transaktionen in Echtzeit zu markieren. Die alleinige Ausgabe des Systems ist ein Betrugswahrscheinlichkeits-Score, der an einen menschlichen Analysten zur Prüfung geht. Dieses System profitiert von der Betrugserkennungs-Ausnahme und ist nicht Hochrisiko. Setzt derselbe Dienstleister jedoch ein System ein, das Kundenkonten auf Basis eines algorithmischen Risiko-Scorings automatisch blockiert, und die blockierten Kunden können nicht auf ihre Mittel zugreifen, fällt die Kontoblockierungsfunktion außerhalb der Ausnahme.

Recruiting-KI in Finanzinstituten

Einstufung: Hochrisiko (Anhang III, Nummer 4)

Finanzinstitute, die KI bei der Einstellung nutzen, Lebenslauf-Screening, Bewerber-Ranking, Interview-Bewertung, Leistungsüberwachung, Beförderungsempfehlungen, stehen vor Hochrisiko-Pflichten nach der separaten Einstufung für Beschäftigung und Einstellung. Das gilt unabhängig davon, ob das Institut eine Bank, ein Versicherer oder ein Fintech ist. Eine ausführliche Analyse der Pflichten für Recruiting-KI finden Sie im Compliance-Leitfaden zum AI Act für HR und Recruiting.

Compliance-Anforderungen für Finanz-KI-Systeme

Jedes Hochrisiko-KI-System muss die in Kapitel III, Abschnitt 2 des AI Act festgelegten Anforderungen erfüllen. Für Finanzinstitute müssen diese Anforderungen im Kontext bestehender Regulierungsrahmen verstanden werden, die bereits verwandte, aber nicht identische Pflichten auferlegen.

Risikomanagementsystem (Artikel 9)

Artikel 9 verlangt ein kontinuierliches, iteratives Risikomanagementsystem über den gesamten Lebenszyklus des KI-Systems. Für Finanz-KI bedeutet das:

• Identifizierung und Analyse bekannter und vernünftigerweise vorhersehbarer Risiken für Gesundheit, Sicherheit und Grundrechte. Beim Kredit-Scoring umfasst das das Risiko diskriminierender Ergebnisse auf Basis geschützter Merkmale, Rasse, Geschlecht, Alter, Behinderung, ethnische Zugehörigkeit. Bei der Versicherungstarifierung umfasst das Risiken indirekter Diskriminierung über Proxy-Variablen.
• Schätzung und Bewertung von Risiken, die aus der bestimmungsgemäßen Verwendung und vernünftigerweise vorhersehbarem Missbrauch entstehen. Ein Kreditwürdigkeitsmodell, das für Entscheidungen zu Privatkrediten konzipiert ist und ohne erneute Validierung für das Hypotheken-Underwriting zweckentfremdet wird, ist ein vorhersehbares Missbrauchsszenario.
• Ergreifen von Risikomanagementmaßnahmen, das Restrisiko muss unter Berücksichtigung des Stands der Technik als akzeptabel beurteilt werden. Beim Kredit-Scoring kann das erfordern nachzuweisen, dass das Modell keine statistisch signifikant ungleichen Ergebnisse über geschützte Gruppen hinweg produziert oder dass etwaige ungleiche Ergebnisse gerechtfertigt und verhältnismäßig sind.
• Tests gegen vorab definierte Metriken und probabilistische Schwellenwerte, die dem Verwendungszweck angemessen sind. Kredit-Scoring-Modelle müssen auf Vorhersagegenauigkeit, Stabilität und Fairness über demografische Untergruppen hinweg getestet werden.

Finanzinstitute, die bereits unter EBA-Leitlinien zu IRB-Modellen, EZB-TRIM-Anforderungen oder Solvency-II-Standards zur Modellvalidierung arbeiten, werden Überschneidungen finden, aber die Risikomanagement-Anforderungen des AI Act sind breiter angelegt, besonders rund um Grundrechte und Verzerrungen. Der AI Act verlangt eine ausdrückliche Bewertung von Risiken für Nichtdiskriminierung, Privatsphäre, Würde und wirksamen Rechtsbehelf, Dimensionen, die bestehende Modellrisikomanagement-Rahmen im Bankwesen womöglich nicht systematisch adressieren.

Daten-Governance (Artikel 10)

Artikel 10 stellt Anforderungen an Trainings-, Validierungs- und Testdatensätze. Für Finanz-KI ist das die Anforderung mit der größten praktischen Auswirkung:

• Trainingsdaten müssen relevant, hinreichend repräsentativ und so fehlerfrei wie möglich sein. Beim Kredit-Scoring bedeutet das, dass der Trainingsdatensatz die Population repräsentieren muss, auf die das Modell angewendet wird, nicht nur die historisch genehmigte Population (eine bekannte Quelle von Selektionsverzerrung bei der Kreditvergabe).
• Die Prüfung auf mögliche Verzerrungen ist verpflichtend. Finanzinstitute müssen prüfen, ob ihre Trainingsdaten historische Diskriminierung widerspiegeln, etwa historische Kreditvergabemuster, die bestimmte ethnische Gruppen, Frauen oder einkommensschwache Gemeinschaften systematisch benachteiligt haben, und Schritte zur Behebung festgestellter Verzerrungen unternehmen.
• Praktiken der Daten-Governance müssen die Dokumentation von Datenquellen, Erhebungsmethoden, Datenaufbereitungsoperationen, Annahmen und Grenzen umfassen.
• Die Verarbeitung personenbezogener Daten muss die DSGVO einhalten, einschließlich der Schaffung einer Rechtsgrundlage für die Verarbeitung sensibler Daten, die bei der Bias-Erkennung genutzt werden. Wie diese Pflichten zusammenwirken, zeigt der Leitfaden AI Act vs. DSGVO.

Die Herausforderung für Finanzinstitute ist gravierend. Kredit-Scoring hängt naturgemäß von historischen Daten ab, und historische Kreditvergabedaten spiegeln Jahrzehnte diskriminierender Praktiken wider. Die Einhaltung von Artikel 10 erfordert mehr als die Dokumentation von Datensätzen, sie erfordert das aktive Identifizieren und Mindern eingebetteter Verzerrungen. Praktische Ansätze finden Sie im Leitfaden zu Bias-Tests und Fairness.

Technische Dokumentation (Artikel 11)

Artikel 11 und Anhang IV verlangen eine umfassende technische Dokumentation, die Folgendes abdeckt:

• Eine allgemeine Beschreibung des KI-Systems, seines Verwendungszwecks und des Anbieters.
• Eine detaillierte Beschreibung der Elemente des KI-Systems und seines Entwicklungsprozesses, einschließlich Entwurfsspezifikationen, Systemarchitektur, verwendeter Algorithmen, Datenanforderungen und Trainingsmethodik.
• Informationen zur Überwachung, Funktionsweise und Steuerung des KI-Systems, einschließlich der Maßnahmen zur menschlichen Aufsicht.
• Eine Beschreibung der Genauigkeit, Robustheit und Cybersicherheit des Systems, einschließlich Metriken und Testergebnissen.
• Eine Beschreibung des Risikomanagementsystems.
• Eine Beschreibung der über den Lebenszyklus des Systems vorgenommenen Änderungen.

Für Finanzinstitute, die an Modelldokumentation nach aufsichtlichen Erwartungen gewöhnt sind (z. B. der EZB-Leitfaden für interne Modelle, die Erwartungen der PRA zum Modellrisikomanagement), wird vieles davon vertraut wirken. Die Anforderungen der Anhang-IV-Dokumentation sind jedoch in bestimmten Bereichen granularer, besonders rund um Daten-Governance, Bias-Bewertung und Grundrechtsauswirkung, als eine typische Modelldokumentation.

Menschliche Aufsicht (Artikel 14)

Artikel 14 verlangt, dass Hochrisiko-KI-Systeme so gestaltet sind, dass sie wirksam durch natürliche Personen beaufsichtigt werden. Für Finanz-KI:

• Aufsichtspersonen müssen in der Lage sein, die Fähigkeiten und Grenzen des Systems vollständig zu verstehen, einschließlich seiner Genauigkeitsraten, Fehlerraten und bekannten Verzerrungen.
• Aufsichtspersonen müssen in der Lage sein, die Ausgabe des Systems korrekt zu interpretieren, unter Berücksichtigung der Eigenschaften des Systems und der verfügbaren Interpretationswerkzeuge.
• Aufsichtspersonen müssen in der Lage sein, zu entscheiden, das System nicht zu verwenden, oder die Ausgabe zu ignorieren, zu übersteuern oder rückgängig zu machen.
• Beim Kredit-Scoring bedeutet das, dass Kreditsachbearbeiter die Fähigkeit und praktische Möglichkeit haben müssen, KI-getriebene Kreditentscheidungen zu übersteuern, nicht bloß einen theoretischen Übersteuerungsknopf, der nie genutzt wird. Aufsichtsbehörden werden wahrscheinlich Übersteuerungsraten als Nachweis aussagekräftiger menschlicher Aufsicht prüfen.

Praktische Spannung mit der Automatisierung: Viele Finanzinstitute sind für routinemäßige Kreditentscheidungen zur Dunkelverarbeitung (Straight-Through Processing, STP) übergegangen, automatisierte Genehmigung/Ablehnung ohne menschlichen Eingriff für Anträge innerhalb bestimmter Parameter. Nach dem AI Act erfordert STP für Hochrisiko-KI-Entscheidungen eine sorgfältige Gestaltung. Das System muss so konfiguriert sein, dass menschliche Aufsicht für Fälle verfügbar ist, die das System als aufsichtsbedürftig erkennt (z. B. schwellennahe Entscheidungen, Anträge mit ungewöhnlichen Merkmalen), und das Institut muss nachweisen, dass der Mechanismus der menschlichen Aufsicht wirksam ist, nicht bloß auf dem Papier.

Genauigkeit, Robustheit und Cybersicherheit (Artikel 15)

Artikel 15 verlangt, dass Hochrisiko-KI-Systeme angemessene Niveaus erreichen bei:

• Genauigkeit: Das System muss konsistent mit seinem angegebenen Zweck arbeiten. Beim Kredit-Scoring müssen Genauigkeitskennzahlen dokumentiert werden, einschließlich der Leistung über verschiedene demografische Untergruppen hinweg, eine aggregierte Genauigkeit reicht nicht, wenn das Modell für bestimmte Populationen deutlich schlechter abschneidet.
• Robustheit: Das System muss widerstandsfähig gegenüber Fehlern, Störungen und Inkonsistenzen sein, einschließlich adversarialer Versuche. Kredit-Scoring-Modelle müssen gegen adversariale Eingaben getestet werden (z. B. synthetischer Identitätsbetrug, Datenmanipulation zur Aufblähung von Scores).
• Cybersicherheit: Das System muss gegen unbefugten Zugriff, Datenkorruption und Modellmanipulation geschützt sein. Das überschneidet sich direkt mit den DORA-Anforderungen (siehe unten).

Zusammenspiel mit der bestehenden Finanzregulierung

Der AI Act ersetzt die bestehende Finanzregulierung nicht, er ergänzt sie. Finanzinstitute müssen die Schnittstelle des AI Act mit mehreren bestehenden Regulierungsrahmen navigieren. In mehreren Bereichen stellt die bestehende Regulierung bereits Anforderungen, die AI-Act-Pflichten teilweise abdecken; in anderen schafft der AI Act wirklich neue Anforderungen.

DORA (Digital Operational Resilience Act)

Der Digital Operational Resilience Act (Verordnung (EU) 2022/2554), vollständig anwendbar ab dem 17. Januar 2025, verlangt von Finanzunternehmen, umfassende Rahmen für das IKT-Risikomanagement zu schaffen, Tests der operativen Resilienz durchzuführen, das IKT-Drittparteienrisiko zu steuern und IKT-bezogene Vorfälle zu melden.

Überschneidung mit dem AI Act:

• Der IKT-Risikomanagement-Rahmen von DORA (Artikel 5 bis 16) deckt Aspekte des Risikomanagements von KI-Systemen ab, besonders rund um operative Resilienz, Änderungsmanagement und Vorfallbearbeitung.
• Die Anforderungen von DORA an das Drittparteien-Risikomanagement (Artikel 28 bis 44) gelten für ausgelagerte KI-Dienste, cloudbasierte Kredit-Scoring-Modelle, von Anbietern gelieferte Betrugserkennung, BaaS-KI-Komponenten, und decken die AI-Act-Anforderungen an die Lieferketten-Governance teilweise ab.
• Die Tests der operativen Resilienz von DORA (Artikel 24 bis 27) überschneiden sich mit den Anforderungen von Artikel 15 an Robustheit und Cybersicherheit.

Wo sie auseinandergehen: DORA konzentriert sich auf operative Resilienz, darauf, sicherzustellen, dass Finanzinstitute IKT-Störungen standhalten und sich davon erholen können. Es adressiert nicht Grundrechte, Verzerrungen, Diskriminierung, Transparenz gegenüber betroffenen Personen oder die spezifischen Daten-Governance-Anforderungen von Artikel 10. Ein KI-System kann vollständig DORA-konform sein und dennoch am AI Act scheitern.

MiFID II

Die Markets in Financial Instruments Directive II (Richtlinie 2014/65/EU) regelt Wertpapierdienstleistungen und -tätigkeiten. Wo KI für Anlageberatung, Portfolioverwaltung, Geeignetheitsprüfungen oder algorithmischen Handel genutzt wird:

• Die Anforderungen an die Geeignetheitsprüfung von MiFID II (Artikel 25) verlangen bereits, dass Firmen sicherstellen, dass Anlageempfehlungen für den Kunden geeignet sind. KI-getriebene Robo-Advisory-Plattformen müssen sowohl die Geeignetheitsanforderungen von MiFID II als auch die Transparenz- und Aufsichtsanforderungen des AI Act erfüllen.
• Die Pflichten zum algorithmischen Handel nach MiFID II (Artikel 17) verlangen Risikokontrollen, Tests und Dokumentation für Handelsalgorithmen. Diese überschneiden sich mit den Anforderungen des AI Act an Risikomanagement und Genauigkeit, aber der AI Act verlangt zusätzlich eine Bewertung der Grundrechtsauswirkung und von Verzerrungen, Konzepte, die MiFID II nicht adressiert.
• Die Pflichten zur bestmöglichen Ausführung nach MiFID II verlangen, dass Firmen ausreichende Schritte unternehmen, um das bestmögliche Ergebnis für Kunden zu erzielen. Wo KI genutzt wird, um Ausführungsplätze oder -strategien zu bestimmen, können die Transparenzanforderungen des AI Act zusätzliche Offenlegungspflichten auferlegen.

Solvency II

Die Solvency-II-Richtlinie (Richtlinie 2009/138/EG) regelt Versicherungs- und Rückversicherungsunternehmen. Ihre Relevanz für die KI-Compliance:

• Die Anforderungen von Solvency II an die unternehmenseigene Risiko- und Solvabilitätsbeurteilung (ORSA) verlangen bereits, dass Versicherer die aus ihren internen Modellen, einschließlich Tarifierungsmodellen, entstehenden Risiken verstehen und dokumentieren.
• Die Anforderungen an die versicherungsmathematische Funktion (Artikel 48) legen Governance- und Validierungspflichten für Tarifierungs- und Reservierungsmodelle fest, die sich teilweise mit den Anforderungen des AI Act an technische Dokumentation und Risikomanagement überschneiden.
• Die Anforderungen von Solvency II an das Governance-System (Artikel 41 bis 49), einschließlich der Anforderungen an fachliche Eignung und Zuverlässigkeit, Risikomanagement und interne Kontrollen, bilden eine Grundlage für die KI-Governance, adressieren aber nicht Bias-Tests, die Grundrechtsbewertung oder die spezifischen Anforderungen von Artikel 14 an die menschliche Aufsicht.

DSGVO

Die Datenschutz-Grundverordnung überschneidet sich für Finanzdienstleistungen am stärksten mit dem AI Act. Siehe den ausführlichen Vergleich AI Act vs. DSGVO. Zentrale Schnittstellen:

• Automatisierte Entscheidungen im Einzelfall (Artikel 22 DSGVO): Kredit-Scoring ist das klassische Beispiel für eine automatisierte Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung. Artikel 22 DSGVO verlangt bereits aussagekräftige Informationen über die involvierte Logik, das Recht auf menschliches Eingreifen und das Recht auf Anfechtung. Die Anforderungen des AI Act an menschliche Aufsicht und Transparenz erweitern diese Pflichten.
• Datenschutz-Folgenabschätzung (DSFA): Eine DSFA nach Artikel 35 DSGVO ist für die meisten Hochrisiko-Finanz-KI-Systeme wahrscheinlich erforderlich. Die Grundrechte-Folgenabschätzung (FRIA) des AI Act ist eine separate Pflicht für bestimmte Betreiber, einschließlich Finanzinstitute, kann aber mit der DSFA abgestimmt werden.
• Rechtsgrundlage für Bias-Tests: Die Prüfung von Trainingsdaten auf Verzerrungen erfordert die Verarbeitung von Daten über geschützte Merkmale (Rasse, ethnische Zugehörigkeit, Gesundheitszustand, Geschlecht). Nach der DSGVO erfordert das eine Rechtsgrundlage, typischerweise Artikel 9(2)(g) (erhebliches öffentliches Interesse), umgesetzt durch mitgliedstaatliches Recht. Das ist eine ungelöste Spannung, die der Europäische Datenschutzausschuss und das KI-Büro voraussichtlich in Leitlinien adressieren werden.
• Recht auf Erklärung: Die DSGVO gewährt ein Recht auf aussagekräftige Informationen über automatisierte Entscheidungen. Der AI Act verlangt, dass Betreiber betroffene Personen informieren, dass sie einem Hochrisiko-KI-System unterliegen (Artikel 26(11)). Diese Pflichten ergänzen einander, haben aber unterschiedliche Anwendungsbereiche und Auslöser.

Vergleich der Pflichten über die Rahmen hinweg

Konformitätsbewertung für Finanz-KI

Hochrisiko-KI-Systeme in den Finanzdienstleistungen unterliegen der Konformitätsbewertung nach Artikel 43. Für Finanz-KI, die kein Sicherheitsbauteil eines von Anhang-I-Rechtsvorschriften erfassten Produkts ist, beruht die Konformitätsbewertung auf einer internen Kontrolle, das heißt, der Anbieter (typischerweise der Anbieter der Lösung oder, bei intern entwickelten Systemen, das Finanzinstitut selbst) führt die Bewertung ohne Beteiligung einer benannten Stelle durch.

Das ist zugleich ein Vorteil und eine Verantwortung:

• Kein externer Prüfer ist erforderlich. Finanzinstitute, die KI-Systeme intern entwickeln oder von Anbietern beziehen, können Konformitätsbewertungen intern durchführen, nach dem in Anhang VI festgelegten Verfahren.
• Die Bewertung muss gründlich und dokumentiert sein. Selbstbewertung bedeutet keine oberflächliche Compliance. Der Anbieter muss die Einhaltung jeder anwendbaren Anforderung überprüfen, Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Genauigkeit, Robustheit, und eine Konformitätserklärung nach Artikel 47 erstellen.
• Die Dokumentation muss der aufsichtlichen Prüfung standhalten. Nationale Marktüberwachungsbehörden können die vollständige technische Dokumentation anfordern und die Konformitätsbewertung prüfen. Finanzinstitute, die der Aufsicht unterliegen (durch die EZB, zuständige nationale Behörden oder nationale Aufsichtsbehörden), können auch über aufsichtliche Kanäle mit Fragen zur AI-Act-Compliance konfrontiert werden.
• Die CE-Kennzeichnung ist für Hochrisiko-KI-Systeme erforderlich, die nach der Compliance-Frist in Verkehr gebracht werden. Die CE-Kennzeichnung signalisiert, dass das System den Anforderungen des AI Act entspricht.

Eine vollständige Anleitung zum Prozess der Konformitätsbewertung finden Sie im Leitfaden zur Konformitätsbewertung.

Sonderfall, Finanz-KI mit biometrischer Identifizierung: Wenn ein Finanzinstitut eine biometrische Echtzeit-Fernidentifizierung nutzt (z. B. Gesichtserkennung beim Kunden-Onboarding), erfordert die Konformitätsbewertung nach Anhang VII die Beteiligung einer benannten Stelle. Das ist das einzige Szenario in den Finanzdienstleistungen, in dem eine Konformitätsbewertung durch Dritte vorgeschrieben ist.

Sanktionen und Durchsetzung

Der AI Act schafft einen gestuften Sanktionsrahmen, der für Finanzinstitute sowohl als Anbieter als auch als Betreiber von KI-Systemen gilt:

Für große Finanzinstitute erzeugt die umsatzbasierte Berechnung dramatisch höhere Zahlen. Eine globale Bank mit 50 Milliarden EUR Umsatz steht vor einer theoretischen Höchstsanktion von 3,5 Milliarden EUR (7 % für verbotene Praktiken) oder 1,5 Milliarden EUR (3 % für Nichteinhaltung bei Hochrisiko).

Durchsetzungsarchitektur: Der AI Act wird auf nationaler Ebene durch die von jedem Mitgliedstaat benannten Marktüberwachungsbehörden durchgesetzt. Für Finanzdienstleistungen können Mitgliedstaaten bestehende Finanzaufsichtsbehörden (Zentralbanken, Finanzaufsichtsbehörden) als zuständige Behörde für die Durchsetzung des AI Act im Finanzsektor benennen. Das bedeutet, dass dieselbe Aufsichtsbehörde, die aufsichtliche Prüfungen durchführt, auch die AI-Act-Compliance durchsetzen kann und so die KI-Governance in den breiteren Aufsichtsrahmen integriert.

Zusammenspiel mit Sanktionen der Finanzregulierung: AI-Act-Sanktionen gelten zusätzlich zu Sanktionen nach anderen Regulierungsrahmen. Ein Kredit-Scoring-Modell, das sowohl gegen den AI Act (durch Versäumen von Bias-Tests) als auch gegen die DSGVO (durch Fehlen einer Rechtsgrundlage für die Verarbeitung sensibler Daten) verstößt, kann Sanktionen nach beiden Verordnungen nach sich ziehen. Es gibt zwischen diesen Rahmen keinen Schutz vor doppelter Bestrafung.

Den vollständigen Sanktionsrahmen finden Sie im Leitfaden zu Sanktionen und Bußgeldern.

Umsetzungsfahrplan für Finanzinstitute

Compliance lässt sich nicht in einem einzigen Sprint erreichen. Der folgende Zeitplan spiegelt realistische Planungshorizonte für Finanzinstitute unterschiedlicher Größe wider.

Häufig gestellte Fragen

Ist Kredit-Scoring nach dem AI Act immer Hochrisiko?

Ja, mit einer Einschränkung. Jedes KI-System, das zur Bewertung der Kreditwürdigkeit natürlicher Personen oder zur Feststellung ihres Kredit-Scores bestimmt ist, ist Hochrisiko nach Anhang III, Nummer 5(b). Das gilt unabhängig von der Modellkomplexität, den Dateneingaben oder davon, ob das System die endgültige Kreditentscheidung trifft oder nur eine Empfehlung liefert. Die einzige Ausnahme ist KI, die ausschließlich zur Aufdeckung von Finanzbetrug genutzt wird. Hat ein Kredit-Scoring-Modell eine Betrugserkennungskomponente, bleibt die Kreditwürdigkeitsfunktion Hochrisiko; die Betrugserkennungs-Ausnahme kann nicht genutzt werden, um das gesamte System abzuschirmen.

Gilt der AI Act für KI-Systeme, die wir von Anbietern beziehen?

Ja. Finanzinstitute, die von Anbietern gelieferte KI-Systeme nutzen (Kredit-Scoring-Plattformen, AML-Lösungen, Versicherungstarifierungstools), sind Betreiber nach dem AI Act und tragen ihre eigenen Compliance-Pflichten, einschließlich menschlicher Aufsicht, Information betroffener Personen, Durchführung der FRIA (wo einschlägig) und Sicherstellung, dass das System entsprechend seiner Betriebsanleitung genutzt wird. Die Compliance des Anbieters als Provider entbindet den Betreiber nicht von seinen eigenständigen Pflichten. Siehe den Leitfaden zu den Pflichten von Anbieter und Betreiber.

Wie wirkt der AI Act mit den bestehenden EBA-/EZB-Erwartungen zum Modellrisikomanagement zusammen?

Die Anforderungen des AI Act überschneiden sich teilweise mit bestehenden aufsichtlichen Erwartungen an das Modellrisikomanagement (MRM), die Modellvalidierung und interne Modelle. Risikomanagement (Artikel 9), technische Dokumentation (Artikel 11), Genauigkeitstests (Artikel 15) und menschliche Aufsicht (Artikel 14) haben allesamt Entsprechungen in der Aufsicht. Der AI Act führt jedoch Anforderungen ein, die über das herkömmliche MRM hinausgehen, konkret verpflichtende Bias-Tests nach Artikel 10, die Grundrechte-Folgenabschätzung, die Transparenz gegenüber betroffenen Personen und den formalen Prozess der Konformitätsbewertung. Finanzinstitute sollten ihre bestehenden MRM-Rahmen erweitern, statt parallele Strukturen aufzubauen.

Sind KI-Systeme zur Geldwäschebekämpfung (AML) Hochrisiko?

Die Antwort hängt von Funktion und Auswirkung ab. KI-Systeme, die ausschließlich zur Betrugserkennung genutzt werden, profitieren von der ausdrücklichen Ausnahme in Anhang III, Nummer 5(b). AML-Systeme gehen jedoch oft über die Erkennung hinaus, sie produzieren Kundenrisiko-Scores, lösen verstärkte Sorgfaltspflichten aus, führen zu Kontobeschränkungen und stützen Entscheidungen, Kunden das Konto zu entziehen. Wo die Ausgabe eines AML-Systems eine Entscheidung, den Zugang eines Kunden zu Bankdiensten zu verweigern, zu beschränken oder zu beenden, wesentlich beeinflusst, kann das System als Hochrisiko nach Anhang III, Nummer 5(a) gelten, als KI-System, das den Zugang zu wesentlichen privaten Diensten beeinflusst. Finanzinstitute sollten eine funktionsweise Analyse durchführen, statt von einer pauschalen Ausnahme auszugehen.

Was passiert, wenn unser KI-System bereits vor August 2026 in Produktion ist?

Der AI Act enthält eine Übergangsbestimmung für KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden. Diese Systeme müssen nicht sofort konform sein, sofern sie keine wesentliche Änderung ihres Zwecks, ihrer Funktionalität oder ihrer Gestaltung erfahren. Bleibt das System unverändert, ist die Compliance bis zum 2. August 2027 erforderlich. Jede wesentliche Änderung jedoch, ein größeres Nachtraining des Modells, eine Änderung der Zielpopulation, die Einbindung neuer Datenquellen, setzt die Uhr zurück und löst sofortige Compliance-Anforderungen aus. Finanzinstitute sollten die Änderungshistorie und die geplante Entwicklungs-Roadmap jedes Systems bewerten, um zu bestimmen, welche Frist gilt.

Brauchen wir eine Grundrechte-Folgenabschätzung?

Nach Artikel 27 müssen Betreiber von Hochrisiko-KI-Systemen, die Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, oder Einrichtungen sind, die in bestimmten Anhang-III-Kategorien aufgeführte KI-Systeme einsetzen, einschließlich Nummer 5 (Zugang zu wesentlichen Diensten), vor der Inbetriebnahme des Systems eine FRIA durchführen. Kreditinstitute und Versicherer, die Hochrisiko-KI bei Kreditvergabe und Versicherungstarifierung einsetzen, fallen wahrscheinlich in diesen Anwendungsbereich. Die FRIA ist ein von der DSGVO-DSFA separates Dokument, die beiden können jedoch parallel durchgeführt werden und die faktische Analyse teilen. Die vollständige Methodik finden Sie im FRIA-Leitfaden.

Nächste Schritte

Finanzinstitute haben ein schmales, aber machbares Zeitfenster, um vor der Frist im August 2026 AI-Act-Compliance zu erreichen. Entscheidend ist, jetzt zu beginnen, bestehende Regulierungsrahmen zu nutzen, wo sie sich überschneiden, und früh die wirklich neuen Pflichten zu identifizieren, die der AI Act einführt.

Beginnen Sie mit der Klassifizierung. Nutzen Sie das Legalithm AI-Act-Bewertungstool, um Ihre KI-Systeme zu klassifizieren, zu ermitteln, welche Hochrisiko sind, und einen maßgeschneiderten Pflichtenbericht zu erzeugen. Arbeiten Sie dann die Compliance-Checkliste zum EU AI Act durch, um Lücken systematisch zu schließen.

Für einen breiteren Blick auf die regulatorische Landschaft und wie sie sich über Rechtsordnungen hinweg vergleicht, siehe den globalen Vergleich der KI-Regulierung.