AI Act: Anbieter oder Betreiber, wer ist wofür verantwortlich nach dem EU AI Act?

Bauen Sie ein Medizinprodukt oder SaMD? Sehen Sie die medizinspezifische Version: Anbieter vs. Betreiber für medizinische KI.

• Der AI Act weist Compliance-Pflichten nach Rolle zu, nicht nach Unternehmensgröße oder Technologie. Die zwei primären Rollen sind Anbieter (Provider) (entwickelt KI oder bringt sie in Verkehr) und Betreiber (Deployer) (nutzt KI unter eigener Verantwortung).
• Anbieter tragen die schwersten Pflichten: Risikomanagement, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, QMS, Marktbeobachtung und Registrierung in der EU-Datenbank.
• Betreiber müssen die menschliche Aufsicht sicherstellen, Protokolle aufbewahren, betroffene Personen informieren und (für öffentliche Stellen und Anbieter wesentlicher Dienste) eine Grundrechte-Folgenabschätzung durchführen.
• Ein Betreiber wird nach Artikel 25 zum Anbieter in drei Szenarien: Er bringt das System unter eigener Marke in Verkehr, nimmt eine wesentliche Änderung vor oder ändert die Zweckbestimmung so, dass es hochriskant wird.
• Einführer und Händler haben eigene Prüf- und Dokumentationspflichten.
• Die eigene Rolle falsch einzuordnen ist einer der häufigsten Compliance-Fehler, er wirkt sich auf jede nachgelagerte Pflicht aus.
• Sowohl Anbieter als auch Betreiber sehen sich bei Nichteinhaltung der Hochrisiko-Pflichten Bußgeldern von bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes ausgesetzt.

Eine der folgenreichsten Entscheidungen nach dem EU AI Act geht nicht um Technologie, sondern um die Rolle. Sind Sie Anbieter oder Betreiber? Die Antwort bestimmt Umfang, Kosten und Dringlichkeit Ihrer Compliance-Pflichten. Die Rollenbestimmung falsch zu treffen, kaskadiert in jede weitere Compliance-Entscheidung: falscher Dokumentationsumfang, falsche Konformitätsbewertung, falsche Meldepflichten.

Dieser Leitfaden schlüsselt die Pflichten jeder Rolle nebeneinander auf, erklärt die Situationen, in denen ein Betreiber zum Anbieter wird, behandelt die häufig übersehenen Rollen von Einführer und Händler und markiert die häufigsten Missverständnisse mit realen Beispielen.

Definitionen: Anbieter vs. Betreiber vs. Einführer vs. Händler

Der AI Act definiert alle Rollen in der Lieferkette in Artikel 3:

Anbieter (Artikel 3(3)): Eine natürliche oder juristische Person, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringt oder in Betrieb nimmt, ob entgeltlich oder unentgeltlich.

Betreiber (Artikel 3(4)): Eine natürliche oder juristische Person, die ein KI-System unter ihrer Verantwortung nutzt, außer wenn das System im Rahmen einer persönlichen, nicht beruflichen Tätigkeit genutzt wird.

Einführer (Artikel 3(6)): Eine in der EU ansässige natürliche oder juristische Person, die ein KI-System, das den Namen oder die Marke eines außerhalb der EU niedergelassenen Anbieters trägt, auf dem EU-Markt in Verkehr bringt.

Händler (Artikel 3(7)): Eine natürliche oder juristische Person in der Lieferkette, mit Ausnahme des Anbieters oder Einführers, die ein KI-System auf dem EU-Markt bereitstellt.

So bestimmen Sie Ihre Rolle in der Praxis

Die Rollenbestimmung ergibt sich daraus, was Sie tun, nicht daraus, wie Sie sich nennen. Stellen Sie diese Fragen:

1. Haben Sie das KI-System entwickelt, trainiert oder dessen Entwicklung in Auftrag gegeben? → Wahrscheinlich Anbieter.
2. Haben Sie das System unter Ihrem eigenen Namen oder Ihrer eigenen Marke in Verkehr gebracht? → Anbieter, selbst wenn jemand anderes es gebaut hat.
3. Haben Sie ein KI-System gekauft, lizenziert oder abonniert und in Ihrem eigenen Betrieb genutzt? → Wahrscheinlich Betreiber.
4. Bringen Sie das KI-System eines Nicht-EU-Anbieters auf den EU-Markt? → Einführer.
5. Vertreiben Sie ein KI-System, das Sie weder entwickelt noch eingeführt haben? → Händler.

Reales Beispiel, HR-Technologieunternehmen: TalentScore Inc. entwickelt ein KI-gestütztes Tool zum Screening von Lebensläufen und verkauft es unter der Marke "TalentScore" an europäische Arbeitgeber. TalentScore ist der Anbieter. Jeder Arbeitgeber, der TalentScore lizenziert und für seine eigene Personalbeschaffung nutzt, ist ein Betreiber. Wenn der europäische Wiederverkäufer von TalentScore das Produkt kauft und Arbeitgebern bereitstellt, ist dieser Wiederverkäufer ein Händler.

Reales Beispiel, Finanzdienstleistungen: Eine europäische Bank lizenziert ein KI-Kredit-Scoring-Modell von einem US-Fintech-Unternehmen. Das US-Unternehmen ist der Anbieter. Die Bank ist der Betreiber. Wenn die EU-Tochter der Bank das System formell einführt (auf dem EU-Markt bereitstellt und dabei den Namen des US-Anbieters trägt), ist die Tochter zugleich der Einführer und hat spezifische Prüfpflichten.

Reales Beispiel, Beratungsunternehmen: Ein Managementberatungsunternehmen entwickelt ein maßgeschneidertes KI-System für die interne Nutzung eines Kunden. Bringt das Unternehmen es unter eigener Marke in Verkehr, ist das Unternehmen der Anbieter. Baut das Unternehmen es im Rahmen eines Werkvertrags und bringt der Kunde es unter der Marke des Kunden in Verkehr, ist der Kunde der Anbieter, obwohl das Unternehmen die Entwicklung durchgeführt hat.

Pflichten für Hochrisiko-KI-Systeme im direkten Vergleich

Die folgende Tabelle behandelt die Pflichten, die für Anbieter und Betreiber von Hochrisiko-KI-Systemen gelten. Für den vollständigen Gesetzestext jeder Bestimmung siehe den vollständigen AI-Act-Leitfaden.

Wann ein Betreiber zum Anbieter wird: Artikel 25

Dies ist eine der am meisten unterschätzten Bestimmungen des AI Act. Nach Artikel 25 wird ein Betreiber als Anbieter behandelt und übernimmt alle Anbieterpflichten in drei Szenarien:

Szenario 1: Das System unter Ihrem eigenen Namen oder Ihrer eigenen Marke in Verkehr bringen

Sie lizenzieren eine KI-Engine von einem Anbieter, integrieren sie in Ihr Produkt und verkaufen sie als "IhreMarke AI". Sie sind nun der Anbieter eines Hochrisiko-KI-Systems, obwohl ein anderes Unternehmen die zugrunde liegende Technologie gebaut hat.

Konkretes Beispiel: Ein europäisches Versicherungsunternehmen lizenziert ein KI-Modell zur Risikobewertung von einem Drittanbieter. Der Versicherer integriert das Modell in seine kundenorientierte Plattform und vermarktet es Kunden als Teil seines gebrandeten Versicherungsantragsprozesses. Weil das System unter der Marke des Versicherers in Verkehr gebracht wird, wird der Versicherer nach Artikel 25 zum Anbieter und muss alle Anbieterpflichten erfüllen, einschließlich technischer Dokumentation, Konformitätsbewertung und CE-Kennzeichnung.

Szenario 2: Eine wesentliche Änderung an einem Hochrisiko-KI-System vornehmen

Sie nehmen ein eingesetztes Hochrisiko-System und nehmen eine wesentliche Änderung vor, die seine Leistungsmerkmale, sein Risikoprofil oder seine Übereinstimmung mit der ursprünglichen Konformitätsbewertung verändert.

Konkretes Beispiel: Eine Bank setzt ein von einem Anbieter bereitgestelltes KI-Kredit-Scoring-System ein. Das Data-Science-Team der Bank trainiert das Modell mit proprietären Daten neu, die alternative Kreditindikatoren enthalten, die von den ursprünglichen Trainingsdaten des Anbieters nicht abgedeckt sind. Dieses erneute Training verändert die Leistungsmerkmale und das Risikoprofil des Modells. Die Bank hat eine wesentliche Änderung vorgenommen und wird nach Artikel 25 zum Anbieter des geänderten Systems.

Was gilt als "wesentlich"? Der AI Act definiert keine klare Grenze, aber Erwägungsgrund 172 und Artikel 25(1)(b) deuten darauf hin, dass eine Änderung wesentlich ist, wenn sie über die vom Anbieter vorab festgelegten Parameter hinausgeht. Änderungen an den Gewichten, den Trainingsdaten oder dem vorgesehenen Einsatzkontext des Modells sind starke Indikatoren. Routinewartung, Sicherheitspatches und Parameteranpassungen innerhalb des vom Anbieter festgelegten Bereichs sind in der Regel nicht wesentlich.

Szenario 3: Die Zweckbestimmung so ändern, dass es hochriskant wird

Sie setzen ein nicht hochriskantes KI-System ein und nutzen es für einen Anwendungsfall um, der in einen Bereich von Anhang III fällt und es damit hochriskant macht.

Konkretes Beispiel: Ein Unternehmen setzt einen Allzweck-Chatbot für den Kundenservice ein (begrenztes Risiko, nur Transparenzpflichten unterliegend). Das Unternehmen nutzt den Chatbot dann als erstes Screening-Tool für Stellenbewerber um und leitet Kandidaten anhand der Bewertung ihrer Antworten durch den Chatbot weiter. Das Screening bei der Personalbeschaffung fällt in Anhang III, Bereich 4 (Beschäftigung). Das Unternehmen hat die Zweckbestimmung des Systems geändert, um es hochriskant zu machen, und wird nach Artikel 25 zum Anbieter.

Folgen davon, zum Anbieter zu werden

Wenn Artikel 25 greift, muss der frühere Betreiber:

• Alle Anbieterpflichten erfüllen (Risikomanagement, Dokumentation, Konformitätsbewertung usw.)
• Der ursprüngliche Anbieter ist zur Mitwirkung verpflichtet: Er muss notwendige technische Informationen, Dokumentation und Zugang bereitstellen, um die Compliance des neuen Anbieters zu erleichtern
• Der neue Anbieter muss vor dem weiteren Inverkehrbringen die Konformitätsbewertung für das geänderte System oder die neue Zweckbestimmung abschließen

Das ist kein theoretisches Risiko. Organisationen, die KI-Systeme per Fine-Tuning anpassen, umbenennen oder umnutzen, ohne den Auslöser von Artikel 25 zu erkennen, sehen sich rückwirkend mit Pflichten auf Anbieterniveau konfrontiert, ohne Dokumentationsspur und ohne dokumentierte Konformitätsbewertung.

Pflichten von Einführern und Händlern

Auch wenn Anbieter und Betreiber die meiste Aufmerksamkeit erhalten, haben Einführer und Händler durchsetzbare Pflichten, die nicht übersehen werden sollten.

Einführer (Artikel 23)

Bevor ein Einführer ein Hochrisiko-KI-System auf dem EU-Markt in Verkehr bringt, muss er prüfen, dass der Anbieter die Konformitätsbewertung und die technische Dokumentation nach Anhang IV abgeschlossen hat, das System die CE-Kennzeichnung trägt, ihm die EU-Konformitätserklärung und die Betriebsanleitung beiliegen und der Anbieter, wo zutreffend, einen Bevollmächtigten in der EU benannt hat. Einführer müssen ihren Namen und ihre Anschrift auf dem System oder der Verpackung angeben. Ist das System nicht konform, darf es nicht in Verkehr gebracht werden.

Händler (Artikel 24)

Bevor ein Händler ein Hochrisiko-KI-System bereitstellt, muss er die CE-Kennzeichnung, die EU-Konformitätserklärung und die Betriebsanleitung prüfen. Händler führen keine eigene technische Prüfung durch, sondern wirken als Qualitätsschranke: Haben sie Grund zu der Annahme, dass ein System nicht konform ist, dürfen sie es nicht bereitstellen, bis das Problem behoben ist.

Häufige Szenarien der Rollenverwirrung

"Wir nutzen die KI eines Anbieters für die Einstellung, sind wir der Anbieter?"

Nein, Sie sind der Betreiber, solange Sie das System innerhalb seiner Zweckbestimmung und unter dem Namen des Anbieters nutzen. Aber Sie haben echte und substanzielle Pflichten: kompetente Personen für die menschliche Aufsicht zuweisen, Stellenbewerber darüber informieren, dass sie einem KI-System unterliegen, Systemprotokolle mindestens 6 Monate aufbewahren und (wenn Sie eine öffentliche Stelle oder ein Anbieter wesentlicher Dienste sind) eine Grundrechte-Folgenabschätzung durchführen. Sie müssen außerdem prüfen, dass der Anbieter die Konformitätsbewertung abgeschlossen hat und die EU-Konformitätserklärung vorlegen kann.

"Wir haben GPT-4 per Fine-Tuning angepasst und bieten es als Produkt an"

Sie sind der Anbieter. Sie haben ein geändertes System unter Ihrem eigenen Namen in Verkehr gebracht. Der volle Stapel an Anbieterpflichten gilt. Wenn das per Fine-Tuning angepasste System in einen Bereich von Anhang III fällt (z. B. Sie haben ein Rechtsberatungs-Tool gebaut, das in der Streitbeilegung eingesetzt wird), müssen Sie die Konformitätsbewertung abschließen, die technische Dokumentation nach Anhang IV erstellen und sich in der EU-Datenbank registrieren. Der Anbieter des GPAI-Modells (in diesem Fall OpenAI) hat nach den Artikeln 51-55 gesonderte Pflichten, entbindet Sie aber nicht von Ihren Anbieterpflichten für die nachgelagerte Anwendung.

"Wir vertreiben ein KI-Produkt eines anderen Anbieters als White-Label"

Sie sind der Anbieter nach Artikel 25(1)(a), da Sie das System unter Ihrem eigenen Namen oder Ihrer eigenen Marke in Verkehr bringen. Die Tatsache, dass ein anderes Unternehmen die Technologie entwickelt hat, verringert Ihre Pflichten nicht. Sie brauchen die volle Mitwirkung des ursprünglichen Anbieters, um an die technische Dokumentation, die Nachweise zur Governance der Trainingsdaten und die Unterlagen zur Konformitätsbewertung zu gelangen, die Sie zur Erfüllung Ihrer Pflichten benötigen.

"Wir sind eine SaaS-Plattform, unsere Kunden konfigurieren die KI"

Wenn Sie das System vermarkten und Ihre Kunden es einsetzen, sind Sie der Anbieter und sie sind Betreiber. Aber wenn ein Kunde das System wesentlich ändert (erneutes Training, Fine-Tuning oder Änderung der Zweckbestimmung), kann er nach Artikel 25 zum Mit-Anbieter werden. Ihre Betriebsanleitung sollte die Grenze zwischen zulässiger Konfiguration und wesentlicher Änderung klar festlegen.

"Wir verkaufen ein KI-System von außerhalb der EU in die EU weiter"

Wenn Sie in der EU niedergelassen sind und das System auf dem EU-Markt bereitstellen, während es den Namen des Nicht-EU-Anbieters trägt, sind Sie ein Einführer. Wenn Sie in der EU-Lieferkette sind, das System aber nicht selbst eingeführt haben, sind Sie ein Händler. Beide Rollen bringen Prüfpflichten mit sich. Bringen Sie das System unter Ihrer eigenen Marke in Verkehr, werden Sie unabhängig von Ihrer Position in der Lieferkette zum Anbieter.

"Wir stellen nur das KI-Modell bereit, nicht die Anwendung"

Wenn Sie ein KI-Modell mit allgemeinem Verwendungszweck bereitstellen, das nachgelagerte Entwickler in Anwendungen integrieren, sind Sie ein Anbieter eines GPAI-Modells und unterliegen den Artikeln 51-55. Sie sind nicht der Anbieter des nachgelagerten Hochrisiko-KI-Systems, diese Verantwortung fällt demjenigen zu, der Ihr Modell in die konkrete Anwendung integriert und diese in Verkehr bringt. Sie müssen dem nachgelagerten Anbieter jedoch ausreichende technische Informationen, Dokumentation und Angaben zu den Modellfähigkeiten bereitstellen, um dessen Compliance zu ermöglichen.

"Wir haben ein KI-System nur für die interne Nutzung gebaut"

Wenn Sie das KI-System entwickelt und innerhalb Ihrer eigenen Organisation in Betrieb genommen haben (ohne es für andere in Verkehr zu bringen), sind Sie sowohl Anbieter als auch Betreiber. Sie tragen den vollen Satz an Anbieterpflichten für die Entwicklung und die Betreiberpflichten für die Nutzung. Es gibt keine Ausnahme für ausschließlich intern genutzte Systeme, die in Hochrisiko-Kategorien fallen.

Compliance in der Lieferkette: wer wem was schuldet

Der AI Act schafft eine Verantwortungskette. Jeder Akteur in der Lieferkette hat Pflichten gegenüber dem nächsten:

1. Anbieter eines GPAI-Modells → muss nachgelagerten Anbietern Model Cards, technische Dokumentation und Angaben zu den Fähigkeiten bereitstellen
2. Anbieter eines KI-Systems → muss Betreibern die Betriebsanleitung, CE-Kennzeichnung, EU-Konformitätserklärung und Zugang zur technischen Dokumentation bereitstellen
3. Einführer → muss die Compliance des Anbieters prüfen, bevor er das System auf dem EU-Markt in Verkehr bringt
4. Händler → muss CE-Kennzeichnung und Dokumentation prüfen, bevor er das System bereitstellt
5. Betreiber → muss den Compliance-Status des Anbieters prüfen, die Betriebsanleitung befolgen und die betriebliche Compliance aufrechterhalten

Ein Bruch an irgendeinem Punkt dieser Kette schafft Risiko für die nachgelagerten Akteure. Betreiber sollten nicht davon ausgehen, dass ihre Anbieter konform sind, die Prüfung ist eine ausdrückliche gesetzliche Pflicht.

Praktische Schritte für jede Rolle

Wenn Sie Anbieter sind

1. Stufen Sie Ihre KI-Systeme ein nach Risikoniveau, das bestimmt den Umfang Ihrer Pflichten.
2. Bauen Sie Ihre technische Dokumentation nach Anhang IV frühzeitig auf, sie ist das Rückgrat der Konformitätsbewertung und die einzelne zeitaufwendigste Compliance-Leistung.
3. Richten Sie Ihr Risikomanagement-System als lebenden, fortlaufenden Prozess ein, nicht als einmalige Bewertung.
4. Setzen Sie Ihr Qualitätsmanagementsystem um, das den gesamten Lebenszyklus abdeckt.
5. Schließen Sie die Konformitätsbewertung vor der Frist am 2. August 2026 ab.
6. Registrieren Sie sich in der EU-Datenbank (Artikel 49).
7. Richten Sie Prozesse zur Marktbeobachtung und Kanäle zur Meldung schwerwiegender Vorfälle ein.
8. Erstellen Sie eine klare, umfassende Betriebsanleitung für Ihre Betreiber, das ist eine gesetzliche Pflicht, kein Nice-to-have.

Wenn Sie Betreiber sind

1. Prüfen Sie die Compliance Ihres Anbieters: Fordern Sie die EU-Konformitätserklärung, den Nachweis der CE-Kennzeichnung und die Betriebsanleitung an. Kann der Anbieter diese nicht vorlegen, eskalieren Sie sofort, Sie setzen ein möglicherweise nicht konformes System ein.
2. Weisen Sie geschultes Personal für die menschliche Aufsicht zu: Ermitteln Sie Personen mit der Kompetenz, Schulung und Befugnis, den Betrieb des KI-Systems zu beaufsichtigen und bei Bedarf einzugreifen.
3. Richten Sie die Protokollaufbewahrung ein: Bewahren Sie automatisch erzeugte Protokolle mindestens 6 Monate auf (prüfen Sie das nationale Recht auf längere Aufbewahrungspflichten).
4. Informieren Sie betroffene Personen: Setzen Sie einen Prozess um, um Menschen darüber zu informieren, dass sie einem Hochrisiko-KI-System unterliegen, bevor das System auf sie angewendet wird.
5. Führen Sie Ihre FRIA durch, wenn Sie eine öffentliche Stelle, ein Anbieter wesentlicher Dienste oder eine Bildungseinrichtung sind: Nutzen Sie den FRIA-Leitfaden.
6. Registrieren Sie Ihren Einsatz, wenn Sie eine dem öffentlichen Recht unterliegende Stelle sind (Artikel 49).
7. Beobachten und melden: Achten Sie auf Fehlfunktionen, Leistungsverschlechterung und Missbrauch. Melden Sie schwerwiegende Vorfälle an den Anbieter und (wo erforderlich) an die Marktüberwachungsbehörden.

Wenn Sie Einführer oder Händler sind

1. Richten Sie eine Prüf-Checkliste ein: CE-Kennzeichnung, EU-Konformitätserklärung, Betriebsanleitung und Nachweis der Konformitätsbewertung.
2. Stellen Sie keine nicht konformen Systeme auf dem EU-Markt bereit.
3. Führen Sie Aufzeichnungen, die belegen, dass Sie die erforderliche Prüfung durchgeführt haben.
4. Melden Sie nicht konforme Systeme den zuständigen Marktüberwachungsbehörden.

Häufige Fehler bei der Rollenbestimmung

Fehler 1: Anzunehmen, der Vertrag bestimme die Rolle

Ihr Handelsvertrag mag Sie "Kunde" oder "Lizenznehmer" nennen, aber der AI Act bestimmt die Rollen anhand dessen, was Sie tatsächlich tun. Bringen Sie das System unter Ihrer Marke in Verkehr, sind Sie der Anbieter, unabhängig davon, was der Lizenzvertrag sagt.

Fehler 2: Den Auslöser von Artikel 25 ignorieren

Viele Organisationen passen KI-Systeme per Fine-Tuning an, benennen sie um oder nutzen sie um, ohne zu erkennen, dass sie in das Anbieter-Territorium übergetreten sind. Die Compliance-Lücke zwischen Betreiber- und Anbieterpflichten ist enorm. Eine Bewertung nach Artikel 25 sollte Teil jedes KI-Beschaffungs- und Integrationsprozesses sein.

Fehler 3: Versäumnis, die Compliance des Anbieters zu prüfen

Betreiber haben eine ausdrückliche Pflicht, zu prüfen, dass ihr Anbieter die Konformitätsbewertung abgeschlossen hat. "Wir sind davon ausgegangen, dass der Anbieter konform ist" ist keine Verteidigung. Fordern Sie die Dokumentation an. Kann der Anbieter sie nicht bereitstellen, behandeln Sie das als Warnsignal.

Fehler 4: Die Betriebsanleitung vernachlässigen

Anbieter müssen eine Betriebsanleitung erstellen. Betreiber müssen sie befolgen. In der Praxis sind Anleitungen oft generisch, unzureichend oder werden ignoriert. Anbieter, die unzureichende Anleitungen erstellen, tragen ein Durchsetzungsrisiko; Betreiber, die angemessene Anleitungen ignorieren, verlieren die Möglichkeit, sich auf eine gutgläubige Compliance zu berufen.

Fehler 5: Alle KI-Systeme als eine Rolle behandeln

Eine Organisation kann gleichzeitig Anbieter für einige KI-Systeme und Betreiber für andere sein. Eine Bank, die ihr eigenes Modell zur Betrugserkennung entwickelt (Anbieter) und zugleich ein Kredit-Scoring-Tool eines Dritten lizenziert (Betreiber), muss beide Pflichtensätze parallel steuern.

Bestimmen Sie Ihre Rolle und Ihre Pflichten

Der erste Schritt ist zu wissen, wo Sie stehen. Führen Sie die kostenlose AI-Act-Bewertung durch, um Ihre Risikoeinstufung und die anwendbaren rollenbasierten Pflichten zu bestimmen.

Für den vollständigen Gesetzestext jeder Bestimmung siehe den vollständigen AI-Act-Leitfaden.

Häufig gestellte Fragen

Kann ein Unternehmen gleichzeitig Anbieter und Betreiber sein?

Ja. Wenn Sie ein KI-System entwickeln (Anbieter) und es auch innerhalb Ihrer eigenen Organisation nutzen (Betreiber), tragen Sie beide Pflichtensätze. Das ist üblich für Unternehmen, die interne KI-Tools für HR, Kreditbewertung oder den Betrieb bauen. Sie müssen die Anbieterpflichten (Dokumentation, Konformitätsbewertung, QMS) und die Betreiberpflichten (menschliche Aufsicht, Information betroffener Personen, Protokollaufbewahrung) für dasselbe System erfüllen.

Was passiert, wenn mein KI-Anbieter außerhalb der EU ansässig ist?

Sie haben weiterhin Betreiberpflichten. Wenn der Nicht-EU-Anbieter zudem keinen Bevollmächtigten in der EU benannt hat, wird die Durchsetzung komplexer, aber Ihre Pflichten als Betreiber bleiben unverändert. Praktisch sollten Sie darauf bestehen, dass Ihr Nicht-EU-Anbieter eine den Anforderungen des AI Act gleichwertige Compliance nachweist und vertragliche Zusagen zur Unterstützung Ihrer Compliance macht.

Macht mich Fine-Tuning immer zum Anbieter?

Nicht zwingend. Die Frage ist, ob Ihre Änderung "wesentlich" im Sinne von Artikel 25 ist. Ein Fine-Tuning auf einem kleinen Datensatz innerhalb der von der Betriebsanleitung des ursprünglichen Anbieters festgelegten Parameter überschreitet die Schwelle möglicherweise nicht. Ein erneutes Training mit völlig neuen Daten, eine Änderung der Modellarchitektur oder eine Veränderung der Leistungsmerkmale tun dies mit ziemlicher Sicherheit. Dokumentieren Sie Ihre Bewertung in jedem Fall.

Welche Pflichten haben Betreiber für KI-Systeme, die nicht hochriskant sind?

Für KI-Systeme mit begrenztem Risiko (z. B. Chatbots, Deepfakes, Emotionserkennung außerhalb eines Kontexts von Anhang III) müssen Betreiber die Transparenzpflichten nach Artikel 50 erfüllen: Nutzer darüber informieren, dass sie mit KI interagieren, KI-generierte Inhalte kennzeichnen und Deepfakes offenlegen. Für Systeme mit minimalem Risiko gibt es keine verpflichtenden Pflichten, auch wenn der AI Act freiwillige Verhaltenskodizes fördert.

Wie sollten Anbieter und Betreiber Meinungsverschiedenheiten über Compliance-Verantwortlichkeiten handhaben?

Der AI Act schafft keinen Mechanismus zur Beilegung vertraglicher Streitigkeiten, er weist Pflichten nach Rolle zu. Ist ein Betreiber der Ansicht, dass der Anbieter seine Pflichten nicht erfüllt hat (z. B. unzureichende Betriebsanleitung, fehlende Konformitätsbewertung), sollte der Betreiber: (1) den Anbieter förmlich schriftlich benachrichtigen, (2) über die vertraglichen Kanäle eskalieren und (3) bei ausbleibender Lösung an die zuständige Marktüberwachungsbehörde melden. Betreiber können die Nichteinhaltung durch den Anbieter nicht einfach als Entschuldigung für ihre eigene "erben".

Gibt es eine Übergangsfrist für bestehende KI-Systeme, die bereits auf dem Markt sind?

Hochrisiko-KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, müssen bis zu diesem Datum konform sein, es sei denn, sie werden anschließend wesentlich geändert. Es gibt keine Bestandsschutzregelung, die bestehende Systeme unbefristet ausnimmt. Die Compliance-Checkliste in unserem Compliance-Leitfaden 2026 behandelt die Schritte, um bestehende Systeme in die Konformität zu bringen.

Legalithm ist ein KI-gestütztes Compliance-Workflow-Tool, keine Rechtsberatung. Rollenbestimmungen sollten von einer qualifizierten Rechtsberatung geprüft werden.