So bauen Sie ein KI-Systeminventar für die EU-AI-Act-Compliance auf

• Ein KI-Systeminventar ist die strukturelle Voraussetzung für jede andere Compliance-Aktivität unter dem EU AI Act. Ohne es können Sie Risiken nicht klassifizieren, Rollen nicht zuweisen, Systeme nicht dokumentieren und die Konformitätsbewertung nicht abschließen.
• Artikel 3(1) definiert KI-Systeme breit: jedes maschinengestützte System, das mit unterschiedlichem Grad an Autonomie arbeitet und Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen ableitet. Das umfasst ML-Modelle, generative KI, Computer Vision, NLP-Systeme und KI-Funktionen, die in SaaS-Tools eingebettet sind.
• Schatten-KI, also nicht genehmigte Tools, die von Mitarbeitern eingeführt werden, ist der größte blinde Fleck im Inventar. Spüren Sie sie über strukturierte Umfragen, Analyse des Netzwerkverkehrs, Prüfung von Ausgaben, IT-Sicherheitsreviews und direkte Gespräche auf.
• Die meisten Organisationen setzen weit mehr KI von Dritten ein (als Betreiber), als sie selbst bauen (als Anbieter). Eingebettete KI in CRM-, HR-, Finanz-, Marketing- und Entwicklungstools muss vollständig inventarisiert werden.
• Ein vollständiger Inventareintrag umfasst Kernfelder (Name, Anbieter, Zweck, Einsatz), regulatorische Felder (Risikostufe, Rolle, Anhang-III-Bereich, Compliance-Status) und rollenspezifische Felder für Anbieter und Betreiber.
• Das Inventar ist ein fortlaufender Prozess, keine einmalige Übung. Richten Sie vierteljährliche Reviews und ereignisgesteuerte Aktualisierungen ein.

Warum das Inventar die Grundlage der AI-Act-Compliance ist

Jedes Compliance-Framework beginnt mit derselben Frage: Was haben Sie? Unter dem EU AI Act ist die Antwort darauf Ihr KI-Systeminventar.

Der Grund, warum das Inventar an erster Stelle steht, ist struktureller Natur. Ohne zu wissen, welche KI-Systeme Ihre Organisation entwickelt, betreibt, einführt oder vertreibt, können Sie nicht:

• Risikostufen klassifizieren nach Artikel 6 und Anhang III.
• Rollen zuweisen (Anbieter, Betreiber, Einführer, Händler) nach Artikel 3, was Ihre Pflichten bestimmt.
• Technische Dokumentation vorbereiten nach Anhang IV für die richtigen Systeme.
• Konformitätsbewertung abschließen nach Artikel 43, denn ein System, das Sie nicht identifiziert haben, können Sie nicht bewerten.
• Systeme registrieren in der EU-Datenbank nach Artikel 49.
• Grundrechte-Folgenabschätzungen durchführen nach Artikel 27 für die richtigen Einsatzkontexte.

Ein Compliance-Programm ohne vollständiges Inventar ist ein Compliance-Programm, das auf Annahmen beruht. Wenn eine Marktüberwachungsbehörde fragt "Zeigen Sie mir Ihre KI-Systeme und deren Compliance-Status", ist das Inventar das erste Dokument, das sie erwartet.

Was zählt als KI-System? Die Definition aus Artikel 3(1) in der Praxis

Artikel 3(1) definiert ein KI-System als:

Ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Einführung Anpassungsfähigkeit zeigen kann und das für explizite oder implizite Ziele aus den erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu erzeugen sind, die physische oder virtuelle Umgebungen beeinflussen können.

Systeme, die darunter fallen

• ML-Modelle in Produktion: Klassifizierungs-, Regressions-, Empfehlungs- und Ranking-Systeme. Eine Produktempfehlungs-Engine, ein Modell zur Abwanderungsvorhersage, ein Algorithmus für dynamische Preise.
• Generative KI: Große Sprachmodelle, Bildgeneratoren, Code-Assistenten, Chatbot-Integrationen. ChatGPT, Claude, Gemini, Midjourney, GitHub Copilot, interne LLM-Deployments.
• Computer Vision: Objekterkennung, Gesichtserkennung, Dokument-OCR mit KI-basierter Extraktion, Qualitätsprüfung an Fertigungslinien.
• NLP-Systeme: Sentiment-Analyse, Entitätenextraktion, automatisierte Zusammenfassung, maschinelle Übersetzung mit neuronalen Modellen.
• Entscheidungsunterstützende Tools: Kredit-Scoring, Vorauswahl bei Einstellungen, Betrugserkennung, Risikoprofilierung, Versicherungs-Underwriting, Prüfung der Leistungsberechtigung.
• Robotic Process Automation mit KI: RPA-Bots, die ML für das Verständnis von Dokumenten, die Klassifizierung von Absichten oder adaptives Routing nutzen (nicht klassische regelbasierte RPA).
• Eingebettete KI in SaaS: KI-Funktionen in CRM-Plattformen, HR-Tools, Marketing-Automatisierung, Kundensupport-Software, Entwicklungstools und Finanzplattformen (unten im Detail).

Systeme, die typischerweise nicht darunter fallen

• Regelbasierte Automatisierung: RPA-Bots, die feste Skripte ausführen, Excel-Makros, WENN-DANN-Entscheidungsbäume ohne lernende Komponente. Ein Workflow, der Tickets anhand von Schlüsselwörtern nach statischen Regeln weiterleitet, ist keine KI.
• Einfache statistische Modelle: Lineare Regression ohne adaptive Elemente, einfache schwellenwertbasierte Alarme, gleitende Durchschnitte. Eine einfache Geschäftsregel, die Transaktionen über 10.000 EUR markiert, ist keine KI.
• Klassische Software: Datenbankabfragen, deterministische Algorithmen, Nachschlagetabellen, Rechner. Ein Steuerrechner, der gesetzliche Sätze anwendet, ist keine KI.
• Herkömmliche Suche: Schlüsselwortbasierte Suche ohne KI-Ranking. Standard-SQL-Abfragen.
• Statische Dashboards: BI-Dashboards, die Kennzahlen anzeigen, ohne Vorhersagen oder Empfehlungen zu erzeugen.

Grenzfälle, im Zweifel einbeziehen

Die Grenze zwischen "KI-System" und "fortgeschrittener Software" ist in der Verordnung bewusst breit gefasst. Wenn die Einordnung mehrdeutig ist, nehmen Sie das System ins Inventar auf und klassifizieren es. Es ist weit sicherer, zu viel aufzunehmen und später als minimales Risiko neu einzustufen, als ein System auszulassen und die Lücke bei einer Prüfung zu entdecken.

Praxisbeispiel, Grenzfall: Ein Logistikunternehmen nutzt ein Tool zur Routenoptimierung, das historische Verkehrsdaten und heuristische Algorithmen verwendet, aber auch ein Vorhersagemodell für Verkehrsprognosen einbindet. Die heuristische Komponente allein würde nicht darunter fallen, aber die Komponente mit dem Vorhersagemodell macht dies zu einem KI-System. Nehmen Sie es auf.

Schritt 1: Aufspüren, alle KI-Systeme finden

Methode 1: Beschaffungs- und Lieferantenunterlagen

Beginnen Sie mit Ihren Systemen für Beschaffung, Lieferantenmanagement und IT-Asset-Management. Durchsuchen Sie Verträge, Bestellungen und Lieferantenvereinbarungen nach Schlüsselwörtern: KI, Machine Learning, neuronales Netz, Predictive Analytics, natürliche Sprachverarbeitung, Computer Vision, generativ, intelligent, adaptiv, automatisierte Entscheidung.

Für jedes identifizierte Lieferanten-Tool:

• Beschreibt der Lieferant das Produkt als KI- oder ML-gestützt?
• Erzeugt das Tool Vorhersagen, Empfehlungen, Klassifizierungen oder Inhalte?
• Passt sich das Tool im Laufe der Zeit auf Basis von Daten an oder verbessert es sich?

Praxisbeispiel, Beschaffungsprüfung: Ein mittelgroßes Versicherungsunternehmen prüft seine 85 aktiven SaaS-Verträge und findet, dass 12 ausdrücklich KI- oder ML-Fähigkeiten erwähnen. Weitere Untersuchung zeigt 7 zusätzliche Tools mit eingebetteten KI-Funktionen, die im Vertrag nicht erwähnt, aber in der Produktdokumentation beschrieben sind.

Methode 2: Aufspüren von Schatten-KI

Schatten-KI, also nicht genehmigte KI-Tools, die von Mitarbeitern ohne formale IT-Beschaffung eingeführt werden, ist eines der größten Compliance-Risiken unter dem AI Act. Mitarbeiter führen KI-Tools ein, weil sie nützlich sind, oft ohne die regulatorischen Folgen zu erkennen.

Aufspür-Methode 1: Abteilungsweite Umfragen

Senden Sie strukturierte Fragebögen an jede Teamleitung und Abteilungsleitung. Fragen Sie gezielt nach KI-gestützten Tools im täglichen Arbeitsablauf. Wichtig: Viele denken bei ChatGPT, KI-Funktionen in Slack oder KI-gestützten Excel-Add-ins nicht an "KI-Systeme".

Formulieren Sie die Fragen konkret:

• "Nutzt Ihr Team ein Tool, das Texte, Zusammenfassungen oder Entwürfe erzeugt?" (erfasst LLMs)
• "Nutzt Ihr Team ein Tool, das Empfehlungen oder Vorhersagen gibt?" (erfasst ML-Tools)
• "Nutzt Ihr Team ein Tool, das Bilder, Dokumente oder Audio analysiert?" (erfasst Vision/NLP)
• "Haben Teammitglieder KI-Tools über persönliche Konten oder Firmenkarten abonniert?" (erfasst Schatten-Abonnements)

Aufspür-Methode 2: Analyse des Netzwerkverkehrs

Arbeiten Sie mit Ihrem IT- oder Security-Team zusammen, um ausgehende Netzwerkverbindungen zu bekannten KI-Service-Endpunkten zu prüfen:

• api.openai.com, chat.openai.com (OpenAI/ChatGPT)
• api.anthropic.com, claude.ai (Anthropic/Claude)
• generativelanguage.googleapis.com, gemini.google.com (Google Gemini)
• api.mistral.ai (Mistral)
• copilot.github.com, api.githubcopilot.com (GitHub Copilot)
• api.midjourney.com (Midjourney)
• Endpunkte für Hugging Face, Replicate und andere Plattformen zum Hosten von Modellen

Diese Methode erfasst Tools, die auf Firmengeräten und -netzwerken genutzt werden, verfehlt aber persönliche Geräte in privaten Netzwerken.

Aufspür-Methode 3: Prüfung von Ausgaben und Abonnements

Prüfen Sie Kreditkartenabrechnungen des Unternehmens, Spesenabrechnungen und Erstattungsanträge auf Abonnements von KI-Tools. Achten Sie auf Abbuchungen von OpenAI, Anthropic, Google (KI-spezifisch), Jasper, Copy.ai, Notion AI, Grammarly Premium, Otter.ai, Descript, Runway und ähnlichen Anbietern.

Prüfen Sie außerdem die Kaufhistorie in App Stores auf Firmengeräten und alle geteilten Tools zur Abonnementverwaltung (1Password Teams, geteilte Credential-Tresore).

Aufspür-Methode 4: IT-Sicherheits- und Endpunktprüfungen

Prüfen Sie die Inventare der Browser-Erweiterungen auf verwalteten Geräten, Installationen von Desktop-Anwendungen, SaaS-Integrationen über OAuth/SSO und API-Schlüssel, die in Code-Repositories oder Credential-Managern gespeichert sind. KI-Browser-Erweiterungen (Grammarly AI, ChatGPT-Sidebar-Erweiterungen, KI-Zusammenfasser) werden häufig ohne IT-Genehmigung eingeführt.

Aufspür-Methode 5: Direkte Gespräche

Umfragen verfehlen Tools, die Menschen als "einfach eine weitere App" ansehen oder nicht als KI erkennen. Lassen Sie Compliance- oder Teamleitungen 15-minütige Gespräche mit einzelnen Teams führen. Stellen Sie offene Fragen zu Verbesserungen im Arbeitsablauf, im vergangenen Jahr neu eingeführten Tools und dazu, wie sie Aufgaben wie Entwürfe, Analysen und Datenverarbeitung erledigen.

Diese Methode hat die höchste Trefferquote bei Schatten-KI, die allen technischen Erkennungsmethoden entgeht.

Methode 3: Eingebettete KI in bestehenden SaaS-Tools

Viele SaaS-Plattformen, die Ihre Organisation bereits nutzt, haben KI-Funktionen hinzugefügt, manchmal standardmäßig aktiviert, manchmal per Opt-in. Diese eingebetteten KI-Fähigkeiten können AI-Act-Pflichten auslösen, auch wenn Sie kein "KI-Tool" bewusst eingeführt haben.

Prüfen Sie, ob die folgenden Tools in Ihrem Stack KI-Fähigkeiten haben:

Kontaktieren Sie Lieferanten direkt, wenn ihre Dokumentation unklar ist. Fragen Sie: "Nutzt Ihr Produkt KI oder Machine Learning in einer Funktion, die Vorhersagen, Empfehlungen oder automatisierte Entscheidungen erzeugt? Wenn ja, welche Funktionen und welche Daten verarbeiten sie?"

Schritt 2: Jedes System klassifizieren

Bestimmen Sie für jedes KI-System in Ihrem Inventar zwei Dinge: die Risikostufe und Ihre Rolle.

Klassifizierung der Risikostufe

Wenden Sie die Klassifizierungslogik aus Artikel 6 an:

• Verboten (Artikel 5): Social Scoring, manipulative unterschwellige Techniken, biometrische Echtzeit-Fernidentifizierung (enge Ausnahmen), Emotionserkennung am Arbeitsplatz und in der Bildung. Sofort einstellen, diese Praktiken sind seit dem 2. Februar 2025 bereits rechtswidrig.
• Hochrisiko (Anhang III): KI in Biometrie, kritischer Infrastruktur, Bildung, Beschäftigung, wesentlichen Diensten, Strafverfolgung, Migration, Justiz/Demokratie. Volle Compliance-Pflichten bis zum 2. August 2026.
• Begrenztes Risiko (Artikel 50): Chatbots, Deepfake-Generatoren, Emotionserkennung, biometrische Kategorisierung. Es gelten Transparenzpflichten.
• Minimales Risiko: Spamfilter, Empfehlungs-Engines, KI-gestützte Spielmechaniken. Keine verpflichtenden Pflichten (freiwillige Kodizes nach Artikel 95).

Siehe den Klassifizierungsleitfaden für das detaillierte Entscheidungsdiagramm und prüfen Sie die Ausnahme nach Artikel 6(3), die Anhang-III-Systeme aus der Hochrisiko-Einstufung herausnehmen kann, wenn die KI kein erhebliches Risiko darstellt.

Rollenbestimmung

Bestimmen Sie für jedes System, ob Sie sind:

• Anbieter: Sie haben das System entwickelt oder unter Ihrem Namen oder Ihrer Marke in Verkehr gebracht oder in Betrieb genommen.
• Betreiber: Sie nutzen ein von jemand anderem entwickeltes System in eigener Verantwortung im Rahmen Ihrer beruflichen Tätigkeit.
• Einführer: Sie machen das System eines Anbieters aus einem Nicht-EU-Land auf dem EU-Markt verfügbar.
• Händler: Sie machen ein System in der Lieferkette verfügbar, ohne Anbieter, Einführer oder Betreiber zu sein.

Eine Organisation kann für verschiedene Systeme unterschiedliche Rollen einnehmen. Ein Fintech könnte Anbieter seines eigenen Kredit-Scoring-Modells und Betreiber eines Betrugserkennungs-Tools von Dritten sein.

Siehe den Leitfaden Anbieter vs. Betreiber für den vollständigen Vergleich der Pflichten nebeneinander.

Schritt 3: Jedes System dokumentieren, umfassende Inventarfelder

Kernfelder zur Identifikation

Felder zur regulatorischen Klassifizierung

Anbieterspezifische Felder (wenn Sie der Anbieter sind)

Betreiberspezifische Felder (wenn Sie der Betreiber sind)

Schritt 4: Nach Risiko und Exposition priorisieren

Nicht alle Systeme brauchen die gleiche Dringlichkeit. Nutzen Sie dieses Priorisierungs-Framework:

Priorisieren Sie innerhalb jeder Stufe weiter nach:

1. Reichweite der Auswirkung: Systeme, die mehr Menschen oder besonders schutzbedürftige Gruppen betreffen, kommen zuerst.
2. Größe der Compliance-Lücke: Systeme mit der meisten fehlenden Dokumentation, den meisten fehlenden Kontrollen oder Prozessen.
3. Sichtbarkeit für die Durchsetzung: Systeme in öffentlich sichtbaren Kontexten oder regulierten Branchen (Finanzen, Gesundheit, Bildung), die eher regulatorische Aufmerksamkeit auf sich ziehen.
4. Bußgeld-Exposition: Berücksichtigen Sie die möglichen Sanktionen bei Nichteinhaltung, bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes bei Hochrisiko-Pflichten. Siehe den Sanktionsleitfaden.

Schritt 5: Das Inventar als lebendes Dokument pflegen

Ein im April 2026 erstelltes KI-Inventar ist im Juni 2026 veraltet. Die KI-Einführung ist rasant, Tools entwickeln sich weiter, und laufend entstehen neue Anwendungsfälle.

Regelmäßige Review-Kadenz

Ereignisgesteuerte Aktualisierungen

Aktualisieren Sie das Inventar sofort, wenn eines der folgenden Ereignisse eintritt:

• Ein neues KI-System wird beschafft, entwickelt oder eingeführt (einschließlich nachträglich entdeckter Schatten-KI).
• Ein bestehendes System wird wesentlich verändert, neues Modell, neue Datenquelle, neuer Anwendungsfall.
• Der vorgesehene Zweck eines Systems ändert sich (das kann die Risikoklassifizierung ändern).
• Ein System wird stillgelegt oder ein Lieferantenvertrag wird beendet.
• Ein Lieferant fügt einem bestehenden Tool, das Sie nutzen, KI-Funktionen hinzu.
• Eine Abteilung führt ein neues KI-Tool ein, einschließlich Gratis- oder Testversionen.
• Eine Risikoklassifizierung ändert sich (z. B. wird ein zuvor als minimales Risiko eingestuftes System nun in einem Hochrisiko-Kontext genutzt).
• Regulatorische Leitlinien klären die Klassifizierung für einen Systemtyp.

Governance-Kontrollen

Bauen Sie die Inventarpflege in bestehende Prozesse ein:

• Beschaffung: Fügen Sie allen Beschaffungs-Workflows für neue Software eine KI-Screening-Frage hinzu. "Nutzt dieses Tool KI oder ML, um Vorhersagen, Empfehlungen oder Entscheidungen zu erzeugen?"
• IT-Onboarding: Nehmen Sie Fragen zur Nutzung von KI-Tools ins Mitarbeiter-Onboarding und in die IT-Bereitstellung auf.
• Change-Management: Verlangen Sie Aktualisierungen des KI-Inventars als Teil des Change-Management-Prozesses bei Systemänderungen.
• Budgetfreigabe: Markieren Sie Ausgabenanträge und Bestellungen, die auf Namen oder Schlüsselwörter von KI-Lieferanten passen.

Häufige Fehler beim Aufbau eines KI-Inventars

Fehler 1: Nur selbst gebaute Systeme inventarisieren

Wenn Sie nur die KI-Systeme auflisten, die Ihr Unternehmen entwickelt hat, verpassen Sie den weitaus größten Teil Ihres KI-Fußabdrucks. Die meisten Organisationen setzen weit mehr KI von Dritten ein, als sie selbst bauen. SaaS-Tools mit eingebetteten KI-Funktionen werden am häufigsten übersehen. Ein Unternehmen mit 2 intern gebauten KI-Systemen betreibt womöglich 15-20 KI-Tools von Dritten.

Fehler 2: Sich beim Aufspüren allein auf die IT verlassen

Die KI-Einführung ist dezentral. Vertrieb, Marketing, HR, Finanzen und Betrieb führen KI-Tools unabhängig ein, oft mit Firmenkarten, Gratisversionen oder persönlichen Konten. Ein Inventar, das nur von der IT-Abteilung getrieben wird, verpasst Schatten-KI und abteilungsspezifische Tools. Beziehen Sie jede Geschäftseinheit ein und führen Sie das Aufspüren funktionsübergreifend durch.

Fehler 3: Das Inventar als einmalige Übung behandeln

Ein einmal erstelltes und abgelegtes KI-Inventar verfällt sofort. Wöchentlich werden neue Tools eingeführt. Lieferanten fügen bestehenden Produkten KI-Funktionen hinzu. Mitarbeiter finden neue KI-Tools. Ohne laufende Pflegeprozesse wird Ihr Inventar zu einer historischen Momentaufnahme statt zu einem Compliance-Werkzeug.

Fehler 4: Tatsächliche Nutzung vs. vorgesehenen Zweck nicht erfassen

Dasselbe KI-System kann in einem Kontext geringes Risiko und in einem anderen hohes Risiko haben. Ein Chatbot für allgemeine Kunden-FAQs ist begrenztes Risiko; derselbe Chatbot, umgewidmet für die Triage im Bereich psychische Gesundheit, kann Hochrisiko sein. Eine Empfehlungs-Engine für Produktvorschläge ist minimales Risiko; dieselbe Engine, genutzt zur Prüfung der Leistungsberechtigung, ist Hochrisiko. Erfassen Sie, wie jedes System tatsächlich genutzt wird, nicht nur seinen vermarkteten Zweck.

Fehler 5: Die Analyse "Ist es KI?" überspringen

Teams neigen entweder dazu, alles einzubeziehen (einfache Automatisierung als KI zu behandeln) oder zu wenig einzubeziehen (echte KI-Systeme zu verpassen, weil sie nicht wie "klassische KI" aussehen). Wenden Sie die Definition aus Artikel 3(1) systematisch an: Leitet das System aus Eingaben Ergebnisse (Vorhersagen, Empfehlungen, Entscheidungen, Inhalte) mit einem gelernten oder adaptiven Modell ab? Dokumentieren Sie die Begründung für Grenzfälle.

Fehler 6: Keine Verantwortung pro System zuweisen

Ein Inventar ohne klare Compliance-Verantwortung pro System führt zur Verwässerung der Zuständigkeit. Jedes System braucht einen benannten Compliance-Verantwortlichen, die Person, die dafür verantwortlich ist, dass dieses System seine Pflichten bis zur geltenden Frist erfüllt. Das ist typischerweise der Product Owner (bei Anbietersystemen) oder die Leitung der Geschäftseinheit (bei betriebenen Systemen).

Praktische Vorlage: Aufbau einer Inventar-Tabelle

Für Organisationen, die bei null anfangen, ist eine strukturierte Tabelle ein praktischer Ausgangspunkt, bevor Sie auf ein dediziertes Tool umsteigen. Ordnen Sie sie so:

Tab 1: Master-Inventar, eine Zeile pro KI-System, mit allen oben aufgeführten Kernfeldern zur Identifikation und regulatorischen Klassifizierung.

Tab 2: Anbietersysteme, gefilterte Ansicht der Systeme, bei denen Sie der Anbieter sind, mit anbieterspezifischen Feldern zur Compliance-Nachverfolgung.

Tab 3: Betreibersysteme, gefilterte Ansicht der Systeme, bei denen Sie der Betreiber sind, mit betreiberspezifischen Feldern zur Compliance-Nachverfolgung.

Tab 4: Aufspür-Protokoll, Aufzeichnungen der Aufspür-Aktivitäten (Datum, Methode, Abteilung, Ergebnisse), um die Sorgfaltsprüfung beim Aufbau des Inventars zu belegen.

Tab 5: Änderungsprotokoll, Aufzeichnungen aller Inventaränderungen (Hinzufügungen, Entfernungen, Klassifizierungsänderungen, Statusaktualisierungen) mit Datum und Begründung.

Wenn Ihr Inventar reift, sollten Sie auf ein dediziertes Tool umsteigen. Siehe den Vergleich von Compliance-Software-Tools für Optionen.

Häufig gestellte Fragen

Wie viele KI-Systeme hat ein typisches Unternehmen?

Mehr, als Sie erwarten. Untersuchungen aus 2025 legen nahe, dass mittelgroße Unternehmen (500-5.000 Mitarbeiter) typischerweise 15-40 KI-Systeme nutzen, wenn eingebettete SaaS-KI-Funktionen einbezogen werden. Große Unternehmen können 100+ haben. Die größte Überraschung für die meisten Organisationen sind nicht die intern gebauten Systeme, es ist die Menge an KI von Dritten, die in Alltags-Tools eingebettet ist.

Muss ich KI-Systeme inventarisieren, die nur für interne Zwecke genutzt werden?

Ja. Der AI Act gilt für KI-Systeme, die "in Betrieb genommen" werden, was interne Nutzung einschließt. Ein intern zur Leistungsbewertung von Mitarbeitern genutztes KI-System (Anhang III, Nummer 4) ist Hochrisiko, unabhängig davon, ob es kundenseitig ist. Interne Nutzung reduziert die regulatorischen Pflichten nicht.

Was ist mit KI-Tools, die einzelne Mitarbeiter über persönliche Konten nutzen?

Wenn ein Mitarbeiter ein KI-Tool (z. B. ChatGPT über ein persönliches Abo) in seiner beruflichen Tätigkeit nutzt, also für Arbeitsaufgaben, kann die Organisation trotzdem Pflichten nach dem AI Act haben, besonders wenn das Ergebnis Entscheidungen über natürliche Personen beeinflusst. Das ist eine Grauzone, aber der vorsichtige Ansatz ist, solche Tools ins Inventar aufzunehmen und Richtlinien für ihre Nutzung festzulegen.

Sollte ich KI-Systeme inventarisieren, die eindeutig minimales Risiko haben?

Ja. Nehmen Sie sie ins Inventar auf, auch wenn Systeme mit minimalem Risiko keine verpflichtenden Pflichten haben. Gründe: (1) Die Klassifizierung kann sich ändern, wenn sich der Anwendungsfall ändert, (2) ein vollständiges Inventar belegt gegenüber Behörden die Sorgfaltsprüfung, (3) Sie brauchen eine Ausgangsbasis, um zu erkennen, wenn eine neue Nutzung in eine höhere Risikostufe übergeht. Markieren Sie sie als minimales Risiko und gehen Sie weiter, der Dokumentationsaufwand für Systeme mit minimalem Risiko ist vernachlässigbar.

Wie hängt das KI-Systeminventar mit der Registrierung in der EU-Datenbank (Artikel 49) zusammen?

Sie sind verwandt, aber verschieden. Ihr internes KI-Systeminventar ist umfassend, es deckt alle KI-Systeme über alle Risikostufen und alle Rollen ab. Die Registrierung in der EU-Datenbank nach Artikel 49 ist eine öffentliche Registrierungspflicht, die nur für Hochrisiko-KI-Systeme (und bestimmte Systeme mit begrenztem Risiko) gilt. Ihr internes Inventar speist die Registrierung in der EU-Datenbank, aber das Inventar selbst ist breiter.

Können wir Legalithm oder ähnliche Tools zur Verwaltung des Inventars nutzen?

Ja. Dedizierte AI-Act-Compliance-Tools können helfen, das Inventar zu strukturieren und zu pflegen, die Klassifizierung zu automatisieren und den Compliance-Status zu verfolgen. Die Aufspür-Phase, besonders das Erkennen von Schatten-KI, erfordert jedoch menschlichen Aufwand, unabhängig vom Tooling. Kein Tool kann ohne funktionsübergreifende Mitwirkung automatisch jedes KI-System in Ihrer Organisation aufspüren.

Nächste Schritte

1. Beginnen Sie mit Beschaffungsunterlagen und IT-Asset-Inventaren, um formal genehmigte KI-Systeme zu erfassen.
2. Führen Sie ein Aufspüren von Schatten-KI über alle Abteilungen mit den fünf oben beschriebenen Methoden durch.
3. Prüfen Sie alle bestehenden SaaS-Tools anhand der Lieferantentabelle auf eingebettete KI-Funktionen.
4. Klassifizieren Sie jedes System mit dem Leitfaden zur Risikoklassifizierung.
5. Bestimmen Sie Ihre Rolle für jedes System mit dem Leitfaden Anbieter vs. Betreiber.
6. Priorisieren Sie Hochrisiko-Systeme für sofortige Compliance-Maßnahmen.
7. Richten Sie eine laufende Pflege-Kadenz und Governance-Kontrollen ein.

Führen Sie die kostenlose AI-Act-Bewertung durch, um Ihre KI-Systeme zu klassifizieren und die geltenden Pflichten zu ermitteln.

Für Anleitung Artikel für Artikel siehe den vollständigen AI-Act-Leitfaden.

Legalithm ist ein KI-gestütztes Tool für Compliance-Workflows, keine Rechtsberatung. Finale Compliance-Entscheidungen sollten von qualifizierten Rechtsberatern geprüft werden.