AI Act für Bildung und EdTech: Der vollständige Compliance-Leitfaden

Bildung prägt Lebenschancen. Wo ein Schüler zugelassen wird, wie er benotet wird, in welchen Bildungsweg er gelenkt wird und ob er während einer Prüfung markiert wird, diese Entscheidungen bestimmen Verläufe, die sich über ein ganzes Leben summieren. Die Gesetzgeber der Europäischen Union verstanden das, als sie den AI Act schrieben, und sie stuften KI-Systeme, die in der allgemeinen und beruflichen Bildung eingesetzt werden, nach Anhang III, Nummer 3 als Hochrisiko ein. Die Compliance-Frist, 2. August 2026, ist nur noch Monate entfernt und gilt für jede Schule, Hochschule, Bildungseinrichtung und jedes EdTech-Unternehmen, das KI-Systeme auf dem EU-Markt in Verkehr bringt oder in EU-Klassenzimmern einsetzt. Einige KI-Praktiken in der Bildung sind nicht nur reguliert, sie sind bereits verboten. Emotionserkennung in Schulen ist seit dem 2. Februar 2025 verboten, mit Bußgeldern bis zu 35 Millionen EUR oder 7 % des weltweiten Umsatzes. Dieser Leitfaden behandelt jede Pflicht, die der AI Act der Bildungs-KI auferlegt, vom EdTech-Anbieter, der das System baut, bis zur Schule, die es einsetzt, mit Rechtsverweisen, praktischen Checklisten, realen Szenarien und einem Umsetzungsfahrplan.

• Standardmäßig Hochrisiko: KI-Systeme, die bei Zulassung, Benotung, Einstufung von Schülern und Prüfungsaufsicht eingesetzt werden, sind in Anhang III, Nummer 3 des EU AI Act ausdrücklich als Hochrisiko aufgeführt.
• Frist 2. August 2026: Die Hochrisiko-Pflichten für Bildungs-KI werden zu diesem Datum durchsetzbar. Bereits im Einsatz befindliche Systeme müssen konform sein, sofern sie keine wesentliche Änderung erfahren.
• Bereits verboten: Emotionserkennung in Bildungseinrichtungen ist seit dem 2. Februar 2025 nach Artikel 5(1)(f) verboten. Jedes KI-System, das die emotionalen Zustände von Schülern, Engagement, Aufmerksamkeit, Frustration, aus Gesichtsausdrücken, Stimme oder physiologischen Signalen in einer Schule oder Hochschule ableitet, ist rechtswidrig.
• Zwei Pflichtenbündel: Der EdTech-Anbieter (Provider) und die Schule oder Hochschule, die das Tool nutzt (Betreiber, Deployer), tragen jeweils eigenständige Compliance-Pflichten. Die CE-Kennzeichnung eines Anbieters befreit die Schule nicht von ihren eigenen Pflichten.
• Rechte von Schülern und Eltern: Schüler (und bei Minderjährigen Eltern bzw. Erziehungsberechtigte) müssen informiert werden, wenn KI genutzt wird, um Entscheidungen über sie zu treffen oder zu stützen, und sie haben ein Recht auf Erklärung und menschliche Überprüfung.
• Bias-Tests sind verpflichtend: Artikel 10 verlangt eine Prüfung der Trainingsdatensätze auf Verzerrungen, entscheidend in der Bildung, wo sozioökonomischer Hintergrund, Behinderung, Sprachkenntnisse und ethnische Zugehörigkeit systematische Benachteiligung einbringen können.
• Sanktionen: Bis zu 35 Millionen EUR oder 7 % des weltweiten Umsatzes für verbotene Praktiken; bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes für Verstöße gegen Hochrisiko-Pflichten.
• Bewertungstool: Nutzen Sie die Legalithm AI-Act-Bewertung, um Ihre Bildungs-KI-Systeme einzustufen und Ihre Pflichten zu bestimmen.

Warum Bildungs-KI als Hochrisiko eingestuft wird

Der AI Act überlässt die Hochrisiko-Einstufung für die Bildung nicht der Auslegung. Anhang III, Nummer 3 benennt KI-Systeme, die zur Verwendung in der allgemeinen und beruflichen Bildung bestimmt sind, ausdrücklich als Hochrisiko, mit vier Unterkategorien, die die zentralen Entscheidungspunkte im Bildungsweg jedes Schülers abdecken. Die Begründung ist in den Erwägungsgründen 56 und 57 der Verordnung dargelegt: KI-Systeme in der Bildung können den Zugang zu Bildung, Berufsleben und Lebensunterhalt bestimmen, und Fehler oder Verzerrungen in diesen Systemen können zu schwerem und irreversiblem Schaden führen, besonders bei Minderjährigen.

Die Grundrechtsdimension

Bildung ist ein Grundrecht nach Artikel 14 der EU-Grundrechtecharta. Wenn ein KI-System einem Schüler die Zulassung verweigert, eine nicht bestandene Note vergibt oder einen Schüler in einen niedrigeren Bildungsweg einstuft, berührt es unmittelbar die Ausübung dieses Rechts. Die Gesetzgeber kamen zu dem Schluss, dass die mögliche Auswirkung auf Schüler, von denen viele Kinder sind, die volle Bandbreite der Hochrisiko-Pflichten rechtfertigt, unabhängig von der technischen Komplexität des Systems.

Ein einfacher Algorithmus, der Bewerber nach einem gewichteten Score sortiert, unterliegt demselben Regime wie ein Deep-Learning-Modell, das Aufsätze analysiert. Die Einstufung richtet sich nach Funktion und Kontext, nicht nach der Raffinesse der Technologie. Eine vollständige Anleitung finden Sie unter Ist mein KI-System Hochrisiko? Leitfaden zur Klassifizierung.

Die Frist August 2026

Die Hochrisiko-Pflichten nach dem AI Act treten am 2. August 2026 in Kraft. Nach diesem Datum muss jedes KI-System, das unter Anhang III, Nummer 3 fällt und auf dem EU-Markt in Verkehr gebracht oder in der EU in Betrieb genommen wird, den vollständigen Anforderungen der Artikel 8 bis 15 entsprechen oder vom Markt genommen werden. Auch bereits vor diesem Datum im Einsatz befindliche Systeme müssen konform sein, sofern sie keine wesentliche Änderung erfahren. In der Praxis erhalten die meisten aktiv gepflegten EdTech-Tools regelmäßige Updates, was bedeutet, dass die Ausnahme für Bestandssysteme eng ist. Schulen und EdTech-Unternehmen sollten den August 2026 als harte Frist für alle derzeit im Einsatz befindliche Bildungs-KI behandeln.

Die 4 Hochrisiko-Kategorien für Bildungs-KI

Anhang III, Nummer 3 benennt vier konkrete Unterkategorien von Bildungs-KI, die als Hochrisiko eingestuft sind. Jede adressiert einen eigenen Entscheidungspunkt im Bildungsprozess.

KI, die den Zugang zu Bildung bestimmt (Zulassung)

Anhang III, Nummer 3(a): KI-Systeme, die zur Verwendung für die Bestimmung des Zugangs oder der Zulassung zu Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen bestimmt sind.

Das umfasst jedes KI-System, das beeinflusst, wer in eine Schule, Hochschule, ein berufliches Ausbildungsprogramm oder einen Berufskurs gelangt, auf jeder Bildungsebene.

Häufige Beispiele:

• Zulassungsalgorithmen von Hochschulen, die Bewerber bewerten und sortieren
• Automatisiertes Screening von Bewerbungsaufsätzen oder Motivationsschreiben
• KI-Systeme, die den Erfolg von Bewerbern vorhersagen und Annahme-/Ablehnungsentscheidungen empfehlen
• Tools zur Stipendienvergabe, die KI nutzen, um Kandidaten zu sortieren

Die Schwelle des "wesentlichen Einflusses" ist hier wichtig. Das KI-System muss nicht die endgültige Zulassungsentscheidung treffen. Wenn es Bewerber bewertet, sortiert oder aussiebt, bevor ein Mensch sie prüft, ist es Hochrisiko. Eine Hochschule, die KI nutzt, um 20.000 Bewerbungen auf 2.000 für die menschliche Prüfung zu reduzieren, hat ein Hochrisiko-System eingesetzt, auch wenn ein Zulassungsbeauftragter über diese 2.000 die endgültige Entscheidung trifft.

KI, die Lernergebnisse bewertet (Benotung)

Anhang III, Nummer 3(b): KI-Systeme, die zur Verwendung für die Bewertung von Lernergebnissen bestimmt sind, auch wenn diese Ergebnisse genutzt werden, um den Lernprozess zu steuern.

Dies ist eine der breitesten Unterkategorien in Anhang III. Sie erfasst jedes KI-System, dessen Ausgabe dazu beiträgt zu beurteilen, was ein Schüler gelernt hat, sei die Beurteilung summativ (Abschlussnoten, Prüfungsergebnisse, Zertifizierungen) oder formativ (fortlaufendes Feedback, das den Lernweg prägt).

Häufige Beispiele:

• Automatisierte Systeme zur Aufsatzbewertung und Benotung
• KI-gestützte Korrekturtools für Multiple-Choice-, Kurzantwort- oder Coding-Aufgaben
• Automatisierte Feedback-Generatoren, die Schülerarbeiten Qualitätsscores zuweisen
• KI-Bewerter für Sprachkenntnisse
• KI-Tools, die standardisierte Tests bewerten
• Adaptive Lernplattformen, die den Lernstand bewerten und den Schwierigkeitsgrad der Inhalte anpassen

Der zweite Halbsatz, "auch wenn diese Ergebnisse genutzt werden, um den Lernprozess zu steuern", ist bedeutsam. Er bedeutet, dass eine adaptive Lernplattform, die das Verständnis eines Schülers bewertet, um zu entscheiden, was als Nächstes gelehrt wird, Hochrisiko ist, auch wenn sie nie eine formale Note produziert. Die Bewertung der Lernergebnisse selbst ist der Auslöser, unabhängig davon, wie das Ergebnis nachgelagert genutzt wird.

KI, die das angemessene Bildungsniveau bewertet (Einstufung)

Anhang III, Nummer 3(c): KI-Systeme, die zur Verwendung für die Bewertung des angemessenen Bildungsniveaus bestimmt sind, das eine Person erhält oder erreichen kann.

Das umfasst KI-Systeme, die bestimmen, in welchen Bildungsweg oder welches Programm ein Schüler eingestuft wird. In vielen europäischen Systemen werden Schüler im Alter von etwa 10 bis 14 Jahren in akademische oder berufliche Wege gelenkt. KI-Systeme, die diese Einstufungsentscheidungen stützen, haben überproportionale Auswirkungen auf den Lebensverlauf.

Häufige Beispiele:

• Einstufungsalgorithmen für Schüler, die akademische vs. berufliche Wege empfehlen
• KI-Systeme, die die Eignung für Förder- oder Hochbegabtenprogramme bewerten
• Kursempfehlungssysteme, die bestimmen, welches Niveau eines Fachs ein Schüler belegen sollte
• Tools zur Bewertung sonderpädagogischen Förderbedarfs, die KI zur Klassifizierung von Schülern nutzen
• Berufsberatungs-KI, die auf Basis von Eignungsprognosen Bildungswege empfiehlt

Ein Schüler, der mit 12 Jahren von einem KI-System mit verzerrten Trainingsdaten in einen niedrigeren Bildungsweg eingestuft wird, kann über Jahrzehnte eine sich summierende Benachteiligung erfahren, weshalb die Gesetzgeber Einstufungs-KI mit derselben Ernsthaftigkeit behandelten wie Zulassungs- und Benotungs-KI.

KI, die das Prüfungsverhalten überwacht (Prüfungsaufsicht)

Anhang III, Nummer 3(d): KI-Systeme, die zur Verwendung für die Überwachung und Erkennung verbotenen Verhaltens von Schülern während Prüfungen bestimmt sind.

Das zielt auf KI-Systeme zur Prüfungsaufsicht, die Schüler während Prüfungen überwachen, um Täuschung oder Regelverstöße zu erkennen. KI-Prüfungsaufsicht dehnte sich während der COVID-19-Pandemie dramatisch aus und ist in Fern- und Hybridprüfungssettings weiterhin verbreitet.

Häufige Beispiele:

• Fern-Prüfungsaufsichtssysteme mit Webcam-Überwachung und Gesichtserkennung
• KI-Tools, die Augenbewegungen verfolgen, um das Ablesen von Materialien außerhalb des Bildschirms zu erkennen
• Tools zur Tastenanschlagsanalyse, die anomale Tippmuster während Prüfungen erkennen
• Browser-Lockdown-Tools mit KI-Überwachung versuchter Bildschirmwechsel
• Audio-Überwachungssysteme, die Stimmen oder Geräusche erkennen, die auf Hilfe hindeuten
• KI-gestützte Plagiatserkennungstools, die Einreichungen zur weiteren Prüfung markieren

Prüfungsaufsichts-KI ist besonders sensibel, weil sie Überwachung mit folgenreicher Entscheidungsfindung verbindet. Ein Schüler, der wegen "verdächtigen Verhaltens" markiert wird, kann seine Prüfung annulliert bekommen, einem Verfahren wegen akademischen Fehlverhaltens gegenüberstehen oder exmatrikuliert werden, alles auf Basis einer algorithmischen Bewertung. Falsch-Positive treffen Schüler mit Behinderungen, neurodivergente Schüler, Schüler aus anderen kulturellen Hintergründen und Schüler, die in nicht idealen häuslichen Umgebungen prüfen, überproportional.

Zusammenfassung: Hochrisiko-Bildungs-KI auf einen Blick

Alle vier Kategorien tragen dasselbe zentrale Bündel an Hochrisiko-Pflichten nach den Artikeln 8 bis 15 des AI Act. Eine vollständige Aufschlüsselung dieser Pflichten finden Sie in der Compliance-Checkliste zum EU AI Act.

Verbotene KI-Praktiken in der Bildung

Bevor sie sich mit den Hochrisiko-Pflichten befassen, die im August 2026 in Kraft treten, müssen Bildungseinrichtungen verstehen, dass bestimmte KI-Praktiken bereits verboten sind. Die Verbote nach Artikel 5 traten am 2. Februar 2025 in Kraft. Verstöße sind jetzt durchsetzbar und tragen die höchste Stufe der Sanktionen.

Emotionserkennung in Schulen und Hochschulen

Artikel 5(1)(f) verbietet den Einsatz von KI-Systemen zur Ableitung von Emotionen natürlicher Personen in den Bereichen Arbeitsplatz und Bildungseinrichtungen, außer wenn das KI-System aus medizinischen oder sicherheitsbezogenen Gründen in Verkehr gebracht oder in Betrieb genommen werden soll.

Dieses Verbot ist für standardmäßige Bildungskontexte absolut. Jedes KI-Tool, das in einer Schule, Hochschule oder Bildungseinrichtung eingesetzt wird und die Gesichtsausdrücke, den Stimmklang, Blickmuster, Körperhaltung, physiologischen Signale oder das Tastatur-/Mausverhalten eines Schülers analysiert, um einen emotionalen Zustand abzuleiten, Aufmerksamkeit, Engagement, Langeweile, Frustration, Verwirrung, Stress, ist verboten.

Das hat erhebliche Folgen für EdTech. Mehrere Plattformen vermarkteten vor dem AI Act "Engagement-Erkennung" oder "Aufmerksamkeitsüberwachung" als Kernfähigkeiten. Diese Funktionen sind in EU-Bildungssettings nun rechtswidrig, unabhängig vom Branding, "Emotionserkennung" in "Engagement-Analytik" umzubenennen, ändert die rechtliche Einstufung nicht. Artikel 5(1)(f) zielt auf die Funktion, nicht auf das Etikett.

Die enge Ausnahme: Das Verbot gilt nicht, wenn das KI-System aus medizinischen oder sicherheitsbezogenen Gründen bestimmt ist (z. B. Erkennung epileptischer Anfälle, körperliche Sicherheit in Laboren). Die Ausnahme ist eng und kann nicht als Hintertür für routinemäßige Klassenzimmerüberwachung genutzt werden.

Praxisbeispiel: Eine Hochschule setzt eine Prüfungsaufsichtsplattform ein, die die Gesichtsausdrücke von Schülern während Prüfungen analysiert, um einen "Stresslevel"-Score zu erzeugen. Das ist eine verbotene KI-Praxis, der Hochschule und dem Anbieter drohen Bußgelder bis zu 35 Millionen EUR oder 7 % des weltweiten Umsatzes. Die anderen Funktionen des Prüfungsaufsichtssystems (Bildschirmüberwachung, Identitätsprüfung) dürfen fortbestehen, aber die Funktion zur Emotionsableitung muss entfernt werden.

Social Scoring in Bildungskontexten

Artikel 5(1)(c) verbietet KI-Systeme, die natürliche Personen auf Basis ihres Sozialverhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Merkmale bewerten oder klassifizieren, wenn der resultierende soziale Score zu einer nachteiligen Behandlung führt, die ungerechtfertigt oder unverhältnismäßig ist. Dieses Verbot ist zwar allgemein, hat aber spezifische Relevanz in der Bildung. Jedes KI-System, das einen zusammengesetzten "Schüler-Score" erstellt, der Anwesenheit, Verhaltensvorfälle, Social-Media-Aktivität, familiäre Umstände oder andere Verhaltensdaten aggregiert, und diesen Score nutzt, um Bildungschancen zu verweigern, fällt unter das Verbot.

Unterschwellige Manipulation und Ausnutzung von Schutzbedürftigkeit

Artikel 5(1)(a) verbietet KI-Systeme, die unterschwellige Techniken einsetzen, um das Verhalten wesentlich zu verzerren und dadurch erheblichen Schaden zu verursachen. Artikel 5(1)(b) erweitert dies auf Systeme, die die Schutzbedürftigkeit bestimmter Gruppen aufgrund von Alter, Behinderung oder sozialer Situation ausnutzen. Da viele Schüler minderjährig sind und Kinder nach dem AI Act (Erwägungsgrund 28) von Natur aus schutzbedürftig sind, könnten EdTech-Systeme, die manipulative Gestaltungsmuster nutzen, um die psychologische Schutzbedürftigkeit von Kindern auszunutzen, unter diese Verbote fallen.

Compliance-Pflichten für Bildungseinrichtungen

Hochrisiko-Bildungs-KI-Systeme müssen die Anforderungen der Artikel 8 bis 15 des AI Act erfüllen. Die Pflichten liegen bei zwei Kategorien von Akteuren: dem Anbieter (typischerweise das EdTech-Unternehmen, das das System baut und liefert) und dem Betreiber (typischerweise die Schule, Hochschule oder Bildungseinrichtung, die es nutzt). Dieser Abschnitt konzentriert sich auf die für Bildungskontexte relevantesten Pflichten.

Risikomanagementsystem (Artikel 9)

Jedes Hochrisiko-Bildungs-KI-System muss ein Risikomanagementsystem haben, das über seinen gesamten Lebenszyklus hinweg wirkt. Das ist keine einmalige Risikobewertung, es ist ein fortlaufender, iterativer Prozess, der Risiken identifiziert, ihre Eintrittswahrscheinlichkeit und Schwere bewertet, Minderungsmaßnahmen ergreift und das Restrisiko überwacht.

Für Bildungs-KI muss das Risikomanagementsystem insbesondere Folgendes berücksichtigen:

• Bias-Risiken: Wie könnte das System Schüler aus bestimmten sozioökonomischen, ethnischen, sprachlichen oder behinderungsbezogenen Hintergründen benachteiligen?
• Genauigkeitsrisiken: Was passiert, wenn das System falsch liegt? Falsch-Positive in der Prüfungsaufsicht können zu Vorwürfen des Fehlverhaltens führen; unzutreffende Noten wirken sich auf Hochschulzulassungen aus.
• Vorhersehbarer Missbrauch: Könnten Lehrkräfte das System über seinen Verwendungszweck hinaus nutzen? Könnten Schüler es austricksen?
• Auswirkung auf Minderjährige: Das Risikomanagementsystem muss die erhöhte Schutzbedürftigkeit von Kindern und den irreversiblen Schaden in kritischen Entwicklungsphasen berücksichtigen.

Ausführliche Hinweise finden Sie unter KI-Governance-Framework: Aufbau eines Compliance-Programms.

Daten-Governance (Artikel 10)

Artikel 10 stellt strenge Anforderungen an die Daten, die zum Trainieren, Validieren und Testen von Hochrisiko-KI-Systemen verwendet werden. In der Bildung ist die Daten-Governance besonders sensibel, weil:

• Sensibilität von Schülerdaten: Bildungsakten, Bewertungsergebnisse und Lernanalytik betreffen oft Kinder und offenbaren Informationen über Behinderungen, familiäre Umstände und sozioökonomischen Status.
• DSGVO-Überlagerung: Schülerdaten sind personenbezogene Daten nach der DSGVO, und viel davon gilt als besondere Kategorien von Daten. Die Anforderungen des AI Act gelten zusätzlich zur DSGVO, nicht als Ersatz. Siehe EU AI Act vs. DSGVO: Unterschiede und Überschneidungen.
• Repräsentative Datensätze: Die Trainingsdaten müssen die Population repräsentieren, der das System dient. Eine Aufsatzbewertungs-KI, die auf englischen Muttersprachlern trainiert wurde, kann bei Aufsätzen von Nicht-Muttersprachlern diskriminierend abschneiden. Artikel 10(2)(f) verlangt, dass Datensätze das Umfeld berücksichtigen, in dem das System eingesetzt werden soll.
• Bias-Prüfung: Artikel 10(2)(g) verlangt eine Prüfung der Daten auf Verzerrungen, die die Grundrechte beeinträchtigen oder zu Diskriminierung führen, also ein aktives Testen auf ungleiche Auswirkungen über Geschlecht, ethnische Zugehörigkeit, Behinderung, sozioökonomischen Hintergrund und Sprache hinweg.

Mehr zu den Anforderungen an Bias-Tests finden Sie unter KI-Bias-Tests und Fairness nach dem EU AI Act.

Anforderungen an die menschliche Aufsicht (Artikel 14)

Artikel 14 verlangt, dass Hochrisiko-KI-Systeme während des Einsatzes wirksam durch natürliche Personen beaufsichtigt werden. In der Bildung müssen Lehrkräfte, Professoren, Zulassungsbeauftragte und Verwaltungspersonal in der Lage sein:

1. Die Fähigkeiten und Grenzen des Systems zu verstehen, einschließlich bekannter Genauigkeitsraten und Fehlermargen.
2. Die Ausgaben des Systems zu interpretieren, also zu verstehen, was ein Score bedeutet und welche Faktoren ihn beeinflusst haben.
3. Die Ausgabe der KI zu übersteuern oder rückgängig zu machen, mit der praktischen Fähigkeit und institutionellen Befugnis dazu.
4. In das System einzugreifen oder es zu unterbrechen, einschließlich eines "Stopp"-Mechanismus, besonders bei Echtzeit-Prüfungsaufsichtstools.

Schulen können keinen "einrichten und vergessen"-Ansatz verfolgen. Automatisierte Benotung ohne Lehrerüberprüfung, Prüfungsaufsichtstools, die Prüfungen automatisch annullieren, oder Zulassungsalgorithmen, deren Ausgaben nur abgenickt werden, erfüllen allesamt die Anforderung an die menschliche Aufsicht nicht.

Transparenz gegenüber Schülern und Eltern (Artikel 13 + Artikel 26(11))

Artikel 13 verlangt ausreichende Transparenz, damit Betreiber die Ausgaben interpretieren können. Artikel 26(11) ergänzt, dass natürliche Personen, die Hochrisiko-KI-Entscheidungen unterliegen, informiert werden müssen. Für Bildungseinrichtungen:

• Schülern muss gesagt werden, wenn KI Bewerbungen bewertet, Arbeiten benotet, Einstufungen bestimmt oder Prüfungen überwacht.
• Eltern und Erziehungsberechtigte müssen informiert werden, wenn der Schüler minderjährig ist.
• Aussagekräftige Information: "Wir nutzen KI" reicht nicht. Die Offenlegung muss erklären, was die KI tut, welche Daten sie verarbeitet, wie die Ausgaben genutzt werden und welche Rechte Schüler haben (einschließlich des Rechts auf menschliche Überprüfung).
• Zeitpunkt: Die Benachrichtigung muss vor oder zum Zeitpunkt des Einsatzes des KI-Systems erfolgen, nicht nach der Entscheidung.

Grundrechte-Folgenabschätzung (Artikel 27)

Artikel 27 verlangt von bestimmten Betreibern von Hochrisiko-KI-Systemen, vor der Inbetriebnahme des Systems eine Grundrechte-Folgenabschätzung (FRIA) durchzuführen. Das gilt für:

• Einrichtungen des öffentlichen Rechts (die meisten öffentlichen Schulen und Hochschulen in den EU-Mitgliedstaaten) oder
• private Einrichtungen, die öffentliche Dienste erbringen (privat betriebene Schulen, die öffentliche Mittel erhalten, private Hochschulen in bestimmten Rechtsordnungen).

Die FRIA muss die Auswirkung auf das Recht auf Bildung (Artikel 14 EU-Charta), Nichtdiskriminierung (Artikel 21), Rechte des Kindes (Artikel 24), wirksamen Rechtsbehelf (Artikel 47) und gute Verwaltung (Artikel 41) bewerten. Für Bildungs-KI prüfen Sie insbesondere:

• Unverhältnismäßige Auswirkung auf Schüler aus benachteiligten Verhältnissen
• Für Schüler und Eltern verfügbare Rechtsbehelfe, wenn sie mit der KI-Ausgabe nicht einverstanden sind
• Wechselwirkung mit bestehenden Gleichstellungs- und Barrierefreiheitspflichten
• Spezifische Risiken für Kinder und schutzbedürftige Schüler

Einen ausführlichen Leitfaden finden Sie unter AI Act FRIA: Leitfaden zur Grundrechte-Folgenabschätzung.

DSGVO- und DSFA-Anforderungen für Schülerdaten

Der AI Act ersetzt die DSGVO nicht, er wirkt neben ihr. Bildungseinrichtungen, die KI einsetzen, müssen die DSGVO weiterhin vollständig einhalten, einschließlich:

• Rechtsgrundlage: Für öffentliche Schulen ist dies typischerweise Artikel 6(1)(e) DSGVO (öffentliche Aufgabe). Einwilligung ist in Bildungssettings wegen des Machtgefälles zwischen Einrichtungen und Schülern problematisch.
• Datenschutz-Folgenabschätzung (DSFA): Nach Artikel 35 DSGVO ist für die meisten Bildungs-KI wahrscheinlich eine DSFA erforderlich, weil sie die Verarbeitung von Daten schutzbedürftiger Personen (Kinder) und den Einsatz neuer Technologien umfassen. Die DSFA sollte mit der FRIA abgestimmt werden, um Doppelarbeit zu vermeiden.
• Datenminimierung: KI-Systeme sollten nur notwendige Schülerdaten verarbeiten. Ein Prüfungsaufsichtssystem, das ein vollständiges Video der häuslichen Umgebung eines Schülers aufzeichnet, verstößt wahrscheinlich gegen die Datenminimierung.
• Artikel 22 DSGVO: Das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Automatisierte Benotungs- und Zulassungsentscheidungen können den Schutz nach Artikel 22 auslösen.

Wer ist in der Bildung Anbieter, wer Betreiber?

Die Unterscheidung zwischen Anbieter und Betreiber zu verstehen ist wesentlich, weil der AI Act jeder Rolle unterschiedliche Pflichten zuweist, und in der Bildung tragen beide Rollen ernste Verantwortung.

Das EdTech-Unternehmen als Anbieter

Der Anbieter ist die Instanz, die das KI-System entwickelt oder auf dem Markt in Verkehr bringt. In der Bildung ist das typischerweise das EdTech-Unternehmen, das das KI-Tool baut und verkauft, das Unternehmen, das die automatisierte Benotungsplattform, die Prüfungsaufsichtslösung oder das adaptive Lernsystem entwickelt.

Zu den Anbieterpflichten gehören:

• Konformitätsbewertung (Artikel 43): Sicherstellen, dass das System vor dem Inverkehrbringen alle Anforderungen erfüllt. Für Bildungs-KI ist die Selbstbewertung in der Regel verfügbar.
• Technische Dokumentation (Artikel 11 + Anhang IV): Umfassende Dokumentation, die das System, seinen Zweck, das Risikomanagement, die Daten-Governance, die Genauigkeit und die Tests beschreibt. Siehe Leitfaden zur technischen Dokumentation nach dem AI Act.
• CE-Kennzeichnung (Artikel 48): Anbringen der CE-Kennzeichnung als Nachweis der Konformität.
• Qualitätsmanagementsystem (Artikel 17): Ein systematischer Rahmen für laufende Compliance.
• Marktbeobachtung (Artikel 72): Überwachung der Leistung nach dem Einsatz, Erhebung von Fehlerdaten und Ergreifen von Korrekturmaßnahmen. Siehe Marktbeobachtung und Meldung von Vorfällen.
• Betriebsanleitung: Betreibern klare Anweisungen bereitstellen, einschließlich Verwendungszweck, bekannter Grenzen, Genauigkeitsraten und Anforderungen an die menschliche Aufsicht.

Die Schule oder Hochschule als Betreiber

Der Betreiber ist die Instanz, die das KI-System unter ihrer Verantwortung nutzt. In der Bildung ist das die Schule, Hochschule, das Prüfungsamt oder die Bildungseinrichtung, die das EdTech-Tool beschafft und einsetzt.

Zu den Betreiberpflichten gehören:

• Nutzung entsprechend der Anweisungen (Artikel 26(1)): Betreiber müssen das System so nutzen, wie es der Anbieter vorgesehen hat. Eine adaptive Lernplattform (für formatives Feedback konzipiert) als summatives Benotungstool zu nutzen, kann das Risikoprofil verändern und zusätzliche Pflichten auslösen.
• Menschliche Aufsicht (Artikel 26(2)): Sicherstellen, dass die zur Beaufsichtigung des KI-Systems eingeteilten natürlichen Personen kompetent, geschult und befugt sind, es zu übersteuern.
• Qualität der Eingabedaten (Artikel 26(4)): Sicherstellen, dass die in das System eingespeisten Daten relevant und repräsentativ sind. Speist eine Schule verzerrte oder unvollständige Schülerakten in ein KI-Einstufungstool ein, trägt die Schule die Verantwortung für die resultierende Ausgabe.
• Information der Schüler (Artikel 26(11)): Betroffene Personen benachrichtigen, dass sie einem Hochrisiko-KI-System unterliegen.
• Grundrechte-Folgenabschätzung (Artikel 27): Wo einschlägig (öffentliche Einrichtungen und Erbringer öffentlicher Dienste).
• Aufbewahrung von Aufzeichnungen (Artikel 26(6)): Vom System erzeugte Protokolle für den in der Betriebsanleitung angegebenen Zeitraum, mindestens jedoch sechs Monate, aufbewahren.

Geteilte Verantwortlichkeiten in der Praxis

In der Praxis ist die Anbieter-Betreiber-Beziehung in der Bildung oft verflochten. Ein EdTech-Unternehmen kann das KI-System als SaaS hosten, Updates verwalten und Modelle auf Schülerdaten nachtrainieren und so das Verhalten des Systems faktisch steuern, obwohl die Schule der formale Betreiber ist. Beide Parteien sollten ihre Pflichten im Beschaffungsvertrag klar festlegen, besonders rund um Daten-Governance, Bias-Tests, Meldung von Vorfällen und menschliche Aufsicht.

Eine Schule kann ihre Betreiberpflichten nicht dadurch erfüllen, dass sie auf die Compliance des Anbieters verweist. Produziert ein vom Anbieter geliefertes KI-System verzerrte Noten, haftet die Schule als Betreiber für versäumte menschliche Aufsicht, auch wenn der Anbieter zugleich als Anbieter für Mängel bei der Daten-Governance haftet.

Ethische Leitlinien der Europäischen Kommission 2026 für KI in der Bildung

Zusätzlich zum rechtlich verbindlichen AI Act hat die Europäische Kommission ethische Leitlinien für KI in der Bildung veröffentlicht, die auf dem Rahmen von 2022 aufbauen und für die Ära des AI Act aktualisiert wurden. Diese Leitlinien sind kein durchsetzbares Recht, geben aber die Auffassung der Kommission zu bewährten Verfahren wieder und werden wahrscheinlich beeinflussen, wie Regulierer und Gerichte die Anforderungen des AI Act auslegen. Die fünf Säulen sind:

1. Menschenwürde und Autonomie: KI muss die menschliche Handlungsfähigkeit beim Lernen unterstützen, nicht ersetzen. Schüler sollten aktive Teilnehmer bleiben, nicht passive Objekte algorithmischer Optimierung.
2. Fairness und Nichtdiskriminierung: KI darf bestehende Bildungsungleichheiten nicht fortschreiben. Besondere Aufmerksamkeit für die digitale Kluft, sozioökonomische Benachteiligung, Behinderung und sprachliche Vielfalt.
3. Transparenz und Vertrauen: Schüler, Eltern und Lehrende müssen verstehen, wie KI Entscheidungen beeinflusst. Vertrauen erfordert Erklärbarkeit, nicht nur Offenlegung.
4. Akademische Integrität: KI-Tools müssen ehrliches Lernen unterstützen und den Wert von Qualifikationen nicht untergraben.
5. Gerechtfertigter und verhältnismäßiger Einsatz: Der KI-Einsatz muss durch einen echten Bedarf gerechtfertigt und im Verhältnis zum Bildungsnutzen verhältnismäßig sein.

Diese Säulen sollten Risikomanagementsysteme, Transparenzhinweise und die Bewertung beeinflussen, ob ein bestimmter KI-Einsatz verhältnismäßig ist.

Umsetzungsfahrplan für Schulen und EdTech-Unternehmen

Phase 1: Inventar und Klassifizierung (jetzt)

• Alle derzeit im Einsatz befindlichen KI-Systeme inventarisieren. Dazu gehören Tools, die nicht offensichtlich "KI" sind, Empfehlungssysteme, adaptive Plattformen, automatisierte Feedback-Tools, Plagiatsdetektoren und Prüfungsaufsichtssysteme. Siehe Wie man ein KI-Systeminventar aufbaut.
• Jedes System klassifizieren gegen Anhang III, Nummer 3. Nutzen Sie die Legalithm AI-Act-Bewertung für eine geführte Klassifizierung.
• Verbotene Systeme identifizieren: Prüfen Sie jedes System auf Funktionen zur Emotionserkennung, Social-Scoring-Komponenten oder manipulative Gestaltungsmuster. Sind welche vorhanden, müssen sie entfernt oder das System muss sofort stillgelegt werden, das Verbot gilt seit Februar 2025.

Phase 2: Lückenanalyse und Einbindung der Anbieter (Q2 2026)

• Lückenanalyse durchführen: Bewerten Sie für jedes Hochrisiko-System den aktuellen Compliance-Stand gegen die Anforderungen der Artikel 8 bis 15. Identifizieren Sie Lücken in Dokumentation, menschlicher Aufsicht, Bias-Tests, Transparenz und Protokollierung.
• Anbieter einbinden: Fordern Sie von jedem EdTech-Anbieter technische Dokumentation, Genauigkeitskennzahlen, Ergebnisse von Bias-Tests und die Betriebsanleitung an. Kann ein Anbieter diese Materialien nicht liefern, eskalieren Sie und beginnen Sie, alternative Anbieter zu prüfen.
• FRIA beginnen (für öffentliche Einrichtungen): Starten Sie den Prozess der Grundrechte-Folgenabschätzung für jedes Hochrisiko-System. Das erfordert bereichsübergreifenden Input von Datenschutzbeauftragten, Lehrenden, Schülervertretern und Gleichstellungsbeauftragten.
• DSFA beginnen oder aktualisieren: Stimmen Sie die Datenschutz-Folgenabschätzung nach der DSGVO mit der FRIA ab, um eine umfassende Abdeckung ohne Doppelarbeit sicherzustellen.

Phase 3: Umsetzung (Q2, Q3 2026)

• Verfahren zur menschlichen Aufsicht umsetzen: Legen Sie fest, wer jedes KI-System beaufsichtigt, welche Schulung dafür nötig ist und welche Befugnis zum Übersteuern oder Eingreifen besteht. Dokumentieren Sie diese Verfahren.
• Transparenzhinweise bereitstellen: Entwerfen und veröffentlichen Sie schülerorientierte Hinweise, die erklären, welche KI-Systeme genutzt werden, was sie tun, welche Daten sie verarbeiten und welche Rechte Schüler und Eltern haben.
• Protokollierung und Aufbewahrung schaffen: Stellen Sie sicher, dass Systemprotokolle für den erforderlichen Zeitraum aufbewahrt und für Prüfungen zugänglich sind.
• Bias-Tests durchführen oder beauftragen: Testen Sie jedes Hochrisiko-System auf ungleiche Auswirkungen über geschützte Merkmale hinweg, die für die Schülerpopulation relevant sind. Dokumentieren Sie Ergebnisse und Minderungsmaßnahmen.
• Beschaffungsverträge aktualisieren: Stellen Sie sicher, dass Verträge mit EdTech-Anbietern die AI-Act-Verantwortlichkeiten zwischen Anbieter und Betreiber klar zuordnen.

Phase 4: Laufende Compliance (nach August 2026)

• Systemleistung überwachen: Setzen Sie für Anbieter Prozesse der Marktbeobachtung um. Betreiber sollten Rückmeldemechanismen für Lehrkräfte und Schüler schaffen, um Probleme zu melden.
• Meldung von Vorfällen: Schaffen Sie Verfahren zur Meldung schwerwiegender Vorfälle (Systemausfälle, diskriminierende Ergebnisse, Sicherheitsrisiken) an die zuständige nationale Behörde. Anbieter müssen innerhalb von 15 Tagen nach Kenntnisnahme eines schwerwiegenden Vorfalls melden.
• Regelmäßige Überprüfung: Überarbeiten Sie Risikomanagementbewertungen, Bias-Tests und FRIAs in regelmäßigen Abständen, mindestens jährlich, und nach jedem wesentlichen System-Update.

Praxisbeispiele

Adaptive Lernplattformen

Szenario: Eine weiterführende Schule in Deutschland setzt eine adaptive Mathematik-Plattform ein, die Schülerantworten bewertet, den Lernstand einschätzt und den Schwierigkeitsgrad der Inhalte anpasst. Die Plattform nutzt KI, um Schüler in Leistungsstufen zu klassifizieren, die Lehrerempfehlungen für die Einstufung in einen Förder- oder Standardweg stützen.

AI-Act-Einstufung: Hochrisiko nach Anhang III, Nummer 3(b) (Bewertung von Lernergebnissen) und Nummer 3(c) (Bewertung des angemessenen Bildungsniveaus). Das System bewertet sowohl, was Schüler gelernt haben, als auch, um diese Bewertung zu nutzen, um ihren Bildungsweg zu beeinflussen.

Pflichten: Der Anbieter muss technische Dokumentation, Genauigkeitskennzahlen und Ergebnisse von Bias-Tests bereitstellen. Die Schule muss menschliche Aufsicht umsetzen (Lehrkräfte müssen Wegempfehlungen übersteuern können), Schüler und Eltern informieren und, als öffentliche Einrichtung, eine FRIA durchführen. Die Schule sollte testen, ob die Leistungsklassifizierungen mit sozioökonomischem Status oder sprachlichem Hintergrund korrelieren.

KI-Prüfungsaufsicht bei Hochschulprüfungen

Szenario: Eine niederländische Hochschule nutzt eine Fern-Prüfungsaufsichtsplattform für Online-Prüfungen. Das System nutzt Webcam-Überwachung, um die Identität der Schüler zu verifizieren, Augenbewegungen zu verfolgen, unerlaubte Materialien zu erkennen und "verdächtiges Verhalten" zur menschlichen Prüfung zu markieren. Die Plattform enthielt zuvor eine Funktion zur "Engagement-Analyse", die das offenkundige Aufmerksamkeitsniveau der Schüler bewertete.

AI-Act-Einstufung: Hochrisiko nach Anhang III, Nummer 3(d) (Überwachung und Erkennung verbotenen Verhaltens während Prüfungen). Die Funktion zur "Engagement-Analyse" stellt Emotionserkennung dar und ist nach Artikel 5(1)(f) verboten.

Erforderliche Maßnahme: Die Hochschule muss die Funktion zur Engagement-Analyse sofort deaktivieren, das Verbot gilt seit Februar 2025. Für die verbleibenden Prüfungsaufsichtsfunktionen muss die Hochschule vor akademischen Folgen eine menschliche Prüfung aller Markierungen sicherstellen, Schüler darüber informieren, dass KI-Prüfungsaufsicht im Einsatz ist, die Falsch-Positiv-Raten über demografische Gruppen hinweg testen und die Datenminimierung sicherstellen (vollständige Raumscans können sowohl gegen den AI Act als auch gegen die DSGVO verstoßen).

KI-Chatbot-Tutoren

Szenario: Eine französische Wirtschaftshochschule setzt einen KI-gestützten Chatbot ein, der Schülerfragen zum Kursmaterial beantwortet, Übungsaufgaben bereitstellt und Feedback zu schriftlichen Antworten gibt. Der Chatbot vergibt keine Noten, Lehrkräfte übernehmen jede formale Bewertung.

AI-Act-Einstufung: Das erfordert eine sorgfältige Analyse. Wenn der Chatbot ausschließlich Informationen und Übung bereitstellt, ohne Lernergebnisse zu bewerten oder die Einstufung zu beeinflussen, fällt er womöglich nicht unter Anhang III, Nummer 3. Wenn seine Bewertungen jedoch in das Lernmanagementsystem der Schule einfließen und beeinflussen, wie Schüler eingestuft oder für Kurse empfohlen werden, wird er nach Nummer 3(b) oder 3(c) zu Hochrisiko. Die Einstufung hängt davon ab, wie die Ausgaben tatsächlich genutzt werden, nicht davon, wie sie vermarktet werden.

Praktischer Hinweis: Schulen sollten die Funktion des Chatbots genau dokumentieren. Bei jeder Unklarheit ist der sicherere Weg, das System als Hochrisiko zu behandeln, die Kosten der Compliance liegen weit unter den Kosten eines Bußgelds.

Häufig gestellte Fragen

Gilt der AI Act für private Schulen?

Ja. Der AI Act gilt danach, wo das KI-System in Verkehr gebracht oder in Betrieb genommen wird, nicht nach dem öffentlichen oder privaten Status der Einrichtung. Eine private Schule, die KI für Zulassung, Benotung, Einstufung oder Prüfungsaufsicht nutzt, hat dieselben Hochrisiko-Pflichten wie eine öffentliche Schule. Die FRIA-Pflicht (Artikel 27) gilt womöglich nicht für rein private Einrichtungen, aber alle übrigen Pflichten gelten gleichermaßen.

Sind KI-gestützte Plagiatsdetektoren Hochrisiko?

Es hängt von der Funktion ab. Ein Plagiats-Tool, das Textähnlichkeit zur Lehrerprüfung markiert, fällt weniger eindeutig unter Anhang III, Nummer 3(d) als ein Prüfungsaufsichtstool, das Verhalten während Prüfungen überwacht. Wenn der Detektor jedoch eine Feststellung darüber trifft, ob eine Einreichung ein verbotenes Verhalten darstellt, statt Ähnlichkeit zu markieren, fällt er in den Anwendungsbereich. Detektoren für KI-generierten Text werfen ähnliche Fragen auf und sollten von Fall zu Fall bewertet werden.

Dürfen Schulen KI-Benotung nutzen, wenn eine Lehrkraft alle Noten überprüft?

Ja, aber die menschliche Überprüfung muss aussagekräftig sein, kein bloßes Abnicken. Artikel 14 verlangt, dass die Aufsichtsperson die Ausgaben versteht, sie interpretiert und die praktische Fähigkeit und Befugnis zum Übersteuern hat. Fehlt Lehrkräften die Zeit, Schulung oder das Mandat, KI-Noten aussagekräftig zu bewerten und zu korrigieren, ist die Anforderung an die menschliche Aufsicht nicht erfüllt. Einrichtungen sollten überschaubare Prüfmengen sicherstellen, Schulungen anbieten und eine Kultur schaffen, in der das Übersteuern der KI unterstützt wird.

Was ist mit KI, die in Nicht-EU-Schulen mit EU-Schülern genutzt wird?

Der AI Act hat einen extraterritorialen Anwendungsbereich. Nach Artikel 2(1)(c) gilt die Verordnung für Anbieter und Betreiber in Drittländern, wenn die Ausgabe des KI-Systems in der Union genutzt wird. Eine in den USA ansässige Hochschule, die KI nutzt, um in der EU ansässige Bewerber zu bewerten, kann in den Anwendungsbereich fallen. Die genauen Konturen werden durch die Durchsetzungspraxis geklärt, aber Nicht-EU-Einrichtungen mit in der EU ansässigen Bewerbern sollten ihre Exposition bewerten.

Wann müssen wir mit der Einhaltung beginnen?

Der Zeitplan hängt davon ab, um welche Pflicht es geht:

• Verbotene Praktiken (Emotionserkennung, Social Scoring, Manipulation): Bereits seit dem 2. Februar 2025 durchsetzbar.
• KI-Kompetenz (Artikel 4): Durchsetzbar seit dem 2. Februar 2025, alle Mitarbeitenden, die mit KI-Systemen interagieren, sollten ausreichend verstehen, wie diese funktionieren.
• Hochrisiko-Pflichten (Artikel 8 bis 15, Betreiberpflichten in Artikel 26): Durchsetzbar ab dem 2. August 2026.
• Pflichten für KI-Modelle mit allgemeinem Verwendungszweck: Durchsetzbar ab dem 2. August 2025 für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.

Den vollständigen Zeitplan finden Sie unter EU-AI-Act-Zeitplan: Wichtige Daten und Fristen.

Wie hoch sind die Sanktionen bei Nichteinhaltung?

Die Sanktionsstruktur des AI Act ist gestuft:

• Verbotene Praktiken: Bis zu 35 Millionen EUR oder 7 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
• Hochrisiko-Pflichten: Bis zu 15 Millionen EUR oder 3 % des gesamten weltweiten Jahresumsatzes.
• Falsche Informationen an Behörden: Bis zu 7,5 Millionen EUR oder 1 % des Umsatzes.

Für KMU und Startups gilt der jeweils niedrigere der beiden Beträge (fester Höchstbetrag vs. Prozentsatz). Eine vollständige Aufschlüsselung finden Sie unter Sanktionen und Bußgelder des EU AI Act erklärt.

Nächste Schritte

Die Frist zum 2. August 2026 rückt näher. Schulen, Hochschulen und EdTech-Unternehmen, die noch nicht mit der Compliance begonnen haben, sollten sofort starten.

Beginnen Sie mit der Klassifizierung: Nutzen Sie die Legalithm AI-Act-Bewertung, um zu bestimmen, welche Ihrer KI-Systeme Hochrisiko sind, und Ihre konkreten Pflichten als Anbieter oder Betreiber zu ermitteln.

Bauen Sie Ihr Compliance-Programm auf: Die Compliance-Checkliste zum EU AI Act bietet einen schrittweisen Rahmen, der jede Anforderung vom Risikomanagement bis zur Marktbeobachtung abdeckt.

Verstehen Sie Ihre Rolle: Wenn Sie ein EdTech-Unternehmen sind, lesen Sie den Leitfaden zu den Pflichten von Anbieter und Betreiber, um genau zu verstehen, was der AI Act von Ihnen verlangt und was Sie Ihren Kunden bereitstellen müssen, um deren Compliance zu unterstützen.

Der AI Act ist kein Hindernis für Innovation in der Bildung, er ist der Rahmen, der Innovation nachhaltig, vertrauenswürdig und fair macht.