Seit August 2026 sind die Anforderungen des EU AI Acts für Hochrisiko-KI-Systeme vollständig in Kraft. Für IT-Teams, die KI-Anwendungen entwickeln, betreiben oder einsetzen, bedeutet das: Compliance ist jetzt keine Zukunftsfrage mehr, sondern operative Realität. In diesem Artikel erklären wir, was die Verordnung konkret fordert und wo Handlungsbedarf besteht.
Was der EU AI Act regelt
Die EU-Verordnung 2024/1689 teilt KI-Systeme in Risikostufen ein. Verbotene Systeme – etwa biometrische Massenüberwachung im öffentlichen Raum oder manipulative Mikrotargeting-Systeme – durften bereits seit Februar 2025 nicht mehr betrieben werden. Seit August 2026 gelten nun die vollständigen Pflichten für sogenannte Hochrisiko-KI-Systeme gemäß Anhang III der Verordnung.
Zu diesen Hochrisiko-Systemen zählen unter anderem:
- KI-Systeme zur Kreditwürdigkeitsprüfung und Bonitätsbewertung
- Biometrische Identifikationssysteme (Gesichtserkennung, Iris-Scan)
- Systeme in der kritischen Infrastruktur (Energie, Wasser, Verkehr)
- KI im Personalwesen – Recruiting, Leistungsbewertung, Entlassungsentscheidungen
- Strafverfolgung und Justiz: Risikobewertung, Lügendetektion
- Systeme zur Zulassung an Bildungseinrichtungen
Welche Pflichten entstehen konkret
Wer ein Hochrisiko-System entwickelt oder in der EU in Verkehr bringt, muss eine Reihe technischer und organisatorischer Anforderungen erfüllen. Die wichtigsten im Überblick:
Technische Dokumentation
Für jedes Hochrisiko-System ist eine vollständige technische Dokumentation zu erstellen und aktuell zu halten. Dazu gehören Beschreibungen der Architektur, der Trainingsdaten, der Validierungsmethodik und der erwarteten Leistungsparameter. Die Dokumentation muss auf Anforderung der Marktaufsichtsbehörden vorgelegt werden können.
Risikomanagement-System
Entwickler und Betreiber müssen ein fortlaufendes Risikomanagement implementieren. Das bedeutet: Risiken müssen identifiziert, bewertet, minimiert und überwacht werden – über den gesamten Lebenszyklus des Systems hinweg. Einmalige Risikoanalysen reichen nicht aus; das System muss kontinuierlich beobachtet werden.
Datensatz-Management
Trainingsdaten müssen angemessen auf Qualität und Repräsentativität geprüft worden sein. Bekannte Biases sind zu dokumentieren. Das bedeutet für Teams, die eigene Modelle trainieren oder Fine-Tuning betreiben, einen erheblichen Mehraufwand bei der Datendokumentation.
Menschliche Aufsicht
Hochrisiko-Systeme müssen so gestaltet sein, dass ein Mensch die Ausgaben überprüfen, korrigieren oder stoppen kann. Vollautonome Entscheidungen ohne Möglichkeit zur menschlichen Intervention sind in diesen Bereichen unzulässig. Das hat direkte Auswirkungen auf UI-Design und Workflow-Architektur.
Genauigkeit, Robustheit und Cybersicherheit
Das System muss eine angemessene Genauigkeit aufweisen, gegenüber Manipulation und Ausfällen robust sein und angemessene Cybersicherheitsmaßnahmen implementieren. Für IT-Teams, die bereits in anderen Bereichen Security-Frameworks wie ISO 27001 oder SOC 2 einsetzen, ist dieser Teil eher eine Erweiterung bestehender Prozesse.
GPAI: Besondere Regeln für Allzweck-KI-Modelle
Eine eigenständige Regelkategorie betrifft General Purpose AI Models (GPAI) – also Sprachmodelle wie GPT-5, Claude oder Llama. Anbieter dieser Modelle unterliegen seit August 2025 eigenen Transparenz- und Dokumentationspflichten. Für Unternehmen, die diese Modelle über APIs in eigene Anwendungen integrieren, gilt: Sofern die Anwendung selbst nicht unter den Hochrisiko-Katalog fällt, entstehen keine zusätzlichen Pflichten durch den GPAI-Status – wohl aber wenn sie dies tut.
Besonders zu beachten: Wenn ein GPAI-Modell systemische Risiken begründet (gemessen etwa an der Rechenkapazität beim Training, Schwelle: 10^25 FLOPs), gelten für dessen Anbieter verschärfte Anforderungen – inklusive adversarialer Tests und Meldepflichten bei schwerwiegenden Vorfällen gegenüber der EU-KI-Behörde.
Was IT-Teams jetzt tun sollten
Auch wenn viele IT-Teams keine Hochrisiko-Systeme im strengen Sinne betreiben, lohnt sich eine strukturierte Bestandsaufnahme. Folgende Schritte helfen beim Einstieg:
- KI-Inventar erstellen: Welche KI-Systeme sind im Einsatz? Welche werden entwickelt? In welchen Prozessen laufen sie?
- Risikostufe bestimmen: Für jedes System prüfen, ob es unter eine der Hochrisiko-Kategorien fällt oder verbotene Praktiken beinhaltet.
- Zuständigkeiten klären: Wer ist Anbieter, wer ist Betreiber? Die Pflichten sind unterschiedlich verteilt.
- Dokumentation nachrüsten: Technische Dokumentation, Trainingsdaten-Logs, Testprotokolle sichern.
- Monitoring und Logging einrichten: Für Hochrisiko-Systeme ist automatisches Logging von Systemaktivitäten Pflicht.
Marktüberwachung und Sanktionen
Die EU-Mitgliedstaaten benennen nationale Marktüberwachungsbehörden. Verstöße können mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden – je nach Art des Verstoßes. Für KMU und Startups gelten reduzierte Höchstbeträge.
Die Realität: Die behördliche Kapazität zur Durchsetzung ist 2026 noch im Aufbau. Dennoch empfiehlt sich frühzeitige Compliance, da Nachbesserungen unter Druck teurer und zeitintensiver sind als proaktive Umsetzung.
Konformitätsbewertung: Was ist zu tun?
Für die meisten Hochrisiko-KI-Systeme sieht der EU AI Act eine Selbstbewertung (interne Konformitätsprüfung) vor. Ausnahmen gelten für Systeme in besonders sensiblen Bereichen wie Strafverfolgung oder biometrische Identifikation – dort ist eine externe Prüfung durch eine benannte Konformitätsbewertungsstelle erforderlich. Im Anschluss an die Prüfung erfolgt die CE-Kennzeichnung sowie die Registrierung in der EU-Datenbank für Hochrisiko-KI-Systeme.
Fazit
Der EU AI Act ist kein bürokratisches Hindernis, sondern ein Framework, das IT-Teams zwingt, KI-Systeme systematischer zu dokumentieren, zu testen und zu überwachen. Viele der geforderten Maßnahmen entsprechen guter Engineering-Praxis, die in verantwortungsvoll betriebenen Teams ohnehin Standard sein sollte. Wer jetzt handelt, verschafft sich Planungssicherheit und vermeidet teure Nachrüstungen.
Bildquelle: Pexels / Pavel Danilyuk (Foto-ID 8386440) – Lizenz: Pexels Free License
Quellen: Verordnung (EU) 2024/1689 (EU AI Act), Amtsblatt der Europäischen Union; EU AI Office – https://digital-strategy.ec.europa.eu/; BSI – KI-Sicherheitsrichtlinien (2025)
