Warum KI-Transparenz 2026 kein optionales Thema mehr ist
Der EU AI Act ist seit dem 1. August 2024 in Kraft und wird schrittweise verbindlich. 2026 gilt er für weite Teile der Wirtschaft bereits vollständig – und IT-Teams stehen vor einer konkreten Herausforderung: Sie müssen verstehen, welche KI-Systeme im Unternehmen eingesetzt werden, wie diese klassifiziert sind und was das für Dokumentation, Monitoring und Betrieb bedeutet.
Die Verordnung betrifft nicht nur KI-Hersteller. Sie richtet sich ausdrücklich auch an Unternehmen, die KI-Systeme einsetzen – sogenannte Deployer. Das bedeutet: Wer GPT-basierte Chatbots im Kundensupport nutzt, KI-gestützte Anomalieerkennung im Monitoring einsetzt oder automatisierte Entscheidungssysteme im HR-Bereich betreibt, trägt eine regulatorische Verantwortung.
Die vier Risikoklassen des EU AI Act
Das Herzstück der Verordnung ist ein risikobasierter Ansatz. KI-Systeme werden in vier Klassen eingeteilt – und die Klasse bestimmt die Anforderungen:
- Inakzeptables Risiko: Verbotene Systeme, z.B. Social Scoring durch Behörden, manipulative KI oder biometrische Echtzeitüberwachung in öffentlichen Räumen.
- Hochrisiko: KI in kritischen Bereichen wie Personalentscheidungen, Kreditwürdigkeit, medizinischen Geräten, Infrastruktursteuerung oder Strafverfolgung. Hier gelten strenge Anforderungen: technische Dokumentation, menschliche Aufsicht, Genauigkeitsnachweise, Registrierung in EU-Datenbanken.
- Begrenztes Risiko: Systeme mit Transparenzpflichten, z.B. Chatbots müssen sich als KI zu erkennen geben.
- Minimales Risiko: Die Mehrheit der KI-Anwendungen fällt hier hinein – z.B. Spam-Filter oder Empfehlungssysteme. Freiwillige Verhaltenskodizes werden gefördert, es gibt aber keine Pflichten.
Was Hochrisiko-KI für IT-Teams konkret bedeutet
Wenn ein Unternehmen ein Hochrisiko-KI-System einsetzt, entstehen direkte Betriebspflichten. IT-Teams sind dabei zentrale Akteure, auch wenn sie die strategische Einführungsentscheidung nicht getroffen haben.
Technische Dokumentation
Für jedes Hochrisiko-System muss eine vollständige technische Dokumentation vorliegen: Welches Modell wird genutzt? Auf welchen Daten wurde es trainiert? Wie wird die Ausgabe interpretiert und eingesetzt? Diese Anforderung richtet sich an Hersteller und Deployer gleichermaßen. IT-Teams müssen sicherstellen, dass sie diese Informationen von ihren Anbietern erhalten und intern zugänglich halten.
Menschliche Aufsicht
Hochrisiko-Systeme dürfen nicht vollständig autonom entscheiden. Es muss immer eine Möglichkeit geben, menschlich einzugreifen, zu korrigieren oder das System zu stoppen. Das hat Auswirkungen auf Workflow-Design und Monitoring: Wo greift die KI automatisch ein? Welche Eskalationswege gibt es? Ist eine Override-Funktion vorhanden?
Logging und Monitoring
Der AI Act fordert automatisches Logging für Hochrisiko-Systeme. Logs müssen so aufgebaut sein, dass sie nachträgliche Überprüfungen ermöglichen – ähnlich wie Audit-Logs in sicherheitskritischen Systemen. Für IT-Teams bedeutet das: KI-Systeme brauchen eigene Monitoring-Setups, die über klassisches Infrastruktur-Monitoring hinausgehen.
KI im IT-Betrieb: Welche Systeme sind betroffen?
Viele IT-Teams fragen sich: Betrifft uns das wirklich? Die Antwort hängt stark vom konkreten Einsatzbereich ab. Einige typische Szenarien:
- KI-gestützte Anomalieerkennung im Monitoring: In der Regel kein Hochrisiko-System, da keine personenbezogenen Entscheidungen getroffen werden. Transparenzanforderungen können aber relevant sein.
- KI im Personalwesen (CV-Screening, Mitarbeiterbewertung): Eindeutig Hochrisiko – strenge Dokumentations- und Aufsichtspflichten.
- KI-basierte Zugriffskontrolle oder Sicherheitsbewertung: Je nach Kontext potenziell Hochrisiko. Hier ist juristischer Rat sinnvoll.
- Generative KI für interne Produktivität (Copiloten, Textgenerierung): Meist begrenztes oder minimales Risiko – Transparenz gegenüber Nutzern wichtig.
Praktische Schritte für IT-Teams 2026
1. KI-Inventar erstellen
Der erste Schritt ist ein vollständiges Bild aller eingesetzten KI-Systeme. Das klingt trivial, ist aber in großen Organisationen oft überraschend schwierig. Shadow AI – also KI-Tools, die Mitarbeiter ohne formale Genehmigung nutzen – macht dieses Inventar unvollständig. Eine Kombination aus technischen Kontrollen (z.B. DNS-Filtering, Netzwerk-Monitoring auf bekannte KI-APIs) und organisatorischen Prozessen ist nötig.
2. Risikoklassifizierung durchführen
Für jedes identifizierte System muss eine Klassifizierung erfolgen. Dabei helfen die Anhänge des AI Acts, die konkrete Anwendungsfälle für Hochrisiko-Systeme auflisten. Für unklare Fälle ist rechtliche Einschätzung empfehlenswert – die Konsequenzen einer Fehlklassifizierung können erheblich sein.
3. Monitoring und Logging ausbauen
IT-Teams sollten für alle eingesetzten KI-Systeme prüfen, ob ausreichende Logs erzeugt werden. Wichtig: Logs müssen nicht nur existieren, sondern strukturiert genug sein, um nachträgliche Überprüfungen zu ermöglichen. Timestamps, Entscheidungskontext, verwendete Modellversionen – all das kann im Ernstfall relevant sein.
4. Anbieterdokumentation einfordern
Deployer sind im AI Act ausdrücklich darauf angewiesen, dass ihre KI-Anbieter die entsprechende Dokumentation bereitstellen. Verträge und SLAs sollten entsprechende Klauseln enthalten. Wer heute neue KI-Dienste einkauft, sollte AI-Act-Konformität als Anforderung formulieren.
KI-Transparenz als technisches Prinzip
Jenseits der Regulierung hat KI-Transparenz einen eigenständigen technischen Wert. Systeme, deren Entscheidungen nachvollziehbar sind, lassen sich leichter debuggen, verbessern und im Betrieb sicher halten. Das Konzept der Explainable AI (XAI) hat hier in den vergangenen Jahren erhebliche Fortschritte gemacht.
Modelle liefern heute häufig nicht nur Ergebnisse, sondern auch Konfidenzwerte und Erklärungspfade. Tools wie SHAP (SHapley Additive exPlanations) oder LIME (Local Interpretable Model-agnostic Explanations) ermöglichen es, zu verstehen, welche Eingabefaktoren eine KI-Entscheidung beeinflusst haben. Für IT-Teams, die KI-Systeme betreiben, ist das Wissen um solche Werkzeuge zunehmend relevant.
Besonders bei Anomalieerkennungssystemen im IT-Monitoring ist Transparenz wichtig: Ein Alert, den niemand nachvollziehen kann, wird ignoriert. Ein Alert mit klarer Erklärung gibt On-Call-Teams konkrete Hinweise und führt schneller zur Problemlösung.
Sanktionen und Durchsetzung
Die Bußgelder des EU AI Acts sind erheblich: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen die Verbote des AI Acts. Für Hochrisiko-Verstöße drohen bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes. Die nationalen Aufsichtsbehörden bauen derzeit ihre Kapazitäten auf – der Vollzug wird 2026 konkreter.
IT-Teams tragen keine direkte rechtliche Haftung als Einzelpersonen, aber sie sind zentrale Enabler für Compliance. Wer Systeme betreibt, die nicht dokumentiert sind oder keine menschliche Aufsicht ermöglichen, schafft unternehmerisches Risiko.
Fazit: KI-Compliance ist IT-Betrieb
Der EU AI Act ist kein reines Rechtsproblem. Er stellt konkrete technische Anforderungen an IT-Systeme und deren Betrieb. IT-Teams, die heute beginnen, ein KI-Inventar aufzubauen, Logging-Anforderungen zu überprüfen und Monitoring-Konzepte für KI-Systeme zu entwickeln, verschaffen ihren Organisationen einen klaren Vorsprung.
Die gute Nachricht: Viele der Anforderungen sind keine Fremdkörper für erfahrene IT-Teams. Dokumentation, Logging, Aufsichtsprozesse und Anomalieerkennung sind bekannte Disziplinen – sie müssen nun gezielt auf KI-Systeme ausgeweitet werden. Wer diese Verbindung herstellt, macht aus einer regulatorischen Pflicht einen echten operativen Mehrwert.
Quellen: EU AI Act Verordnung (EU) 2024/1689, Europäische Kommission – KI-Regulierungsrahmen, Bundesministerium für Digitales und Verkehr – Leitfaden KI-Compliance 2026, NIST AI RMF 1.0