Was ist der EU AI Act?
Der EU AI Act (Verordnung EU 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz. Die Europäische Union hat es im Juli 2024 verabschiedet; die Vorschriften greifen gestaffelt bis 2027 – mit dem zentralen Stichtag für hochriskante Systeme im August 2026. Für IT-Teams in Europa und für alle Anbieter, die KI-Produkte im europäischen Markt anbieten, entstehen damit konkrete technische und organisatorische Pflichten, die weit über die Rechtsabteilung hinausgehen.
Dieser Artikel gibt IT-Teams einen sachlichen Überblick über die Risikoklassen, die relevanten Pflichten und die konkreten Schritte, die jetzt angegangen werden müssen.
Das Risikoklassen-Modell im Überblick
Der AI Act teilt KI-Systeme in vier Risikoklassen ein, die jeweils unterschiedliche Anforderungen nach sich ziehen:
Unannehmbares Risiko – verboten
Systeme mit nicht akzeptablem Risiko sind vollständig verboten. Dazu zählen KI-gestützte Verhaltensmanipulation durch unterschwellige Techniken, biometrische Echtzeit-Identifikation in öffentlichen Räumen (mit sehr engen Ausnahmen für Strafverfolgung), soziale Bewertungssysteme staatlicher Behörden und bestimmte Formen prädiktiver Polizeiarbeit. Diese Verbote sind seit Februar 2025 in Kraft.
Hohes Risiko – umfangreiche Pflichten
Hochrisiko-KI betrifft Bereiche mit hohem Schadenspotenzial: Personalauswahl und Leistungsüberwachung, Kreditwürdigkeitsprüfung, kritische Infrastruktur, Strafverfolgung, Bildungseinrichtungen und Grenzschutz. Für diese Systeme schreibt das Gesetz unter anderem vor: ein dokumentiertes Risikomanagementsystem, Daten-Governance-Prozesse, technische Dokumentation, menschliche Aufsichtsmechanismen und eine Konformitätsbewertung vor der Inbetriebnahme. Ab August 2026 müssen Anbieter solcher Systeme sie in einer EU-weiten Datenbank registrieren.
Begrenztes Risiko – Transparenzpflichten
KI-Systeme, die direkt mit Menschen interagieren – wie Chatbots oder Empfehlungssysteme –, müssen kennzeichnen, dass der Nutzer mit einer KI kommuniziert. Deepfake-Inhalte müssen als maschinell erzeugt markiert werden. Diese Pflichten treffen heute bereits viele Unternehmen, die KI-Assistenten, automatisierte Support-Systeme oder generative Inhalte einsetzen.
Minimales Risiko – kaum reguliert
Spam-Filter, einfache Videobearbeitungstools oder Produktempfehlungen fallen in die Kategorie minimales Risiko. Hier gelten nur allgemeine Anforderungen, keine spezifischen Compliance-Pflichten.
Was IT-Teams jetzt konkret tun müssen
Schritt 1: KI-Inventar erstellen
Ohne eine vollständige Bestandsaufnahme aller eingesetzten KI-Systeme lässt sich keine Compliance erreichen. Das Inventar muss kommerzielle SaaS-Produkte ebenso erfassen wie intern entwickelte Modelle, KI-Funktionen in HR-Systemen, automatisierte Scoring-Systeme, Monitoring-Lösungen mit KI-Komponenten und jeden KI-basierten Entscheidungsunterstützungsdienst. Viele Unternehmen unterschätzen, wie viele ihrer eingekauften Softwarelösungen KI-Funktionen enthalten.
Schritt 2: Risikoklassifizierung vornehmen
Für jedes identifizierte System muss bewertet werden, in welche Risikoklasse es fällt. Die Klassifizierung hängt stark vom Verwendungszweck und Kontext ab: Ein KI-System zur Textgenerierung in einem internen Wiki ist anders zu bewerten als dasselbe System im Einsatz für die Personalauswahl. IT-Teams sollten diese Bewertung gemeinsam mit rechtlicher Beratung und Fachabteilungen durchführen.
Schritt 3: Technische Dokumentation für Hochrisiko-Systeme
Wer Hochrisiko-KI entwickelt oder betreibt, braucht vollständige technische Unterlagen: Systembeschreibung, Architektur, verwendete Daten und deren Herkunft, Validierungsmethoden, bekannte Einschränkungen und Maßnahmen zur Risikominimierung. Diese Dokumentation muss auf dem aktuellen Stand gehalten werden und für Aufsichtsbehörden zugänglich sein.
Schritt 4: Menschliche Aufsichtsmechanismen einrichten
Das Gesetz verlangt, dass Menschen bei hochriskanten Entscheidungen eingreifen können. Das klingt einfach, erfordert aber technisch und organisatorisch durchdachte Lösungen: Wer hat wann Zugriff, welche Entscheidungen können rückgängig gemacht werden, welche Logs werden geführt, wer wird informiert wenn ein Schwellenwert überschritten wird? Diese Anforderungen müssen in bestehende IT-Systeme integriert werden.
Schritt 5: Anbieter und Lieferkette prüfen
Als Betreiber (sogenannte Deployer) tragen Unternehmen eigene Pflichten – auch wenn der KI-Anbieter seinerseits compliant ist. Sie müssen sicherstellen, dass das System nur für vorgesehene Zwecke eingesetzt wird, Nutzende entsprechend informiert werden und interne Überwachungsroutinen bestehen. Bestehende Verträge mit KI-Anbietern sollten auf AI-Act-konforme Klauseln geprüft werden.
Allgemeinzweck-KI: Besondere Anforderungen für Foundation Models
Eine eigene Kategorie bilden sogenannte Allgemeinzweck-KI-Modelle (General Purpose AI, GPAI) – also Large Language Models und ähnliche Systeme, die für viele verschiedene Aufgaben eingesetzt werden können. Anbieter solcher Modelle – Unternehmen wie Anthropic, OpenAI oder Google DeepMind – unterliegen eigenen Pflichten: umfangreiche technische Dokumentation, Einhaltung urheberrechtlicher Anforderungen beim Training, Cybersicherheitsstandards und Transparenz gegenüber Unternehmen, die ihre Modelle nutzen.
Für Modelle, die als besonders leistungsfähig eingestuft werden (gemessen an der verwendeten Rechenleistung), kommen weitere Anforderungen hinzu: Modellbewertungen, Adversarial-Testing und Meldepflichten bei schwerwiegenden Vorfällen. Unternehmen, die Foundation Models in ihre Produkte integrieren, sollten prüfen, ob ihre Anbieter diese Anforderungen erfüllen und entsprechende Nachweise bereitstellen können.
Zeitplan und Sanktionen
Der Umsetzungszeitplan des AI Acts ist klar strukturiert:
- Februar 2025: Verbote für inakzeptable Risiken in Kraft
- August 2025: Pflichten für GPAI-Anbieter verbindlich
- August 2026: Vollständige Anwendung für Hochrisiko-Systeme aus Anhang I (Sicherheitskomponenten kritischer Infrastruktur)
- August 2027: Vollständige Anwendung aller restlichen Hochrisiko-KI-Kategorien
Bei Verstößen drohen erhebliche Bußgelder: bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes für verbotene Praktiken, bis zu 15 Millionen Euro oder drei Prozent für andere Verstöße. Auch das Zurückhalten von Informationen gegenüber Aufsichtsbehörden kann mit bis zu 7,5 Millionen Euro sanktioniert werden.
Warum IT-Teams jetzt handeln müssen
Der EU AI Act ist kein rein rechtliches Thema. Er stellt konkrete technische Anforderungen an Systemarchitekturen, Datenflüsse, Logging-Infrastruktur und Überwachungsprozesse. IT-Teams, die jetzt mit einer strukturierten Bestandsaufnahme beginnen, schaffen die Grundlage für eine belastbare Compliance-Strategie. Wer wartet, riskiert nicht nur Bußgelder, sondern auch den operativen Aufwand, in laufende Produktivsysteme nachträglich einzugreifen – eine der teuersten Formen technischer Schuld.
Die gute Nachricht: Unternehmen, die bereits in saubere Dokumentation, Audit-Logs, Monitoring und menschliche Aufsichtsprozesse investiert haben, sind strukturell im Vorteil. Viele AI-Act-Anforderungen decken sich mit Best Practices guter IT-Governance – sie müssen nur konsequent auf KI-Systeme angewendet werden.
Quellen: Europäisches Parlament, Verordnung (EU) 2024/1689 (EU AI Act), Juli 2024; Europäische Kommission, AI Act Implementation Roadmap; Bitkom, Praxisleitfaden EU AI Act 2025/2026; Future of Life Institute, EU AI Act Summary.
Bildquelle: Unsplash (Glenn Carstens-Peters)
