Phishing-Angriffe gehören seit Jahren zu den häufigsten Einstiegspunkten für Datenpannen und Ransomware-Infektionen. Was sich jedoch in den letzten Jahren drastisch verändert hat, ist die Qualität der Angriffe. Generative KI-Modelle schreiben heute fehlerfreie, stilistisch angepasste Phishing-E-Mails in jeder Sprache – inklusive der exakten Tonalität des imitierten Unternehmens. Gleichzeitig ermöglichen dieselben Modelle eine neue Generation von Erkennungsverfahren, die traditionelle Spam-Filter weit hinter sich lassen.
Warum klassische Filter an ihre Grenzen stoßen
Traditionelle E-Mail-Sicherheitslösungen arbeiten regelbasiert: Sie prüfen SPF/DKIM/DMARC-Einträge, analysieren bekannte Phishing-Domains und vergleichen E-Mail-Inhalte mit Signaturdatenbanken. Dieses Vorgehen war jahrelang effektiv, weil Phishing-E-Mails erkennbare Merkmale aufwiesen – schlechte Grammatik, verdächtige Absenderadressen, generische Formulierungen.
Heute ist das anders. Large Language Models (LLMs) wie GPT-5 oder ähnliche Modelle können:
- E-Mails im exakten Schreibstil eines bestimmten Absenders generieren
- Kontext aus öffentlich verfügbaren Informationen (LinkedIn, Unternehmenswebsites) einbeziehen
- Gefälschte Anmeldeseiten innerhalb von Sekunden erzeugen
- Sprachliche und kulturelle Nuancen je Zielgruppe anpassen
Signaturbasierte Systeme erkennen diese Angriffe nicht, weil es keine bekannte Signatur gibt – jede Phishing-Mail ist individuell generiert.
Wie LLMs zur Erkennung eingesetzt werden
Die Antwort der Sicherheitsforschung auf dieses Problem ist symmetrisch: Wenn LLMs Angriffe erzeugen können, können sie diese auch erkennen. Aktuelle Forschungsarbeiten – darunter Studien auf arXiv aus den Jahren 2024 bis 2026 – zeigen, dass LLM-basierte Erkennungssysteme in mehreren Dimensionen überlegene Ergebnisse liefern:
Semantische Analyse statt Mustererkennung
Statt auf bestimmte Schlüsselwörter zu achten, analysieren LLM-basierte Systeme den semantischen Kontext einer E-Mail. Sie bewerten: Ist die Dringlichkeit im Text gerechtfertigt? Stimmt der angegebene Kontext mit der Identität des Absenders überein? Fordert die E-Mail ungewöhnliche Handlungen, die der Absender typischerweise nicht stellen würde?
Zero-Shot- und Few-Shot-Erkennung
Ältere Ansätze erforderten umfangreiche Trainingsdaten mit gelabelten Phishing-Beispielen. LLMs können im Zero-Shot-Modus Phishing-E-Mails ohne vorherige Beispiele erkennen – allein auf Basis ihres vortrainierten Sprachverständnisses. Im Few-Shot-Modus werden wenige firmenspezifische Beispiele übergeben, um die Erkennungsleistung auf die eigene Kommunikationsumgebung zu kalibrieren.
Erklärbare Entscheidungen
Ein konkreter Vorteil gegenüber klassischen ML-Modellen ist die Erklärbarkeit. Ein LLM kann nicht nur klassifizieren, ob eine E-Mail Phishing ist, sondern auch begründen, warum – zum Beispiel: „Der Absender behauptet, von der IT-Abteilung zu sein, die angegebene Domäne stimmt jedoch nicht mit der Unternehmensdomäne überein, und die geforderte Passwortänderung innerhalb von 30 Minuten entspricht nicht dem üblichen IT-Prozess." Diese Begründungen helfen SOC-Analysten bei der Priorisierung und Validierung.
Vertrauenskalibrierung als kritischer Faktor
Aktuelle Forschung hat gezeigt, dass LLMs bei Phishing-Erkennungsaufgaben nicht immer kalibriert sind – das heißt, ein Modell kann mit hoher Konfidenz falsch liegen. Ein Ansatz zur Verbesserung ist das sogenannte Trustworthiness Calibration Framework, bei dem das Modell nicht nur eine Klassifikation, sondern auch eine Unsicherheitsschätzung ausgibt. E-Mails mit hoher Unsicherheit werden zur manuellen Überprüfung eskaliert, statt automatisch freigegeben oder blockiert zu werden.
Für IT-Teams bedeutet das: LLM-basierte Erkennung funktioniert am besten als zweite Ebene im E-Mail-Sicherheitssystem, nicht als alleiniger Filter.
Integration in SOC-Workflows
Der praktische Einsatz von LLMs in Security Operation Centern (SOCs) folgt typischerweise einem mehrstufigen Modell:
- Vorfilterung: Traditionelle Filter (SPF, DKIM, Signaturvergleich) entfernen bekannte Bedrohungen.
- LLM-Analyse: Verbleibende E-Mails werden durch ein LLM analysiert, das eine Risikoklassifikation mit Begründung erzeugt.
- Eskalation: E-Mails oberhalb eines Schwellenwerts oder mit hoher Unsicherheit werden an SOC-Analysten weitergeleitet.
- Feedback-Schleife: Falsch klassifizierte E-Mails werden als Beispiele zurückgeführt, um die Few-Shot-Kalibrierung zu verbessern.
Einige Sicherheitsanbieter haben begonnen, LLM-basierte Erkennung in bestehende SIEM-Systeme zu integrieren. Dabei kommen in der Regel APIs zu Modellen wie GPT-4o oder spezialisierten Open-Source-Modellen zum Einsatz.
Die Dual-Use-Problematik
Es wäre naiv, die Kehrseite dieser Entwicklung zu ignorieren. Dieselben Modelle, die Phishing erkennen, werden von Angreifern genutzt, um noch überzeugendere Phishing-E-Mails zu erstellen. Dieser Wettlauf ist strukturell vergleichbar mit dem klassischen Katz-und-Maus-Spiel zwischen Angriff und Verteidigung in der IT-Sicherheit.
„In 2026, large language models write phishing email copy, clone a company's exact tone, and generate fake sign-in pages in under a minute." – Tech Insider, 2026
Für IT-Teams folgt daraus: Technische Schutzmaßnahmen allein sind nicht ausreichend. Regelmäßige Awareness-Schulungen, klare Meldeprozesse für verdächtige E-Mails und organisatorische Maßnahmen (Vier-Augen-Prinzip bei sensiblen Anfragen) bleiben unverzichtbar.
Praktische Empfehlungen für IT-Teams
- Schicht-Verteidigung beibehalten: LLM-Erkennung ergänzt bestehende Maßnahmen, ersetzt sie aber nicht.
- Unsicherheitseskalation einbauen: Nicht jede KI-Entscheidung sollte automatisch vollstreckt werden – besonders bei verdächtigen, aber nicht eindeutigen E-Mails.
- Modell regelmäßig kalibrieren: Few-Shot-Beispiele sollten auf die eigene Unternehmenskommunikation angepasst werden.
- Monitoring der Erkennungsrate: Wie viele Phishing-E-Mails wurden erkannt, wie viele Fehlalarme gab es? Diese Kennzahlen sollten regelmäßig ausgewertet werden.
- Mitarbeiter einbeziehen: Die beste KI-Erkennung nützt wenig, wenn Mitarbeiter auf Basis mündlicher Anweisungen handeln, die per Anruf oder gefälschtem Chat eingehen.
Fazit
LLM-basierte Phishing-Erkennung ist keine Zukunftstechnologie mehr – sie wird aktiv eingesetzt und zeigt messbare Vorteile gegenüber klassischen Ansätzen. IT-Sicherheitsteams, die E-Mail-Sicherheit ernstnehmen, sollten diese Entwicklung beobachten und gezielt evaluieren, welche Lösungen sich für ihre Umgebung eignen. Der Schlüssel liegt nicht in der blinden Adoption, sondern in der durchdachten Integration in bestehende Sicherheitsarchitekturen.
Bildquelle: Sora Shimazaki via Pexels
Quellen
- arXiv – Phishing Email Detection Using LLMs and Explainable AI (2026): https://journal.unesa.ac.id/index.php/vubeta/article/view/53736
- arXiv – ChatSpamDetector: Leveraging LLMs for Phishing Detection: https://arxiv.org/pdf/2402.18093
- arXiv – Trustworthiness Calibration Framework for Phishing Email Detection: https://arxiv.org/pdf/2511.04728
- arXiv – LLMs for Security Operations Centers: https://arxiv.org/pdf/2509.10858
- Tech Insider – How to Detect Phishing Emails 2026: https://tech-insider.org/how-to-detect-phishing-emails-2026/
