Die KI-Brille — Modellgüte ist keine Compliance-Kennzahl
Warum regulatorische Konformität und statistische Modellperformance zwei verschiedene Welten sind — und warum die Sequenz entscheidet.
Die Modelllandschaft deutscher Banken
Deutsche Banken betreiben zwischen zwei und sieben KI-Modelle innerhalb ihrer AML-Systeme. Diese Modelle kommen in drei operativen Bereichen zum Einsatz: im Name-Screening gegen Sanktionslisten, im Transaction Monitoring zur Erkennung verdächtiger Zahlungsmuster und im Kunden-Onboarding zur Risikobewertung neuer Geschäftsbeziehungen.
Die Realität sieht dabei wenig heroisch aus: Die meisten dieser Modelle wurden mit dem Vendor-Produkt geliefert, kurz parametrisiert und dann in Produktion genommen. Eine systematische Validierung der Modellinterna fand in der traditionellen BaFin-Aufsicht nie statt.
Das regulatorische Konvergenzproblem
Vier regulatorische Stränge konvergieren derzeit auf AML-Modelle — mit unterschiedlichen Zeitlinien, unterschiedlichen Anforderungslogiken und teilweise widersprüchlichen Implikationen:
Model Governance Pressure Diagram
Konvergierende regulatorische Anforderungen an AML-Modelle
Die dargestellten Druckwerte sind eine redaktionelle Einschätzung der Watchdog-Redaktion, keine quantitative Messung. Sie illustrieren die Richtung des Governance-Drucks, nicht seine präzise Höhe.
EU AI Act (Reg. 2024/1689)
Die Hochrisiko-Klassifizierung für AML-Transaction-Monitoring-Modelle ist unklar. AML-TM ist in Annex III nicht explizit gelistet. Der von der Europäischen Kommission am 19. November 2025 vorgestellte Digital Omnibus on AI schlägt vor, die Anwendung bestimmter Hochrisiko-Pflichten zu verschieben — für Annex-III-Systeme in Richtung Dezember 2027, für produktintegrierte Hochrisiko-Systeme in Richtung August 2028. Bis zur formellen Annahme bleibt dies ein regulatorisches Szenario, nicht geltendes Recht. Entscheidend: Der Governance-Druck steigt unabhängig von der finalen Klassifizierung — und ein Aufschub nützt nur den Häusern, die ihn tatsächlich nutzen.
MaRisk AT 4.3.5 — Datenqualitätsmanagement
Die MaRisk-Anforderungen an Datenqualität gelten unmittelbar. AT 4.3.5 verlangt ein institutsweites Datenqualitätsmanagement. Für AML-Modelle bedeutet das: Die Bank muss nachweisen, dass die Eingabedaten ihrer Modelle vollständig, korrekt und aktuell sind — eine Anforderung, die bei Vendor-Modellen mit verschlossener Feature-Pipeline besonders problematisch wird.
DORA (seit 17. Januar 2025 anwendbar)
DORA adressiert AML-Modelle nicht als „KI-Modelle“, sondern als IKT-gestützte Komponenten kritischer Geschäftsprozesse. Soweit AML-Modelle in geschäftskritische Screening-, Monitoring- oder Onboarding-Prozesse eingebettet sind, fallen ihre Verfügbarkeit, Integrität, Nachvollziehbarkeit und Drittparteienabhängigkeiten in den DORA-Risikohorizont — mit entsprechenden Dokumentations-, Test- und Resilienz-Nachweispflichten.
ISO 42001 — AI Management System
Obwohl kein Gesetz, wird ISO 42001 zunehmend zum De-facto-Standard für AI-Governance in regulierten Branchen. Prüfungsgesellschaften orientieren sich an diesem Rahmenwerk — und damit steigt der faktische Compliance-Druck auch ohne rechtliche Verbindlichkeit.
Das Vendor-Problem
Die in deutschen Banken üblichen AML-Plattformen — etwa GFT Smaragd, SAS, NICE Actimize oder Oracle OFSAA — behandeln Modellinterna typischerweise als Geschäftsgeheimnis. Bei proprietären Vendor-Systemen hängt die tatsächliche Modelltransparenz jedoch stark von Produktgeneration, Betriebsmodell, Vertragswerk und konkreter Implementierung ab. Für Institute ist deshalb nicht der Vendor-Name entscheidend, sondern die Frage, ob
- Modellversion und Versionierungslogik,
- Feature-Set und Eingangsvariablen,
- Parametrisierung und Schwellenwertlogik,
- Trainings- bzw. Kalibrierungsverfahren,
- Audit-Rechte und Datenzugriff für interne wie externe Prüfer
vertraglich und technisch nachweisbar sind — und ob die Bank diese Nachweise im Einzelfall produzieren kann. MaRisk AT 9 stellt klar: Bei Auslagerungen trägt die Bank die Beweislast — nicht der Vendor. Wer das Spannungsfeld zwischen Black-Box und Beweislast nicht vertraglich auflöst, verlagert es auf die nächste Prüfung.
Drei Risikodimensionen
Black-Box-Risiko
Modellinterna sind nicht einsehbar. Entscheidungslogik ist nicht nachvollziehbar. Erklärbarkeitsanforderungen (AI Act Art. 13) können nicht erfüllt werden.
Drift-Risiko
Modellperformance degradiert über Zeit ohne systematisches Monitoring. Kriminelle Muster ändern sich schneller als Modell-Updates ausgerollt werden.
Audit-Trail-Risiko
Entscheidungspfade sind nicht rekonstruierbar. Bei SAR-Nachfragen kann die Bank nicht belegen, warum ein Fall eskaliert oder nicht eskaliert wurde.
Die Sequenz, die die KI-Brille übersieht
Die Software-Observability-Lektion lehrt eine klare Sequenz, die für AML-Systeme direkt übertragbar ist:
Die richtige Reihenfolge
Wer Schritt 3 vor Schritt 1 setzt — und das tun die meisten KI-Initiativen im AML-Bereich — optimiert blind. Die KI-Brille allein reicht nicht, weil sie diese Sequenzabhängigkeit nicht abbildet.
Was als Nächstes folgt
Die drei Brillen sind damit benannt. Was zwischen ihnen liegt, in den Räumen, in denen keine der drei Disziplinen allein zuständig ist und in denen typische Compliance-Pannen entstehen, ist Gegenstand des nächsten Teils. Diese Räume haben einen Namen, der in den Aufsichtsfeststellungen der vergangenen Jahre wiederkehrt: das Niemandsland.
