Know Your Agent · Referenzstück 5.4 · Querschnitt
Die Haftungslücke wurde nicht geschlossen, sondern verlegt
Am 2. August 2026 treten die Transparenzpflichten des EU-Regelwerks für künstliche Intelligenz in Kraft. Die Pflichten für Hochrisikosysteme, die genau die Branchen betreffen, in denen Agenten längst arbeiten, kommen erst sechzehn Monate später. Der eigens geplante Haftungsrahmen kommt gar nicht. Was bleibt, ist ein Regime, das für fehlerhafte Produkte gebaut wurde – und für handelnde Agenten nur teilweise passt.
Dieses Referenzstück beantwortet die Frage, die dem Dossier seinen Namen gibt. Wer haftet, wenn ein Agent handelt? Die Antwort ist 2026 unübersichtlicher als zwei Jahre zuvor – nicht weil nichts geregelt wurde, sondern weil sich die Regelungsstränge auseinanderbewegt haben. Der Begriff Agent umfasst dabei ausdrücklich auch die acht Entscheidungslogiken ohne zwingendes Sprachmodell.
Drei Entwicklungen haben das bewirkt. Der spezialisierte Haftungsrahmen für künstliche Intelligenz wurde zurückgezogen. Das allgemeine Produkthaftungsrecht wurde auf Software erweitert. Und die Pflichten für Hochrisikosysteme wurden verschoben. Zusammen ergibt das keine Lücke im Sinne eines rechtsfreien Raums, sondern etwas Unangenehmeres: eine Zuständigkeitsverschiebung, deren Ergebnis erst im Streitfall sichtbar wird.
Befund 01Was kommt und was sich verschoben hat
Das Regelwerk tritt in Stufen in Kraft. Die Verbote bestimmter Praktiken und die Pflichten für Modelle mit allgemeinem Verwendungszweck gelten bereits. Die nächste Stufe folgt in wenigen Tagen: Ab dem 2. August 2026 greifen die Transparenzpflichten des Artikels 50. Sie sind allerdings deutlich enger und stärker differenziert, als es die verbreitete Kurzfassung „ab August muss KI gekennzeichnet werden“ nahelegt – die Aufschlüsselung nach Absätzen weiter unten in diesem Text ist für Betreiber der eigentlich relevante Teil.
Die Stufe, auf die es in diesem Dossier ankäme, wurde dagegen verschoben. Für den sogenannten Digital Omnibus gab der Rat am 29. Juni 2026 grünes Licht. Der feste Zeitplan verlegt die Pflichten für eigenständige Hochrisikosysteme nach Anhang III auf den 2. Dezember 2027; für künstliche Intelligenz, die in bereits regulierte Produkte eingebettet ist, auf den 2. August 2028. Betroffen von dieser Verschiebung sind unter anderem Beschäftigung und Personalverwaltung, Kreditwürdigkeitsprüfung, Teile der Lebens- und Krankenversicherungsbewertung, Bildung und der Zugang zu wesentlichen Diensten.
| Datum | Was greift | Bedeutung für Agentenbetrieb |
|---|---|---|
| 2. August 2025 | Pflichten für Modelle mit allgemeinem Verwendungszweck | Anbieterpflichten zu Dokumentation, Urheberrecht und Trainingsdatenzusammenfassung; Ausnahmen für frei lizenzierte Modelle nur eingeschränkt. |
| 2. August 2026 | Transparenzpflichten nach Artikel 50 | Getrennt nach Anbieter- und Betreiberpflichten, siehe die Aufschlüsselung unten. Keine pauschale Kennzeichnungspflicht für alles maschinell Erzeugte. |
| 2. Dezember 2026 | Übergangsfrist für die maschinenlesbare Markierung nach Artikel 50 Absatz 2 | Gilt nur für generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, und nur für die Markierungspflicht. Inhalte, die vor dem 2. August 2026 erzeugt wurden, sind nicht rückwirkend zu kennzeichnen. |
| 2. August 2027 | Frist für Modelle, die vor August 2025 auf dem Markt waren | Bestandsschutz endet; Altmodelle im Einsatz brauchen dieselbe Dokumentation. |
| 2. Dezember 2027 | Hochrisikopflichten für eigenständige Systeme nach Anhang III | Verschoben von August 2026. Betrifft Kreditwürdigkeit, Personalauswahl, Teile der Versicherung. |
| 2. August 2028 | Hochrisikopflichten für eingebettete Systeme nach Anhang I | Betrifft KI in bereits produktregulierten Kontexten. |
Der Befund für dieses Dossier. Die Verschiebung trifft ausgerechnet die Branchen, die im Cluster „Regulierte Kerndisziplinen“ und im Cluster „Wirtschaft & Betrieb“ die dichteste Agentendurchdringung aufweisen. Personalauswahl und Kreditwürdigkeitsprüfung laufen bereits agentisch – die zugehörigen Pflichten greifen ab Ende 2027. Zwischen Einsatz und Aufsichtsrahmen liegen damit mindestens anderthalb Jahre Betrieb ohne die vorgesehene Prüfarchitektur.
Wichtig für die Einordnung: Die Verschiebung ist kein Freibrief. Die Systeme bleiben hochrisikorelevant, die datenschutzrechtlichen Anforderungen gelten unverändert, sektorale Aufsicht bleibt zuständig, und die Transparenzpflichten kommen jetzt. Was sich verschiebt, ist die spezifische Nachweisarchitektur – Konformitätsbewertung, technische Dokumentation, Risikomanagementsystem.
Befund 02Der Haftungsrahmen, der nicht kam
Parallel zum Regelwerk war ein zweiter Rechtsakt geplant, der genau die Frage dieses Dossiers adressiert hätte: eine Richtlinie zur außervertraglichen Haftung für künstliche Intelligenz. Sie sollte Beweiserleichterungen für Geschädigte schaffen, weil sich bei lernenden Systemen kaum nachweisen lässt, welcher Fehler wo entstanden ist. Im Februar 2025 wurde der Vorschlag zurückgezogen, nachdem sich die Gesetzgebungsorgane nicht einigen konnten.
Geblieben ist ein zweigeteiltes Bild: ein Regelwerk, das Anforderungen an das Inverkehrbringen und den Betrieb stellt, aber keine Anspruchsgrundlage für Geschädigte schafft – und ein Produkthaftungsrecht, das genau das tut, aber aus einer anderen Welt stammt.
Diese zweite Säule ist 2026 die praktisch wichtigere. Die überarbeitete Produkthaftungsrichtlinie behandelt Software und KI-Systeme ausdrücklich als Produkte. Anbieter von KI-Systemen werden dabei wie Hersteller behandelt. Es gilt verschuldensunabhängige Haftung: Wer Schaden erleidet, muss keine Fahrlässigkeit nachweisen, sondern drei Dinge – dass das Produkt fehlerhaft war, dass ein Schaden entstand und dass der Fehler den Schaden verursachte. Für Fälle, in denen dieser Nachweis technisch übermäßig schwierig ist, sind Offenlegungspflichten und Vermutungsregeln vorgesehen. Die Mitgliedstaaten müssen bis zum 9. Dezember 2026 umsetzen.
Der spezialisierte Haftungsrahmen für künstliche Intelligenz wurde beerdigt. Was ihn ersetzt, ist Produkthaftung – und die kennt den handelnden Agenten nicht, sondern nur das fehlerhafte Produkt.
Befund 03Warum Produkthaftung den Finanzagenten nur halb erreicht
Hier liegt die für Finanzdienstleister entscheidende Einschränkung. Produkthaftung erfasst bestimmte Schadensarten: Tod und Körperverletzung, Beschädigung von Sachen, Zerstörung oder Beschädigung von Daten, die nicht beruflich genutzt werden. Reiner Vermögensschaden – der typische Schaden, wenn ein Agent eine falsche Zahlung auslöst, eine Position falsch schließt oder ein Konto sperrt – gehört nicht dazu.
Damit fällt genau der Fall, der dem Auftaktstück dieses Dossiers seinen Titel gab, weitgehend aus der neuen strengen Haftung heraus und zurück in vertragliche Anspruchsgrundlagen, allgemeines Deliktsrecht und sektorales Aufsichtsrecht. Für ein Kreditinstitut heißt das: Die Frage, wer für einen fehlgeleiteten Agenten einsteht, entscheidet sich nicht am neuen Produkthaftungsrecht, sondern an Verträgen, Auslagerungsvereinbarungen und Zahlungsdiensterecht – also an Dokumenten, die in vielen Häusern für diesen Fall nicht geschrieben wurden.
Was das neue Produkthaftungsrecht abdeckt
- Personenschäden, einschließlich anerkannter psychischer Beeinträchtigungen
- Sachschäden
- Zerstörung oder Beschädigung privat genutzter Daten
- Software und KI-Systeme gelten als Produkt; Anbieter gelten als Hersteller
Was dort nicht landet
- reiner Vermögensschaden aus einer Fehlentscheidung
- fehlerhafte Kontosperrung oder Freigabe
- unterlassene oder falsche Verdachtsmeldung
- Schäden aus Bewertungs- und Scoring-Fehlern
Das ist die eigentliche Verlagerung. Die öffentliche Debatte hat sich an der Frage abgearbeitet, ob KI-Schäden künftig streng gehaftet werden. Für physische Produkte lautet die Antwort ja. Für den handelnden Agenten im Finanzprozess lautet sie: unverändert, also vertraglich – und vertraglich heißt in der Praxis, dass die Zuordnung derjenige gewinnt, der die bessere Dokumentation hat.
Befund 04Know Your Agent: die Übertragung eines bewährten Prinzips
An dieser Stelle wird ein Denkmuster aus der Geldwäschebekämpfung anschlussfähig. Die Finanzbranche hat ein erprobtes Verfahren für den Fall, dass eine handelnde Einheit nicht mit der verantwortlichen Person identisch ist. Es heißt Ermittlung des wirtschaftlich Berechtigten und verlangt, hinter jeder Struktur die natürliche Person zu benennen, die kontrolliert und profitiert.
Ein autonom handelnder Agent ist strukturell derselbe Fall: eine handelnde Einheit ohne Rechtspersönlichkeit, hinter der jemand steht. Die Übertragung ergibt vier Angaben, die ein Haus über jeden produktiven Agenten führen können muss – und die in dieser Enzyklopädie pro Branche abgefragt werden.
Der Datensatz hinter jedem handelnden Agenten
- Wirtschaftlich Berechtigter. In wessen Auftrag und zu wessen Vorteil handelt dieser Agent? Bei Einkaufs- und Zahlungsagenten ist das die Kernfrage der Legitimation.
- Kontrollinhaber. Wer hat den Agenten konfiguriert, wer darf ihn ändern, wer kann ihn anhalten – benannt als Rolle, nicht als Team.
- Handlungsrahmen. Welche Werkzeuge, welche Betragsgrenzen, welche Datenklassen, welche Abbruchbedingungen. Ohne diese Grenzen ist jede Haftungszuweisung nachträgliche Konstruktion.
- Nachweiskette. Welches Modell in welcher Version hat auf Basis welcher Belege entschieden – rekonstruierbar für den einzelnen Vorgang, nicht als Tagesstatistik.
Der vierte Punkt verbindet dieses Referenzstück mit den drei vorangegangenen. Ohne festgeschriebene Modellversion ist nicht belegbar, welches System entschieden hat. Ohne fachliches Entscheidungsprotokoll ist nicht belegbar, worauf es sich gestützt hat. Ohne Routing-Protokoll ist nicht belegbar, welche Daten es überhaupt gesehen hat. Haftungszuordnung ist keine juristische Frage mit technischem Anhang. Sie ist eine Dokumentationsfrage mit juristischer Folge.
Artikel 50 im Einzelnen – wer schuldet was
Die verbreitete Verkürzung lautet, ab dem 2. August 2026 müsse alles gekennzeichnet werden, was eine Maschine erzeugt hat. Das ist falsch, und die Ungenauigkeit ist teuer, weil sie sowohl zu Übererfüllung als auch zu übersehenen Pflichten führt. Artikel 50 verteilt vier verschiedene Pflichten auf zwei verschiedene Rollen.
| Absatz | Wen trifft es | Pflicht und Ausnahmen |
|---|---|---|
| 50 Abs. 1 | Anbieter | Systeme, die unmittelbar mit Menschen interagieren, sind so zu gestalten, dass die Person erkennt, mit einem KI-System zu sprechen. Entfällt, wenn das für eine verständige Person offensichtlich ist. |
| 50 Abs. 2 | Anbieter | Ausgaben generativer Systeme sind maschinenlesbar als künstlich erzeugt oder verändert zu markieren. Ausgenommen sind unterstützende Standardbearbeitung wie Rechtschreibkorrektur ohne inhaltliche Änderung, kurze Zeichen- und Zahlenfolgen, Quellcode sowie Maschine-zu-Maschine-Ausgaben in geschlossenen Kreisläufen. |
| 50 Abs. 3 | Betreiber | Beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung sind die betroffenen Personen zu informieren. |
| 50 Abs. 4 | Betreiber | Deepfakes sind offenzulegen. Für maschinell erzeugte oder veränderte Texte zu Angelegenheiten von öffentlichem Interesse gilt eine Offenlegungspflicht – aber nicht, wenn der Inhalt einer inhaltlichen menschlichen Prüfung unterlag und jemand die redaktionelle Verantwortung trägt. |
Was daraus für ein Finanzinstitut folgt. Die maschinenlesbare Markierung nach Absatz 2 schuldet der Anbieter des generativen Systems, nicht die Bank, die es einsetzt. Ein von einem Agenten entworfenes und anschließend geprüftes Kundenschreiben fällt nicht unter Absatz 4, weil es weder ein Deepfake noch ein Text zu einer Angelegenheit von öffentlichem Interesse ohne menschliche Prüfung ist.
Was ein Haus mit Agenten im Kundenkontakt tatsächlich trifft, ist in erster Linie Absatz 1: Der Kunde muss erkennen können, dass er mit einem System spricht. Das ist eine überschaubare Anforderung – und zugleich der erste Punkt, an dem eine Aufsicht ohne technische Tiefenprüfung feststellen kann, ob ein Haus seine Agenten überhaupt kennt.
Die Kommission hat zu Artikel 50 eigene Leitlinien und einen Fragen-und-Antworten-Katalog veröffentlicht, unter anderem zur Transparenz maschinell erzeugter Inhalte. Für die Auslegung im Einzelfall – insbesondere zur Frage, wann ein Text eine Angelegenheit von öffentlichem Interesse betrifft – ist das die maßgebliche Grundlage, nicht die Zusammenfassung in diesem Text.
Watchdog-WinkelDie Schere zwischen Einsatz und Aufsicht
Der zusammenfassende Befund dieses Referenzstücks ist unbequem, aber gut belegt: 2026 haben sich zwei Kurven getrennt. Die Einsatzkurve steigt – Agenten übernehmen in Kreditprüfung, Personalauswahl, Schadenbearbeitung und Kundenkommunikation zunehmend Aufgaben mit Außenwirkung. Die Aufsichtskurve wurde abgeflacht: Hochrisikopflichten um sechzehn Monate verschoben, spezialisierte Haftungsregeln zurückgezogen, verbleibende strenge Haftung auf Schadensarten begrenzt, die im Finanzbereich selten sind.
Für die Geldwäsche- und Betrugsbekämpfung folgt daraus keine Entwarnung, sondern eine Verlagerung der Zuständigkeit ins eigene Haus. Was die Verordnung ab Ende 2027 verlangen wird, muss ein Institut ab heute selbst organisieren, wenn es im Zweifelsfall belegen können will, wer entschieden hat. Die Institute, die diese Nachweisarchitektur jetzt bauen, tun das nicht aus vorauseilendem Gehorsam. Sie tun es, weil ihnen sonst im Streitfall die Beweismittel fehlen. Ob ein Modell extern bezogen oder lokal und unter eigener Betriebsverantwortung eingesetzt wird, verändert dabei die Beteiligten und Nachweise – nicht die Pflicht zur eindeutigen Zuordnung.
Damit schließt sich der Bogen zum Auftaktstück. Die Haftungsfrage bei handelnden Agenten ist keine Frage, die die Gesetzgebung 2026 beantwortet hat. Sie ist eine Frage, die jedes Haus für sich beantworten muss – und die Enzyklopädie zeigt Branche für Branche, wie unterschiedlich weit die Antworten sind. Die technischen Beweismittel dafür entstehen in der Orchestrierungsschicht.
Quellen und Beleglage
- Verordnung (EU) 2024/1689 (KI-Verordnung) – Stufenplan der Anwendbarkeit, Artikel 50 zu Transparenzpflichten, Artikel 53 und 54 zu Modellen mit allgemeinem Verwendungszweck.
- Europäische Kommission – Fragen und Antworten zu den Transparenzpflichten nach Artikel 50 sowie Leitlinien zur Transparenz maschinell erzeugter Inhalte: Aufteilung der Pflichten auf Anbieter und Betreiber, Ausnahmen, Anwendungsbeginn 2. August 2026 und die auf Artikel 50 Absatz 2 begrenzte Übergangsfrist bis 2. Dezember 2026 für vorher in Verkehr gebrachte Systeme; keine rückwirkende Kennzeichnung älterer Inhalte.
- EU Artificial Intelligence Act – Praxisleitfaden zu Artikel 50 – Aufschlüsselung der Absätze 1 bis 4 nach Rolle und Ausnahmen.
- Rat der Europäischen Union – Zeitleiste zur KI-Verordnung – amtliche Übersicht der Anwendungstermine einschließlich der 2026 beschlossenen Verschiebungen.
- Rat der Europäischen Union, 29. Juni 2026 – endgültige Zustimmung zur Vereinfachung der KI-Regeln: fester Zeitplan mit dem 2. Dezember 2027 für eigenständige Hochrisikosysteme und dem 2. August 2028 für in Produkte eingebettete Hochrisikosysteme.
- Europäische Kommission – Rücknahme des Vorschlags für eine Richtlinie über KI-Haftung, Februar 2025.
- Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte – Einbeziehung von Software und KI-Systemen als Produkte, Behandlung von Anbietern als Hersteller, verschuldensunabhängige Haftung, Offenlegungspflichten und Vermutungsregeln, Umsetzungsfrist bis 9. Dezember 2026.
- Der erfasste Schadenskatalog der Produkthaftungsrichtlinie (Personen-, Sach- und bestimmte Datenschäden) sowie die Nichterfassung reiner Vermögensschäden ergeben sich aus der Richtlinie selbst; die daraus abgeleitete Einordnung für Finanzprozesse ist eine redaktionelle Bewertung dieses Dossiers und keine Rechtsberatung.
- Stand: 25. Juli 2026. Auslegungsfragen zu Artikel 50 und zur Umsetzung des Digital Omnibus entwickeln sich weiter; vor Anwendung im Einzelfall ist die aktuelle Fassung der Primärquellen maßgeblich.
Referenzstück 5.4 aus dem Dossier Know Your Agent: Die Enzyklopädie der KI-Agenten · Auftaktstück: Wer haftet, wenn ein KI-Agent das Konto leerräumt? · Stand 25. Juli 2026 · Dieser Text ist journalistische Einordnung und keine Rechtsberatung.












