Know Your Agent · Referenzstück 5.3 · Querschnitt
Die Orchestrierungsschicht: Wo die Kontrolle über Agenten sitzt – und wo die Vertrauensgrenze verschwindet
Zwischen Modell und Fachprozess liegt eine Schicht, die in Architekturbildern meist als graues Rechteck auftaucht. In ihr wird entschieden, welche Werkzeuge ein Agent aufrufen darf, was protokolliert wird und wo ein Mensch eingreifen kann. Sie ist damit die eigentliche Kontrollschicht – und seit der Durchsetzung eines gemeinsamen Werkzeugprotokolls auch die verwundbarste.
Abgrenzung. Dieses Referenzstück behandelt die Laufzeitschicht sprachmodellbasierter Agenten. Es beschreibt damit nur eine von zwei Orchestrierungsklassen. Die zweite – Prozess- und Entscheidungsorchestrierung mit BPMN, DMN, Case Management, Decisioning und RPA, wie sie in regulierten Häusern seit Jahren produktiv läuft – behandelt Referenzstück 5.6. Welche Agententypen es unabhängig von Sprachmodellen überhaupt gibt, klärt das Fundamentstück 0.1.
Die beiden vorangegangenen Referenzstücke beschreiben, worauf ein sprachmodellbasierter Agent rechnet. Dieses beschreibt, was ihn zum handelnden System macht. Denn ein Sprachmodell allein handelt nicht: Es erzeugt Text. Erst eine Umgebung, die diesen Text in Werkzeugaufrufe übersetzt, Ergebnisse zurückspielt, Zwischenstände speichert und irgendwann abbricht, macht daraus ein handelndes System. Diese Umgebung ist die Orchestrierungsschicht.
Für Agenten ohne Sprachmodell – Regelmaschinen, Zustandsautomaten, Planungs- und Optimierungsverfahren, Reinforcement-Learning-Systeme – gilt derselbe Satz mit anderer Begründung: Auch dort steckt die Handlungsfähigkeit nicht im Entscheidungskern, sondern in der Schicht, die ihn an Daten, Werkzeuge und Freigaben anbindet. Der Unterschied ist, dass diese Schicht dort meist älter, formaler und besser dokumentiert ist.
In den Enzyklopädie-Einträgen dieses Dossiers steht sie unter „Orchestrierung“ und „Ausführungsschicht“. Die Kategorie ist kein technisches Beiwerk. Sie entscheidet darüber, ob sich im Nachhinein rekonstruieren lässt, warum ein Agent getan hat, was er getan hat – und ob jemand ihn hätte aufhalten können.
Befund 01Die Frameworkwahl ist keine Geschmacksfrage
Die verbreitete Darstellung sortiert die Werkzeuge nach Bequemlichkeit: das eine sei schneller im Prototyp, das andere mächtiger in der Produktion. Das stimmt, greift aber zu kurz. Für ein reguliertes Haus ist die relevante Unterscheidung eine andere: Welche Bauform erzeugt von sich aus einen prüfbaren Ablauf, und welche erzeugt eine Unterhaltung, die man hinterher interpretieren muss?
| Bauform | Ablauflogik | Was sie für die Prüfbarkeit bedeutet |
|---|---|---|
| Graph mit Zuständen | Knoten sind Agenten, Werkzeuge und Prüfpunkte; Kanten sind Übergänge mit Bedingungen. Zwischenstände werden gespeichert. | Der Ablauf ist vorab beschrieben und im Nachhinein nachvollziehbar. Rücksprungpunkte und Unterbrechungen lassen sich als Teil des Modells definieren, nicht als Notbremse. |
| Rollen mit Übergaben | Agenten mit Rollenbeschreibung, Werkzeugen und einer Liste von Kollegen, an die sie abgeben dürfen. | Schnell aufgebaut und gut lesbar. Der tatsächliche Ablauf entsteht aber erst zur Laufzeit; was passiert ist, steht nur im Protokoll, nicht im Bauplan. |
| Konversation im Team | Mehrere Agenten unterhalten sich über mehrere Runden, ein Gruppenchat koordiniert. | Sehr flexibel bei offenen Aufgaben. Für Kontrollprozesse am schwierigsten: Der Entscheidungsweg ist ein Gesprächsverlauf, kein Zustandsübergang. |
Der Markt bewegt sich sichtbar in Richtung der ersten Bauform. Graphbasierte Orchestrierung hat 2026 in der Verbreitung aufgeschlossen und teils überholt, und der Grund, den die Anwender nennen, ist selten Eleganz: Die Graphstruktur bildet ab, was Produktionsbetrieb ohnehin verlangt – definierte Zustände, Wiederaufsetzpunkte, Prüfstellen. Microsoft hat seine beiden Linien zusammengeführt und im April 2026 eine vereinheitlichte Fassung als allgemein verfügbar erklärt. Die Konsolidierung ist selbst ein Befund: Die Experimentierphase der Orchestrierungswerkzeuge geht zu Ende.
Für Branchenartikel gilt. Die Nennung eines Frameworks ist erst dann eine Aussage, wenn dazu steht, ob der Ablauf modelliert oder emergent ist. „Läuft auf einem Multi-Agenten-Framework“ beschreibt keine Kontrollarchitektur, sondern eine Bibliotheksentscheidung.
Befund 02Der Steckerstandard und seine Nebenwirkung
Die größere Verschiebung der vergangenen zwei Jahre ist nicht ein einzelnes Framework, sondern ein Protokoll. Mit dem Model Context Protocol hat sich eine gemeinsame Schnittstelle zwischen Modellen und Werkzeugen durchgesetzt: Datenbanken, Dokumentenspeicher, interne Dienste und externe Fachanwendungen melden sich über dasselbe Verfahren an, und jedes größere Framework unterstützt es inzwischen nativ oder über einen Adapter.
Der Nutzen ist erheblich. Werkzeuge werden austauschbar, Integrationen wandern zwischen Frameworks, der Aufwand für Anbindungen sinkt. Genau darin liegt jedoch die Nebenwirkung: Was austauschbar ist, wird auch angeschlossen, ohne dass jedes Mal jemand hinsieht.
Ein Werkzeug meldet sich bei einem Agenten mit einer Beschreibung an – Name, Zweck, Parameter, Hinweise zur Verwendung. Diese Beschreibung landet im Kontext des Modells und wirkt dort wie eine Anweisung. Damit ist eine Grenze verwischt, die in klassischen Systemen sorgfältig gezogen wird: die Grenze zwischen Programm und Eingabe. Die Werkzeugbeschreibung ist Eingabe von einem Dritten, wird aber mit der Autorität einer Systemanweisung gelesen.
In klassischer Software ist die Trennung von Code und Daten die Grundlage jeder Sicherheitsarchitektur. In agentischen Systemen ist sie eine Konvention.
Befund 03Werkzeugvergiftung als Standardangriff
Die Sicherheitsforschung hat daraus einen eigenen Angriffstyp gemacht. Bei der Werkzeugvergiftung werden Anweisungen in den Metadaten eines Werkzeugs versteckt – in Beschreibungstexten, Parameterhinweisen, Rückgabefeldern. Der Agent liest sie, hält sie für Teil seiner Aufgabenstellung und handelt entsprechend. Kein Systemzugriff, kein ausgenutzter Programmfehler, keine Signatur, auf die ein Sicherheitswerkzeug anspringt.
Eine 2026 veröffentlichte Bedrohungsmodellierung hat das Protokoll systematisch über fünf Komponenten hinweg untersucht – Client, Modell, Server, angebundene Datenspeicher und Autorisierungsdienst – und anschließend sieben verbreitete Clientprogramme daraufhin geprüft, wie sie Werkzeugbeschreibungen validieren. Ergebnis: Die Werkzeugvergiftung ist die häufigste und wirksamste Schwachstelle auf der Clientseite, und die Mehrzahl der geprüften Programme wies erhebliche Lücken auf, weil Beschreibungen kaum statisch geprüft und Parameter dem Nutzer nicht sichtbar gemacht werden.
Eine zweite Analyse benennt auf Protokollebene drei andere strukturelle Schwächen: Es fehlt eine Attestierung der tatsächlich angebotenen Fähigkeiten, die bidirektionale Modellabfrage kennt keine belastbare Herkunftsauthentifizierung, und in Konfigurationen mit mehreren Servern wird Vertrauen implizit weitergereicht. Die Sicherheitsgemeinschaft führt Werkzeugvergiftung inzwischen als eigenständige Angriffsklasse.
Redaktionelle Anmerkung zur Beleglage. Zu diesem Feld kursieren präzise wirkende Zahlen – etwa zur Erhöhung der Angriffserfolgsquote gegenüber direkt angebundenen Werkzeugen oder zur Wirkung einzelner Gegenmaßnahmen. Diese Werte ließen sich in den Primärquellen nicht durchgängig verifizieren und werden hier deshalb nicht als Fakten geführt. Belastbar ist der qualitative Befund: Die Angriffsfläche ist real, sie liegt in der Werkzeugbeschreibung, und die verbreiteten Clientprogramme prüfen sie unzureichend.
Befund 04Was die Schicht leisten muss, damit sie Kontrolle heißt
Die Orchestrierungsschicht wird in Präsentationen gern als „Governance-Layer“ bezeichnet. Der Begriff ist erst dann berechtigt, wenn sie fünf Dinge tatsächlich tut – und diese fünf Punkte kehren als Prüfraster in jedem Branchenartikel dieses Dossiers wieder.
Was Frameworks von Haus aus liefern
- Ablaufsteuerung zwischen Agenten und Werkzeugen
- Zustandsspeicherung und Wiederaufsetzpunkte
- Anbindung von Werkzeugen über ein gemeinsames Protokoll
- technische Ablaufprotokolle für die Fehlersuche
Was im Haus gebaut werden muss
- Rechtemodell pro Werkzeug und pro Datenklasse
- Prüfung und Freigabe neuer Werkzeugbeschreibungen
- fachliches Entscheidungsprotokoll statt technischem Ablaufprotokoll
- Abbruchbedingungen, Budgetgrenzen, Eskalation an Menschen
Die rechte Spalte ist der Grund, warum zwei Häuser mit demselben Framework und demselben Modell unterschiedlich prüfbar sind. Ein technisches Ablaufprotokoll beantwortet, welche Funktion mit welchen Parametern aufgerufen wurde. Ein fachliches Entscheidungsprotokoll beantwortet, welche Belege zu welcher Bewertung geführt haben. Nur das zweite ist im Aufsichtsgespräch verwertbar, und kein Framework liefert es mit.
Kontrollpunkt
Werkzeuganbindung ist eine Freigabeentscheidung
In den meisten Häusern ist das Anbinden eines Werkzeugs an einen Agenten heute ein Konfigurationsschritt. Es müsste ein Freigabeschritt sein, mit denselben Elementen wie jede andere Rechtevergabe:
- ein Verzeichnis aller angebundenen Werkzeugserver mit Herkunft und Verantwortlichem
- eine geprüfte Fassung jeder Werkzeugbeschreibung, gegen die Änderungen auffallen
- eine Rechtezuordnung, die festlegt, welcher Agent welches Werkzeug auf welchen Datenklassen nutzen darf
- eine Alarmierung, wenn sich die Beschreibung eines bereits freigegebenen Werkzeugs ändert
Der letzte Punkt ist der unbequemste, weil er laufenden Betrieb betrifft: Eine Werkzeugbeschreibung kann sich ändern, nachdem sie freigegeben wurde. Ohne Abgleich gegen die geprüfte Fassung bleibt genau das unbemerkt.
Watchdog-WinkelWarum das in der Geldwäschebekämpfung besonders zählt
Ein Agent in der Alert-Bearbeitung hat naturgemäß Zugriff auf das, was ein Angreifer sucht: Kundenstammdaten, Transaktionshistorien, Bewertungslogik, in Teilen den Bearbeitungsstand von Verdachtsfällen. Er ist zugleich ein System, dessen Eingaben zu einem erheblichen Teil aus Quellen stammen, die außerhalb der Kontrolle des Hauses liegen – Handelsregisterauszüge, Sanktions- und Medienrecherchen, Dokumente aus dem Onboarding.
Damit trifft die Werkzeugvergiftung auf einen zweiten, bereits beschriebenen Angriffsweg: die Manipulation der Belege, auf die sich ein Agent stützt. Beide Wege haben dieselbe Eigenschaft. Der Agent nutzt ausschließlich erlaubte Werkzeuge, protokolliert vollständig und entscheidet trotzdem falsch, weil seine Prämissen manipuliert wurden. Klassische Sicherheitsüberwachung sieht davon nichts, weil technisch nichts Unerlaubtes passiert.
Für die Enzyklopädie folgt daraus eine Festlegung: In den Branchenartikeln wird unter „Stack & Orchestrierung“ nicht nur genannt, welches Framework im Einsatz ist, sondern ob die Werkzeuganbindung einer Freigabe unterliegt. Wo diese Angabe fehlt oder nicht zu ermitteln ist, wird sie als Lücke ausgewiesen – nicht als Nebensache.
Fünf Prüffragen an jede Orchestrierungsschicht
- Modelliert oder emergent? Ist der Ablauf vorab beschrieben und im Nachhinein rekonstruierbar, oder entsteht er als Gesprächsverlauf zur Laufzeit?
- Wer darf welches Werkzeug? Existiert ein Rechtemodell pro Agent, Werkzeug und Datenklasse – oder hat jeder Agent Zugriff auf alles, was angebunden ist?
- Wird die Werkzeugbeschreibung geprüft? Gibt es eine freigegebene Fassung, gegen die spätere Änderungen auffallen?
- Technisches oder fachliches Protokoll? Zeichnet das System Funktionsaufrufe auf oder die Belege und Bewertungen, die zu einer Entscheidung geführt haben?
- Wo bricht es ab? Sind Abbruchbedingungen, Budgetgrenzen und Eskalationspunkte definiert – und ist protokolliert, wenn sie greifen?
Die Orchestrierungsschicht ist damit der Ort, an dem sich entscheidet, ob ein Agent ein prüfbares System oder eine gut dokumentierte Blackbox ist. Sie ist auch der Ort, an dem die Zuständigkeit zwischen Fachbereich, IT und zweiter Verteidigungslinie am häufigsten ungeklärt bleibt. Wer die Haftungsfrage beantworten will, kommt an dieser Schicht nicht vorbei. Dasselbe gilt für die Budgetgrenze: Erst hier wird sie zur technisch wirksamen Abbruchbedingung.
Quellen und Beleglage
- Bedrohungsmodellierung und Schwachstellenanalyse zum Model Context Protocol (arXiv 2603.22489), ebenfalls erschienen in Journal of Cybersecurity and Privacy – Modellierung über fünf Komponenten mit STRIDE und DREAD, empirische Prüfung von sieben verbreiteten Clientprogrammen, Werkzeugvergiftung als häufigste und wirksamste clientseitige Schwachstelle, unzureichende statische Validierung und fehlende Parametertransparenz.
- Sicherheitsanalyse der MCP-Spezifikation und von Prompt-Injection-Schwachstellen in werkzeuggestützten Agenten (arXiv 2601.17549) – fehlende Fähigkeitsattestierung, bidirektionale Modellabfrage ohne Herkunftsauthentifizierung und implizite Vertrauensweitergabe in Multi-Server-Konfigurationen.
- OWASP – MCP Tool Poisoning als eigenständige Angriffsklasse.
- Invariant Labs, MCP Security Notification: Tool Poisoning Attacks – frühe Beschreibung des Angriffswegs über Werkzeugmetadaten.
- Simon Willison, Model Context Protocol has prompt injection security problems – frühe Problembeschreibung aus der Entwicklerpraxis.
- Angaben zur Verbreitung und Konsolidierung der Orchestrierungsframeworks (Zusammenführung der Microsoft-Linien und allgemeine Verfügbarkeit im April 2026, Verschiebung der Verbreitung zugunsten graphbasierter Orchestrierung) beruhen auf Anbieterangaben und Marktbeobachtungen und sind als Momentaufnahme zu lesen.
- Quantitative Angaben zu Angriffserfolgsquoten und zur Wirksamkeit einzelner Gegenmaßnahmen ließen sich in den Primärquellen nicht durchgängig verifizieren und sind in diesem Text bewusst nicht als Fakten geführt.
Referenzstück 5.3 aus dem Dossier Know Your Agent: Die Enzyklopädie der KI-Agenten · Modellachse: Frontier-LLMs und lokale Modelle · Betrieb und Governance im Dossier Agentic AI · Stand 25. Juli 2026












