Zum Hauptinhalt springen
Alle Beiträge
Cybersicherheit23 Min. Lesezeit

Bedrohungsmodell für KI-Agenten: STRIDE, 14 Angriffspunkte

Bedrohungsmodell für agentische KI auf einer Seite: STRIDE für KI-Agenten, 14 Angriffspunkte vom Prompt bis zum A2A-Partner und die passenden Kontrollen.

Veröffentlicht Aktualisiert: 15. November 2026

Am 1. Mai 2026 veröffentlichten sechs nationale Cybersicherheitsbehörden, darunter CISA, NSA und das britische NCSC, die gemeinsame Leitlinie Careful Adoption of Agentic AI Services. Eine ihrer Empfehlungen: eine formale Bedrohungsmodellierung, bevor ein Agent in Produktion geht. Fünf Monate zuvor hatte OWASP die Top 10 for Agentic Applications veröffentlicht. Anfang Februar zählte Gartner die Aufsicht über agentische KI und Identitäten für maschinelle Akteure zu den wichtigsten Cybersecurity-Trends 2026. Alle sind sich einig, dass KI-Agenten ein Bedrohungsmodell brauchen. Fast niemand hat eines veröffentlicht, das man an ein Whiteboard hängen kann.

Dieser Beitrag ist dieses Whiteboard. Er richtet sich an alle, die einen Agenten für den Produktivbetrieb freigeben: CISOs, Sicherheitsarchitekten, Plattformverantwortliche und CTOs, die gefragt werden, was passiert, wenn etwas schiefgeht. Wir nehmen STRIDE, das Vokabular, mit dem die meisten Sicherheitsteams ohnehin arbeiten, und wenden es auf einen Referenzagenten mit Nutzerkanal, Orchestrator, Gedächtnis, MCP-Tools und A2A-Partnern an. Das Ergebnis: ein Diagramm mit 14 nummerierten Angriffspunkten, eine Heatmap, welche Kontrolle welchen Punkt bricht, und ein Crosswalk zur OWASP-Liste.

TL;DR / Das Wichtigste in Kürze

  • STRIDE funktioniert weiter, mit einer geänderten Annahme. Behandeln Sie das Planer-LLM als berechtigten, aber nicht vertrauenswürdigen Nutzer. Alles, was es liest, kann zur Anweisung werden. Keine Sicherheitsentscheidung gehört ins Modell.
  • Vierzehn Angriffspunkte, vier Vertrauensgrenzen. Von direkter Prompt-Injection bis zur Abstreitbarkeit im Audit-Trail. Jedes der zehn OWASP-Risiken für agentische Anwendungen lässt sich mindestens einem davon zuordnen.
  • Policy am Tool-Aufruf leistet die meiste Arbeit. In unserer Analyse wirkt sie auf 11 von 14 Angriffspunkten und hält auch dann, wenn das Modell vollständig gekapert ist.
  • Zehn von vierzehn Angriffspunkten hängen an genau einer primären Kontrolle. Erkennung wirkt auf alle vierzehn, ist aber nur für einen primär. Diese Lücke schließen Sie vor dem Go-live.
  • Die Tool-Lieferkette ist schon verunreinigt. Koi Security stufte im Februar 2026 341 von 2.857 ClawHub-Skills als bösartig ein. Pinnen und prüfen Sie Agenten-Tools wie jede andere Abhängigkeit.
Das Bedrohungsmodell für agentische KI. Vier Vertrauensgrenzen, 14 nummerierte Angriffspunkte (warme Kreise) und die Kontrollkomponenten (grün), die sie brechen.
Das Bedrohungsmodell für agentische KI. Vier Vertrauensgrenzen, 14 nummerierte Angriffspunkte (warme Kreise) und die Kontrollkomponenten (grün), die sie brechen.

Download: Editierbare draw.io-Datei · In diagrams.net öffnen · Diagrammdaten (CSV)

Warum KI-Agenten jetzt ein eigenes Bedrohungsmodell brauchen

Der schlimmste Tag eines Chatbots ist eine peinliche Antwort. Ein Agent, der Ihre Mails liest, das CRM abfragt, Pull Requests öffnet und einen anderen Agenten um eine Zahlung bittet, hat die Angriffsfläche eines privilegierten Mitarbeiters, ohne dessen Urteilsvermögen. Das hat die Branche 2025 gelernt.

Im Mai 2025 zeigte Invariant Labs, dass ein bösartiges Issue in einem öffentlichen GitHub-Repository einen Agenten mit dem offiziellen GitHub-MCP-Server dazu bringen konnte, Daten aus privaten Repositories über einen öffentlichen Pull Request preiszugeben. Invariant sprach von einem Architekturproblem, nicht von einem Serverfehler. Im Juni veröffentlichte Aim Labs EchoLeak (CVE-2025-32711): Eine präparierte E-Mail im Kontext von Microsoft 365 Copilot konnte ohne Klick des Nutzers Unternehmensdaten abfließen lassen. Microsoft behob die Lücke serverseitig. Im September veröffentlichte ein inoffizielles postmark-mcp-Paket auf npm zunächst eine Reihe sauberer Versionen und fügte dann in 1.0.16 eine Zeile ein, die jede ausgehende Mail per BCC an einen Angreifer schickte. Im November meldete Anthropic, die Kampagne GTG-1002 gestoppt zu haben: Eine Gruppe, die Anthropic einem chinesischen Staatsakteur zuordnet, setzte Claude Code und MCP-Tools gegen rund dreißig Ziele ein. Anthropic schätzt, dass die KI 80–90 % der taktischen Arbeit erledigte. Externe Forschende bezweifeln die Zahl, nicht aber die Richtung.

2026 kam die Masse. Hasan et al. untersuchten 1.899 Open-Source-MCP-Server und fanden bei 5,5 % Tool Poisoning und bei 7,2 % allgemeine Schwachstellen. Li und Gao prüften 67.057 Server aus sechs Registries und stuften 833 als verwundbar ein. Koi Security analysierte 2.857 Skills auf OpenClaws Marktplatz ClawHub und stufte 341 als bösartig ein.

Auch die Standardisierung zog nach. Das NCCoE des NIST veröffentlichte im Februar 2026 ein Konzeptpapier zu Identität und Autorisierung von KI-Agenten. BSI und ANSSI hatten bereits im August 2025 gemeinsame Designprinzipien für LLM-basierte Systeme nach Zero Trust vorgelegt. Die MCP-Revision 2026-07-28 verbietet Token-Passthrough und beschreibt Confused-Deputy-, SSRF- und Scope-Risiken. A2A erreichte am 12. März 2026 Version 1.0; die Signatur von Agent Cards ist Teil der Kernspezifikation. Was fehlt, ist ein Referenzbild, das all das zusammenführt.

STRIDE, angepasst für Agenten

STRIDE stammt von Loren Kohnfelder und Praerit Garg (Microsoft, 1999). An jeder Vertrauensgrenze fragt es, ob jemand eine Identität fälschen (Spoofing), Daten manipulieren (Tampering), eine Handlung abstreiten (Repudiation), Informationen abgreifen (Information Disclosure), einen Dienst lahmlegen (Denial of Service) oder Rechte ausweiten (Elevation of Privilege) kann. Es hat überlebt, weil es langweilig und vollständig ist.

Agenten brechen eine Annahme, auf der STRIDE beruht. In einem normalen System setzt jeder Prozess seine eigene Logik durch. Ein Webserver ändert sein Routing nicht, weil ein Request-Body ihn darum bittet. Ein Sprachmodell tut genau das, weil Anweisungen und Daten über denselben Kanal kommen. Der Planer ist also kein vertrauenswürdiger Prozess. Er gleicht eher einem hilfsbereiten Mitarbeiter, der tut, was eine überzeugende E-Mail verlangt.

Daraus folgen drei Arbeitsregeln:

  1. Behandeln Sie den Planer als berechtigten, aber nicht vertrauenswürdigen Nutzer. Er darf Aktionen anfordern. Ob sie erlaubt sind, entscheidet er nicht.
  2. Legen Sie jede Sicherheitsentscheidung außerhalb des Modells fest. Autorisierung, Datenklassifizierung, Rate Limits und Freigabe-Routing liegen in deterministischen Komponenten, die das Modell nicht umschreiben kann.
  3. Modellieren Sie Grenzübertritte, nicht Komponenten. Die meisten Angriffe auf Agenten lauten nicht „Komponente X brechen“, sondern „den Agenten dazu bringen, etwas über eine Grenze zu tragen“.

Das MAESTRO-Framework der Cloud Security Alliance (Februar 2025) sieht Lücken in STRIDE und ergänzt eine Sicht mit sieben Schichten. Die Diagnose teilen wir. In der Praxis kommen Teams, die ohnehin mit STRIDE arbeiten, aber weiter, wenn sie die echten Grenzen ihres Agenten zeichnen, statt eine neue Taxonomie zu lernen. Nutzen Sie MAESTRO als Gegenprobe.

Die 14 Angriffspunkte, Grenze für Grenze

Die Nummern entsprechen den warmen Kreisen im Diagramm, die Kontrollbuchstaben der Heatmap weiter unten.

① Direkte Prompt-Injection

STRIDE: Tampering, Elevation. Der Nutzer oder wer dessen Kanal übernommen hat, weist den Agenten an, seine Vorgaben zu ignorieren. Die Akteure hinter GTG-1002 zerlegten ihren Angriff in „kleine, scheinbar harmlose Aufgaben“ und gaben sich als Sicherheitsfirma aus. Direkte Injection im industriellen Maßstab.

Im Modell verhindern Sie das nicht. Entscheidend ist Policy am Tool-Aufruf (D). Kann der Agent kein Tool aufrufen, für das der Nutzer nicht berechtigt ist, gewinnt der Angreifer durch einen Jailbreak nichts, was der Nutzer nicht ohnehin hatte.

② Indirekte Prompt-Injection

STRIDE: Tampering. Die Anweisung steckt in Inhalten, die der Agent liest: E-Mail, PDF, Webseite, Ticket, Tool-Ergebnis. Das ist der wichtigste Punkt der Liste, denn der Angreifer braucht keinen Zugang zu Ihren Systemen. EchoLeak und der GitHub-MCP-Fall sind beide indirekte Injection.

Primäre Kontrolle ist Isolation von Fremdinhalten (A): Kennzeichnen Sie nicht vertrauenswürdige Inhalte als Daten und leiten Sie sie durch eine eingeschränkte Komponente, die zusammenfassen, aber keine Tools aufrufen kann. Kein Isolationsansatz ist perfekt, deshalb hat dieser Punkt mehr Teilkontrollen als jeder andere. Die Mechanik beschreibt unser Beitrag zu Prompt-Injection und Tool-Missbrauch.

Loading diagram...

Das ist der „Toxic Agent Flow“, den Invariant Labs beschrieben hat: nicht vertrauenswürdig lesen, privat lesen, öffentlich schreiben. Wenn Sie jedes Tool als untrusted-read, private-read oder public-write klassifizieren, kann das Gateway den letzten Schritt brechen. Die günstigste Datenfluss-Policy, die wir kennen.

③ Identitäts-Spoofing und Missbrauch der Delegation

STRIDE: Spoofing, Elevation. Für wen handelt der Agent, und lässt sich das fälschen? Typische Fehler sind ein gemeinsames Dienstkonto für alle Nutzer, Tokens ohne Nutzerbezug und wiederverwendbare Einwilligungen. Die MCP-Sicherheitsleitlinie beschreibt einen Confused-Deputy-Angriff, bei dem ein Proxy mit statischer Client-ID einem Angreifer über ein früher gesetztes Consent-Cookie einen Autorisierungscode verschafft.

Primäre Kontrolle ist Agentenidentität mit On-Behalf-of-Delegation (B): eine eigene Identität je Agent, Token Exchange, damit jedes nachgelagerte Token Agent und Nutzer trägt, und kurze Laufzeiten. Das NIST-Konzeptpapier fordert genau das: Agenten als identifizierbare Entitäten statt anonymer Automatisierung auf geteilten Zugangsdaten. Unser Leitfaden zu Agentenidentität und Token Exchange zeigt die Abläufe.

④ Manipulation der Freigabe

STRIDE: Spoofing, Tampering. OWASP nennt das Human-Agent Trust Exploitation (ASI09). Die freigebende Person sieht die Zusammenfassung des Agenten. Ein gekaperter Agent schreibt eine beruhigende Zusammenfassung. Den Rest erledigt die Freigabemüdigkeit.

Menschliche Freigabe (E) wirkt nur, wenn die Person den tatsächlichen Tool-Aufruf sieht, vom Gateway aus den echten Parametern dargestellt. Halten Sie Freigaben selten, damit sie Gewicht behalten. Muster dafür finden Sie in unserem Beitrag zu Human-in-the-Loop-Freigaben.

⑤ Vergiftung des Gedächtnisses

STRIDE: Tampering. Langzeitgedächtnis macht aus einer einmaligen Injection eine dauerhafte. Was heute ins Gedächtnis geschrieben wird, kommt nächsten Monat als vertrauenswürdiger Kontext zurück, für eine andere Aufgabe und manchmal für einen anderen Nutzer.

Primäre Kontrolle ist Gedächtnis-Governance (G): Herkunft jedes Schreibvorgangs festhalten, Schreibvorgänge aus nicht vertrauenswürdigen Quellen validieren, Partitionen je Nutzer, Ablaufdaten. Eine Erinnerung aus einer E-Mail darf nie mit der Autorität einer Systemanweisung zurückkommen.

⑥ Abfluss aus Kontext und Gedächtnis

STRIDE: Information Disclosure. Die Suche liefert etwas, das der aktuelle Nutzer nicht sehen darf, weil der Index mit einem allsehenden Dienstkonto gebaut wurde oder Gedächtnis sitzungsübergreifend geteilt wird. Das meiste Copilot-Oversharing ist dieser Punkt, nur ohne Angreifer.

Zwei primäre Kontrollen: Agentenidentität (B), damit die Suche mit den Rechten des Nutzers läuft, und Gedächtnis-Governance (G), damit Partitionen halten.

⑦ Lieferkette für Tools und Skills

STRIDE: Tampering. Agenten laden MCP-Server aus npm oder PyPI, Skills aus Marktplätzen und Tool-Beschreibungen von entfernten Servern. Der postmark-mcp-Rug-Pull, die ClawHub-Kampagne und CVE-2025-6514 in mcp-remote (CVSS 9,6, behoben in 0.1.16) gehören hierher. Ebenso Tool Poisoning, bei dem die bösartige Anweisung in der Tool-Beschreibung steckt.

Primäre Kontrolle ist eine gepinnte, geprüfte Registry (C): freigegebene Server und Skills, gepinnt auf Version und Hash, Tool-Beschreibungen bei der Freigabe erfasst und bei jedem Laden verglichen. Eine geänderte Beschreibung ist eine geänderte Abhängigkeit.

⑧ Tool-Missbrauch und übermäßige Handlungsmacht

STRIDE: Elevation. Der Agent nutzt ein legitimes Tool mit legitimen Rechten für einen illegitimen Zweck: löschen statt archivieren, die ganze Kundenliste anschreiben. Das ist ASI02, und genau das beschreiben die meisten Vorfallberichte, wenn man das Wie der Überredung weglässt.

Zwei primäre Kontrollen: Policy am Tool-Aufruf (D) prüft Parameter, Mengen und Datenklassen vor der Ausführung, menschliche Freigabe (E) deckt die wenigen unumkehrbaren Aktionen ab.

⑨ Confused Deputy und Token-Passthrough

STRIDE: Elevation, Spoofing. Ein MCP-Server reicht das Token des Aufrufers nach unten durch oder hält ein mächtiges statisches Credential für alle Aufrufer. Wer den Server erreicht, erbt dessen Autorität. Die MCP-Spezifikation ist deutlich: Server „MUST NOT accept any tokens that were not explicitly issued for the MCP server“.

Primäre Kontrolle ist wieder Agentenidentität und Token Exchange (B): Audience-gebundene Tokens über Resource Indicators, ein eng begrenztes Token je nachgelagertem Aufruf, schrittweise Scopes und kein Passthrough. Details in unserem Deep Dive zur MCP-Autorisierung.

⑩ Unerwartete Codeausführung

STRIDE: Elevation. Agenten führen Code aus: Interpreter, Shell-Tools, lokale MCP-Server, die per stdio aus einer Konfigurationsdatei gestartet werden. CVE-2025-49596 im MCP Inspector (CVSS 9,4) und die von OX Security im April 2026 veröffentlichte stdio-Schwachstelle, bei der Konfiguration direkt in Befehlsausführung mündet, zeigen: Das Tooling selbst ist Angriffsfläche.

Primäre Kontrolle ist eine Sandbox mit Egress-Kontrolle (F): kurzlebige Container oder MicroVMs, keine impliziten Zugangsdaten, Netzwerk-Allow-List.

⑪ Exfiltration über Ausgaben

STRIDE: Information Disclosure. Daten verlassen das Haus über die Ausgaben des Agenten: ein Markdown-Bild, dessen URL ein Geheimnis kodiert, ein vom Client vorab geladener Link, eine Zusammenfassung in einem öffentlichen Kanal, ein HTTP-Aufruf aus der Sandbox. EchoLeak nutzte den Ausgabekanal.

Zwei primäre Kontrollen: Ausgabefilter (J) neutralisieren externe Bilder und nicht vertrauenswürdige Links, Sandbox und Egress-Kontrolle (F) verhindern Aufrufe beliebiger Hosts.

⑫ Spoofing und Manipulation von A2A-Partnern

STRIDE: Spoofing, Tampering. Wer delegiert, vertraut der Identität des Partners, seiner Agent Card und seinen Antworten. Ein gefälschter oder kompromittierter Partner liefert vergiftete Ergebnisse oder fordert Aufgaben an, die Ihr Agent ausführt. OWASP nennt das Insecure Inter-Agent Communication (ASI07).

Zwei primäre Kontrollen: Agentenidentität (B) für gegenseitige Authentisierung nach den Verfahren, die die Agent Card ausweist, und eine gepinnte Registry (C) mit Partnern, deren Card-Signatur Sie geprüft haben. Signaturen für Agent Cards stehen seit Version 0.3 (Juli 2025) in der A2A-Spezifikation, eine Ausrede gibt es also nicht. Behandeln Sie alles, was ein Partner liefert, als Fremdinhalt. Damit sind Sie wieder bei ②.

⑬ Endlosschleifen und Denial of Wallet

STRIDE: Denial of Service. Ein Agent, der ein fehlerhaftes Tool endlos wiederholt, zwei Agenten, die sich gegenseitig Aufgaben zuschieben, oder ein Angreifer, der möglichst tokenintensive Arbeit schickt. Ergebnis: eine hohe Rechnung oder ein erschöpftes Kontingent für alle anderen. OWASP ordnet das den Cascading Failures (ASI08) zu.

Primäre Kontrolle sind Budgets und Circuit Breaker (H): Grenzen für Schritte, Tokens, Tool-Aufrufe und Kosten je Aufgabe und Nutzer, dazu eine Notabschaltung, die der Betrieb ohne Deployment auslösen kann.

⑭ Abstreitbarkeit und abtrünnige Agenten

STRIDE: Repudiation. Können Sie nach einem Vorfall belegen, welcher Agent was für wen mit welcher Tool-Version getan hat und wer es freigegeben hat? Ohne diesen Nachweis können Sie weder sauber untersuchen noch melden. Auch Rogue Agents (ASI10) gehören hierher: Ein Abdriften aus dem vorgesehenen Rahmen sehen Sie nur, wenn Sie den Rahmen festhalten und überwachen.

Primäre Kontrolle ist manipulationssicheres Tracing mit Erkennung (I): ein unveränderliches Log jedes Tool-Aufrufs mit Identitätskette, Parametern und Tool-Version, Traces über Agenten hinweg und Erkennungsregeln im SIEM. Erkennung wirkt auf alle 14 Punkte, primär ist sie nur für diesen.

Was die Zahlen sagen

Wir haben zehn Kontrollen gegen die 14 Angriffspunkte bewertet: primär (verhindert oder bricht den Angriff), teilweise (begrenzt oder erkennt) oder ohne wesentlichen Effekt. Das ist unsere Analyse der Referenzarchitektur, keine externe Datenquelle. Laden Sie die CSV herunter und bewerten Sie Ihren eigenen Agenten.

Welche Kontrolle welchen Angriffspunkt bricht. 14 Angriffspunkte × 10 Kontrollen, eigene Analyse.
Welche Kontrolle welchen Angriffspunkt bricht. 14 Angriffspunkte × 10 Kontrollen, eigene Analyse.

Drei Lesarten zählen. Erstens: Zehn der vierzehn Angriffspunkte hängen an genau einer primären Kontrolle. Fehlt sie, bleiben Teilkontrollen und Erkennung. Für einen Pilot vertretbar, für einen Agenten mit Schreibrechten auf Wichtiges nicht.

Zweitens: Policy am Tool-Aufruf ist das Arbeitspferd. Sie wirkt auf 11 von 14 Punkten und hält auch bei vollständig kompromittiertem Modell, weil sie nicht fragt, warum das Modell etwas wollte. Wenn Sie vor dem Go-live nur eines bauen, bauen Sie das Gateway.

Drittens: Erkennung ist überall und nirgends entscheidend. Tracing berührt alle 14 Punkte und ist für einen primär. Teams, die eine Observability-Plattform kaufen und das Agentensicherheit nennen, merken das meist beim ersten Vorfall.

Crosswalk zu den OWASP Agentic Top 10. Anzahl unserer 14 Angriffspunkte je OWASP-Risiko und STRIDE-Klasse.
Crosswalk zu den OWASP Agentic Top 10. Anzahl unserer 14 Angriffspunkte je OWASP-Risiko und STRIDE-Klasse.

Beide Vokabulare decken dasselbe Feld ab. Tampering (sechs Punkte) und Elevation of Privilege (fünf) dominieren, wie zu erwarten, wenn die Kernschwäche eine Komponente ist, die ihrer Eingabe gehorcht. Repudiation und Denial of Service haben je einen Punkt. Sie sind selten der Einstieg, entscheiden aber, ob ein Vorfall aufklärbar ist und was er kostet.

Anteil untersuchter Agenten-Tools und MCP-Server mit Sicherheitsbefund, zitierte Drittstudien.
Anteil untersuchter Agenten-Tools und MCP-Server mit Sicherheitsbefund, zitierte Drittstudien.

Das letzte Diagramm nutzt veröffentlichte Daten, je Balken eine benannte Quelle. Grundgesamtheiten und Methoden unterscheiden sich, vergleichen Sie die Balken also nicht miteinander. Die Aussage ist schlichter: In jeder veröffentlichten Stichprobe ist ein messbarer Anteil der Agenten-Tools verwundbar oder bösartig. Angriffspunkt ⑦ ist nicht hypothetisch.

OWASP-Risiko (2026)Unsere AngriffspunkteSTRIDEErste Kontrolle
ASI01 Agent Goal Hijack① ② ⑪T, E, IIsolation von Fremdinhalten plus Ausgabefilter
ASI02 Tool Misuse⑧EPolicy am Tool-Aufruf
ASI03 Identity & Privilege Abuse③ ⑨S, EAgentenidentität mit Token Exchange
ASI04 Agentic Supply Chain⑦TGepinnte, geprüfte Tool-Registry
ASI05 Unexpected Code Execution⑩ESandbox mit Egress-Allow-List
ASI06 Memory & Context Poisoning⑤ ⑥T, IHerkunftsnachweis und Partitionen im Gedächtnis
ASI07 Insecure Inter-Agent Communication⑫S, TGegenseitige Authentisierung, signierte Agent Cards
ASI08 Cascading Failures⑬DBudgets und Circuit Breaker
ASI09 Human-Agent Trust Exploitation④S, TVom Gateway dargestellte Freigaben
ASI10 Rogue Agents⑭RManipulationssicheres Tool-Call-Log

Die Zuordnung stammt von uns. Manche Angriffspunkte berühren mehrere OWASP-Risiken; wir haben jeden dort eingeordnet, wo er am besten passt.

Aus einem aktuellen Projekt

In diesem Jahr haben wir die Übung für einen europäischen Finanzdienstleister durchgeführt, der einen Agenten für die Schadenbearbeitung in Produktion bringen wollte. Der Agent las Kunden-E-Mails, schlug Verträge nach, entwarf Antworten und konnte kleine Kulanzzahlungen auslösen. Der Pilot lief gut. Die Vertrauensgrenzen hatte niemand gezeichnet.

Das Zeichnen dauerte eine Arbeitssitzung und änderte den Plan. Kunden-E-Mails, per Definition vom Angreifer steuerbar, gingen direkt in den Planer und ins Langzeitgedächtnis (② und ⑤). Alle Tools liefen unter einem Dienstkonto, das sämtliche Verträge lesen konnte (⑥ und ⑨). Zahlungen brauchten eine Freigabe, aber die freigebende Person sah die Ein-Satz-Zusammenfassung des Agenten, nicht die Parameter (④). Und das Tool-Call-Log lag in der Debug-Ausgabe, die nach wenigen Tagen rotiert wurde (⑭).

Keine der Korrekturen war exotisch. Eingehende Mails liefen über einen Zusammenfasser ohne Tool-Zugriff. Die Suche wechselte auf On-Behalf-of-Tokens, begrenzt auf den Kunden im Gespräch. Die Freigabemaske zeigte Zahlungsempfänger, Betrag und Vertragsnummer aus dem Gateway. Tool-Aufrufe landeten in einem unveränderlichen Speicher. Der Go-live verschob sich um einige Wochen. Am längsten dauerte die Einigung, wem die Policy-Regeln des Gateways gehören, wenn das Projektteam weiterzieht.

Die Checkliste für das Design-Review

Das ist der Teil für den Screenshot. Nutzen Sie ihn, bevor ein Agent produktive Zugangsdaten erhält. Jede Zeile braucht eine verantwortliche Person und einen Nachweis, kein „ja“.

#Frage im Design-ReviewMindestkontrolle vor ProduktionAufzubewahrender Nachweis
①Wenn das Modell dem Nutzer vollständig gehorcht: Was ist der schlimmste mögliche Tool-Aufruf?Gateway-Allow-List je NutzerrolleRed-Team-Ergebnisse je Release
②Welche Eingaben steuert ein Angreifer, und erreichen sie den Planer?Fremdinhalte markiert und isoliertDatenflussdiagramm
③Trägt jedes nachgelagerte Token Agent und Nutzer?Identität je Agent, OBO Token ExchangeIdP-Konfiguration, Token-Stichproben
④Was genau sieht die freigebende Person, und wer stellt es dar?Vom Gateway dargestellte ParameterFreigabeprotokoll
⑤Können Fremdinhalte ins Langzeitgedächtnis geschrieben werden?Herkunft und Validierung bei SchreibvorgängenAudit der Schreibvorgänge
⑥Mit wessen Rechten läuft die Suche?Nutzerbezogene Suche, PartitionenZugriffstest mit zwei Nutzern
⑦Wer hat welchen MCP-Server und Skill in welcher Version freigegeben?Gepinnte Registry, Hashes der BeschreibungenRegistry-Export
⑧Welche Tools sind unumkehrbar oder massenwirksam?Parameter- und Mengenregeln, FreigabenPolicy-as-Code-Repository
⑨Reicht ein MCP-Server Tokens durch oder hält er einen statischen Superuser-Schlüssel?Audience-gebundene Tokens, kein PassthroughTests der Token-Validierung
⑩Wo läuft generierter Code, mit welchen Zugangsdaten?Kurzlebige Sandbox ohne implizite ZugangsdatenSandbox-Konfiguration
⑪Können Ausgaben externe Bilder laden oder beliebige Hosts aufrufen?Bereinigte Ausgaben, Egress-Allow-ListEgress-Logs
⑫Wie prüfen wir einen Partneragenten, und was akzeptieren wir von ihm?Gegenseitige Authentisierung, signierte Agent CardsPartner-Registry
⑬Was stoppt eine Aufgabe beim Hundertfachen der normalen Kosten?Budgets und NotabschaltungBudget-Alarme
⑭Können wir jede Aktion in einem Jahr noch rekonstruieren?Unveränderliches Log mit IdentitätsketteAufbewahrungsrichtlinie, Beispiel-Trace

Zwei Warnungen. Eine Allow-List, die das Agententeam ohne Review ändern kann, ist keine Kontrolle. Stellen Sie die Gateway-Policy unter dieselbe Änderungskontrolle wie Firewall-Regeln. Und ein Red-Team-Test zum Start ist eine Momentaufnahme. Lassen Sie die Injection-Suite bei jeder Modell- oder Prompt-Änderung laufen, wie in unserem Playbook für LLM-Red-Teaming beschrieben.

Governance für europäische Unternehmen

Ein eigenes EU-„Agentengesetz“ gibt es nicht. Je nachdem, was der Agent tut und wer ihn betreibt, greifen mehrere Regelwerke.

DSGVO. Die meisten Unternehmensagenten verarbeiten personenbezogene Daten. Damit gelten Art. 32 (Sicherheit der Verarbeitung) und Art. 25 (Datenschutz durch Technikgestaltung). Die Angriffspunkte ⑥ und ⑪ sind Datenschutzverletzungen mit Ansage, samt 72-Stunden-Meldefrist nach Art. 33.

NIS2. Art. 21 Abs. 2 der Richtlinie (EU) 2022/2555 verlangt unter anderem Risikoanalyse und Sicherheitskonzepte (Buchst. a), Sicherheit der Lieferkette (d), Zugriffskontrolle und Management von Anlagen (i) sowie Multi-Faktor-Authentisierung (j). Agenten berühren alle vier. In Deutschland gilt das NIS2UmsuCG seit dem 6. Dezember 2025 ohne Übergangsfrist. Ein Agent mit produktiven Zugangsdaten gehört in Ihre Risikoanalyse, und dieses Bedrohungsmodell ist ein guter Weg, ihn dort abzubilden.

DORA. Für Finanzunternehmen ist eine gehostete Modell-API oder Agentenplattform ein IKT-Drittdienst und gehört ins Informationsregister. Ein Agentenvorfall, der eine kritische Funktion stört, kann ein schwerwiegender IKT-bezogener Vorfall sein.

KI-Verordnung. Die meisten Unternehmensagenten sind keine Hochrisiko-KI-Systeme. Ist Ihrer eines, etwa bei Kreditwürdigkeitsprüfung oder Personalauswahl nach Anhang III, verlangt Art. 15 Genauigkeit, Robustheit und Cybersicherheit, und Art. 15 Abs. 5 nennt Datenvergiftung, Modellvergiftung, gegnerische Beispiele und Angriffe auf die Vertraulichkeit ausdrücklich. Die Verordnung (EU) 2026/1744 hat diese Pflichten auf den 2. Dezember 2027 verschoben. Das ist eine Frist, kein Aufschub ohne Folgen. Die menschliche Aufsicht nach Art. 14 entspricht Angriffspunkt ④.

Cyber Resilience Act. Wer einen Agenten als Produkt mit digitalen Elementen oder als Teil eines solchen vertreibt, unterliegt seit dem 11. September 2026 der Meldepflicht nach Art. 14 für aktiv ausgenutzte Schwachstellen und schwerwiegende Sicherheitsvorfälle.

Für Unternehmen in der DACH-Region kommen die Designprinzipien von BSI und ANSSI für LLM-basierte Systeme einer nationalen Basis am nächsten. Ihre sechs Prinzipien (Authentisierung und Autorisierung, Ein- und Ausgabebeschränkungen, Sandboxing, Monitoring, Threat Intelligence und Sensibilisierung) decken sich mit den Kontrollen A, B, F, I und J unserer Heatmap. Verweisen Sie in Ihrer Designdokumentation darauf.

Ein pragmatischer Einführungspfad

  1. Woche 1: Agenten einzeichnen. Nehmen Sie die draw.io-Datei, löschen Sie, was Sie nicht haben, ergänzen Sie, was Sie haben, und markieren Sie jede Eingabe als vertrauenswürdig oder nicht. Die meisten Teams finden hier ihre ersten zwei Probleme.
  2. Wochen 2–3: Gateway vor neuen Tools. Leiten Sie jeden MCP- und A2A-Aufruf über einen Policy Enforcement Point mit Allow-List, Parameterregeln und unveränderlichem Log. Das deckt ①, ⑧ und ⑭ ab und liefert eine Nachweiskette.
  3. Wochen 3–4: Identität reparieren. Eine Identität je Agent, On-Behalf-of Token Exchange mit Audience-Bindung, kein Passthrough und keine statischen Superuser-Schlüssel auf MCP-Servern. Das schließt ③, ⑥ und ⑨.
  4. Monat 2: Fremdes isolieren. Leiten Sie angreiferkontrollierbare Inhalte über eine eingeschränkte Komponente, protokollieren Sie die Herkunft von Gedächtnis-Schreibvorgängen, bereinigen Sie Ausgaben, sandboxen Sie Codeausführung und pinnen Sie Ihre Tool-Registry.
  5. Monat 3: Testen und üben. Ein Red-Team-Testfall je Angriffspunkt, Budgets und Notabschaltung setzen, das Incident-Runbook für Agenten mit dem Security Operations Center einmal durchspielen. Wiederholen Sie das Bedrohungsmodell, sobald der Agent ein Tool, einen Gedächtnisspeicher oder einen Partner dazubekommt.

Das Fazit

Sicherheit für KI-Agenten ist keine neue Disziplin. Sie besteht aus Zugriffskontrolle, Lieferkettenhygiene, Sandboxing und Protokollierung, angewendet auf eine Komponente, die ihrer Eingabe gehorcht. Der häufigste Fehler, den wir sehen, ist nicht, das Modell zu unterschätzen. Es ist, das Modell zu überschätzen und Sicherheitsentscheidungen in die eine Komponente zu legen, die sie nicht halten kann.

Unsere Empfehlung ist einfach. Zeichnen Sie die Vertrauensgrenzen, gehen Sie davon aus, dass der Planer gekapert ist, und geben Sie jedem Angriffspunkt eine primäre Kontrolle, die nicht vom Wohlverhalten des Modells abhängt. Wenn Sie in diesem Quartal nur eines finanzieren, finanzieren Sie das Gateway mit Policy am Tool-Aufruf. Danach die Identität. Alles andere macht den nächsten Vorfall kleiner und leichter aufzuklären.

Wenn Sie eine zweite Meinung möchten: Unser KI-Engineering-Team führt dieses Bedrohungsmodell als Workshop mit festem Umfang für einen Agenten durch. Sie gehen mit dem ausgefüllten Diagramm für Ihre Architektur, der für Ihre Kontrollen bewerteten Heatmap und einer verantwortlichen Person für jede Lücke heraus.

FAQ

Was ist ein Bedrohungsmodell für agentische KI?

Eine strukturierte Liste der Wege, auf denen ein KI-Agent angegriffen werden kann, eingezeichnet in ein Bild seiner Komponenten und Vertrauensgrenzen: Nutzerkanal, Orchestrator mit Modell, Gedächtnis, aufgerufene Tools (meist über MCP) und Partneragenten (etwa über A2A). An jedem Grenzübertritt fragen Sie, was sich fälschen, manipulieren, abstreiten, abgreifen, überlasten oder ausweiten lässt, und benennen die Kontrolle, die den Angriff bricht. Unser Referenzmodell hat 14 Angriffspunkte an vier Vertrauensgrenzen.

Funktioniert STRIDE noch für KI-Agenten?

Ja, wenn Sie eine Annahme ändern. Klassisches STRIDE geht davon aus, dass jeder Prozess seine eigene Logik durchsetzt. Ein LLM-Planer kann das nicht: Alles, was er liest, kann zur Anweisung werden. Behandeln Sie den Planer daher als berechtigten, aber nicht vertrauenswürdigen Nutzer, wenden Sie STRIDE an jeder Grenze an, die er überschreitet, und halten Sie jede Sicherheitsentscheidung aus dem Modell heraus. MAESTRO der CSA ergänzt agentenspezifische Schichten und eignet sich als Gegenprobe.

Wie passt das zu den OWASP Top 10 for Agentic Applications?

Jedes der zehn OWASP-Risiken, von ASI01 Agent Goal Hijack bis ASI10 Rogue Agents, lässt sich mindestens einem unserer 14 Angriffspunkte zuordnen. Goal Hijack umfasst drei davon, Identity and Privilege Abuse zwei, Memory and Context Poisoning zwei. Die Crosswalk-Tabelle oben zeigt die Zuordnung und die erste Kontrolle je Risiko.

Welche Kontrolle ist für KI-Agenten am wichtigsten?

Wenn wir eine wählen müssten: Policy-Durchsetzung am Tool-Aufruf, also ein Gateway, das jeden Tool-Aufruf vor der Ausführung gegen Allow-List, Identität des Aufrufers und Parameterregeln prüft. In unserer Heatmap wirkt es auf 11 der 14 Angriffspunkte und greift auch dann noch, wenn das Modell vollständig gekapert ist. Genau für diesen Fall müssen Sie bauen.

Welche EU-Vorgaben gelten für die Sicherheit von KI-Agenten?

Art. 25 und 32 DSGVO gelten, sobald ein Agent personenbezogene Daten verarbeitet. Art. 21 NIS2 gilt für wesentliche und wichtige Einrichtungen, in Deutschland über das NIS2UmsuCG seit dem 6. Dezember 2025. DORA gilt für Finanzunternehmen. Für Hochrisiko-KI-Systeme gilt Art. 15 KI-Verordnung ab dem 2. Dezember 2027, nachdem die Verordnung (EU) 2026/1744 die Frist für Anhang III verschoben hat. Wer den Agenten als Produkt vertreibt, unterliegt seit dem 11. September 2026 den Meldepflichten des Cyber Resilience Act.

Wie lange dauert eine Bedrohungsmodellierung für einen Agenten?

Für einen Agenten mit klarem Umfang planen wir einen halbtägigen Workshop mit Product Owner, einer Entwicklerin oder einem Entwickler, die die Tool-Integrationen kennen, und jemandem aus Identity und Security Operations, danach einen Tag Ausarbeitung. Ergebnis: das ausgefüllte Diagramm für Ihren Agenten, eine priorisierte Liste der Angriffspunkte und eine verantwortliche Person je Kontrolle. Wiederholen Sie die Übung, sobald der Agent ein neues Tool, einen Gedächtnisspeicher oder einen Partner erhält.

Quellen

Alle Quellen geprüft am 15. November 2026. Stammt eine Zahl aus einem Sekundärbericht, nennen wir den Berichtenden.

Stufe A: Primärquellen, Standards und Regulierung

Stufe B: Forschung und Analyse

Stufe C: Anbieter und Nachrichten, richtungsweisend

Themen

Bedrohungsmodell agentische KIKI-Agenten SicherheitSTRIDE KI-AgentenOWASP Top 10 agentische AnwendungenMCP SicherheitPrompt-InjectionVertrauensgrenzen KI-AgentAgentenidentität

Häufig gestellte Fragen

Eine strukturierte Liste der Wege, auf denen ein KI-Agent angegriffen werden kann, eingezeichnet in ein Bild seiner Komponenten und Vertrauensgrenzen: Nutzerkanal, Orchestrator mit Modell, Gedächtnis, aufgerufene Tools (meist über MCP) und Partneragenten (etwa über A2A). An jedem Grenzübertritt fragen Sie, was sich fälschen, manipulieren, abstreiten, abgreifen, überlasten oder ausweiten lässt, und benennen die Kontrolle, die den Angriff bricht. Unser Referenzmodell hat 14 Angriffspunkte an vier Vertrauensgrenzen.

Expert engagement

Brauchen Sie Expertenberatung?

Unser Team ist spezialisiert auf Cloud-Architektur, Security, KI-Plattformen und DevSecOps. Lassen Sie uns besprechen, wie wir Ihrem Unternehmen helfen können.

Kontakt aufnehmenNo commitment · No sales pressure

Verwandte Artikel

Alle Beiträge