Agent Governance ist keine einzelne Richtlinie und kein Admin-Dashboard. Sie verbindet fachliche Verantwortung, technische Berechtigung, Datenzugriff, Qualitätsmessung und Reaktion auf Fehler. Je mehr ein System handeln kann, desto expliziter müssen diese Ebenen werden.

Einen fachlichen Owner benennen

Jeder Agentenprozess braucht eine Person, die Ziel, zulässige Ergebnisse und Ausnahmen verantwortet. IT oder Plattformteams betreiben die Technik, können aber nicht allein entscheiden, ob eine Handlung fachlich erlaubt ist. Dokumentieren Sie zusätzlich Owner für Datenquellen, Werkzeuge und Incident-Entscheidungen.

Datengrenzen erzwingen

Ein Agent erhält nicht pauschal Zugriff auf „Unternehmenswissen“. Quellen werden pro Prozess, Mandant und Rolle freigegeben. Sensible Felder können vor der Modellverarbeitung entfernt oder maskiert werden. Logs enthalten nur Daten, die für Sicherheit und Diagnose erforderlich sind.

Werkzeugrechte minimieren

Die OWASP-Leitlinien empfehlen serverseitige Autorisierung jeder Anfrage und Least Privilege. Für Agenten bedeutet das separate Credentials und Rechte pro Werkzeug. Lesende, interne schreibende und externe oder irreversible Aktionen erhalten unterschiedliche Kontrollstufen.

Ein Werkzeug validiert Eingaben unabhängig vom Modell. Der Agent kann keine verbotene Aktion allein durch eine überzeugende Textausgabe erzwingen.

Freigaben sinnvoll gestalten

Human-in-the-loop darf keine formale Klickschleife werden. Eine Freigabe zeigt Quelle, vorgeschlagene Aktion, betroffene Daten, Unsicherheit und Konsequenz. Definieren Sie, wann Freigabe zwingend ist und wann eine automatische Aktion aufgrund geringer Auswirkung vertretbar ist.

Mit festen Fällen evaluieren

Evaluationen enthalten normale, seltene, absichtlich irreführende und sicherheitskritische Fälle. Messen Sie fachliche Korrektheit, Quellenbezug, erlaubte Werkzeugwahl, Eskalation und Kosten. Nach Modell-, Prompt-, Werkzeug- oder Wissensänderung werden relevante Suiten erneut ausgeführt.

Auf Vorfälle vorbereitet sein

Das Runbook beschreibt Stop, Rechteentzug, Fallback, Benachrichtigung, Untersuchung und Wiederanlauf. Ein Kill Switch ist nur nützlich, wenn klar ist, wer ihn auslöst und wie der Prozess danach weiterläuft.

Der NIST AI RMF betont Governance als Querschnitt über Mapping, Messung und Management. Das passt zu Agenten: Kontrolle ist kein einmaliges Go-live-Dokument, sondern Teil jeder Änderung und jedes Betriebszyklus.