Agenten lesen Code, rufen Werkzeuge auf und verändern Systeme. Damit das kontrollierbar bleibt, braucht jeder Schritt klare Grenzen.
Ich baue technische Kontrollpunkte in Ihre Entwicklungs- und Anwendungsprozesse ein: wer handelt, was der Agent sehen und tun darf, wann ein Mensch entscheidet und wie jeder Lauf nachvollziehbar bleibt.
Von der Identität bis zur Bewertung – entlang eines Agentenlaufs.
Jeder Agent handelt unter einer eigenen, zuordenbaren Identität – nicht mit geliehenen Rechten eines Menschen.
Der Agent erhält nur das Wissen, das für die Aufgabe freigegeben ist. Die Begrenzung greift vor der Suche.
Welche Werkzeuge und MCP-Server erreichbar sind, ist registriert und geprüft – nicht zufällig konfiguriert.
Rechte gelten pro Aktion: lesen, ändern, veröffentlichen und löschen sind verschiedene Dinge.
Ausführung in einer begrenzten Umgebung mit Kosten-, Zeit- und Umfangsgrenzen.
Riskante oder irreversible Schritte entscheidet ein Mensch. Eine Freigabe ist eine eigene, protokollierte Entscheidung.
Quellen, Modell, Promptversion, Werkzeugaufrufe und Ergebnis werden je Lauf festgehalten.
Wiederholbare Tests prüfen, ob Modell- oder Promptänderungen das Verhalten verschlechtern.
Anweisungen stecken nicht in der Nutzereingabe, sondern in Dokumenten, Webinhalten oder Tool-Ergebnissen, die der Agent verarbeitet.
Ein einzelner Server mit weitreichenden Rechten macht jeden Agenten, der ihn nutzen darf, genauso mächtig.
Erlaubte Werkzeuge werden für nicht vorgesehene Zwecke oder in schädlicher Reihenfolge aufgerufen.
Agenten erben Tokens oder Zugänge von Menschen und handeln damit weit über ihre Aufgabe hinaus.
Externe MCP-Server, Plugins, Prompts und Modelle ändern sich ohne Prüfung – und mit ihnen das Verhalten des Agenten.
Ein Zielmodell für Kundenprojekte. Nur riskante oder irreversible Aktionen brauchen eine Freigabe – alles andere läuft ohne Unterbrechung.
| Aktion | Regel |
|---|---|
| Repository lesen | erlaubt |
| Tests ausführen | erlaubt |
| Lokalen Branch anlegen und ändern | erlaubt |
| GitHub-Issue anlegen | nach Policy |
| Push, Merge, Produktions-Deployment | Freigabe durch einen Menschen |
| Ressourcen löschen | verboten oder nur mit ausdrücklicher Freigabe |
Technische Governance und Guardrails unterstützen die Umsetzung organisatorischer und regulatorischer Anforderungen.
Stand September 2026: Große Teile der EU-KI-Verordnung (AI Act) gelten seit dem 2. August 2026. Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach dem AI Omnibus ab dem 2. Dezember 2027. Diese Seite ist keine Rechtsberatung; die rechtliche Einordnung erfolgt durch Ihre Fachberatung.
In meiner eigenen, lokal produktiv genutzten Plattform DehoBrain – keine Kundenreferenz – setze ich einen Teil dieser Kontrollpunkte bereits um: Proxy-Prüfung externer MCP-Server, Freigabe-Gates für riskante Fähigkeiten, einen separat geschützten Live-Deploy, auf den Arbeitskontext begrenzten Wissenszugriff und Provenienz je Agentenlauf. Das vollständige Rechte-Modell pro Aktion oben ist das Zielmodell für Kundenprojekte.
Lassen Sie uns klären, wo Ihre Agenten arbeiten und welche Kontrollpunkte fehlen.
Unverbindlich, 30 Minuten, kostenfrei.