Prompt Injection erklärt
Direkte und indirekte Injection — bösartige Anweisungen, die in Inhalten versteckt sind, die die KI liest.
Agenten & Werkzeuge absichern
Least Privilege, Sandboxing, das Confused-Deputy-Problem und Human-in-the-Loop.
Autonome Läufe härten
Headless-/CI-Läufe absperren, damit ein Agent weder Geheimnisse noch die Produktion berühren kann.
Code von Drittanbietern prüfen
Plugins, Skills und MCP-Server können ausführbaren Code mitbringen — prüfe ihn, bevor du ihm vertraust.
Verantwortungsvolle Nutzung, Ethik & Verifikation
Die Autonomie-Leiter, die Verifikations-Haltung, Bias und Menschen im Entscheidungsprozess halten.