Je mehr ein Agent handeln darf, desto wichtiger sind minimale Berechtigungen, getrennte Umgebungen, Freigaben, Protokollierung und ein klarer Umgang mit sensiblen Daten. Sicherheit ist Teil des Agentendesigns, nicht nur eine spätere Einstellung.
Least Privilege
Ein Agent sollte nur die Daten und Werkzeuge erhalten, die für seine Aufgabe wirklich nötig sind.
Human-in-the-loop
Irreversible, finanzielle, rechtliche oder öffentlich sichtbare Aktionen sollten klar definierte Freigabepunkte haben.
Prompt Injection und externe Inhalte
Agenten können manipulierte Inhalte aus Webseiten, E-Mails oder Dokumenten lesen. Externe Instruktionen dürfen nicht automatisch als vertrauenswürdig gelten.
Logs und Observability
Organisationen sollten nachvollziehen können, welche Tools ein Agent genutzt und welche Aktionen er ausgelöst hat.
Tests
Agenten brauchen Tests mit realistischen Grenzfällen, nicht nur Demo-Prompts.
Agenten konkret ansehen
Die Theorie wird verständlicher, wenn man reale Produkte vergleicht. AgentenIndex dokumentiert 57 Agenten und Plattformen mit offiziellen Quellen.
Alle Agentenprofile →