KI-Guardrails (Sicherheitsleitplanken)
Um absolute Sicherheit zu garantieren, ist das Agentensystem durch mehrstufige serverseitige Leitplanken abgesichert:1. Rollenbasierte Werkzeugsperre (Least Privilege)
Die KI hat nur Zugriff auf Werkzeuge, die der Rolle des angemeldeten Benutzers entsprechen:- Viewer: Kann nur lesende Statusabfragen durchführen (z. B. KB-Artikel, eigene Gerätedaten).
- Ticket-Ersteller: Kann Tickets anlegen und kommentieren.
- Portal-Admin: Kann Hardening-Fixes oder Zuweisungen anstoßen.
Die Rollenprüfung findet serverseitig bei jedem einzelnen Tool-Aufruf statt. Manipulationen im Browser sind technisch ausgeschlossen.
2. Scoped Self-Service (Identitätsgrenzen)
Mitarbeiter ohne Admin-Rechte können über die KI ausschließlich Aktionen für ihre eigene Identität veranlassen:- Ein Passwort-Reset oder Gerätesync ist nur möglich, wenn der Benutzerprinzipalname (UPN) exakt mit der E-Mail des angemeldeten Benutzers übereinstimmt.
- Versuche, Accounts anderer Mitarbeiter zu manipulieren, werden serverseitig mit
403 Verweigertgeblockt.
3. Schutz vor Prompt-Injections & Manipulation
- Daten-Instruktions-Trennung: Ticket-Texte und E-Mails von Dritten werden als unvertrauenswürdige Daten behandelt. Befehle wie „Ignoriere alle vorherigen Anweisungen“ werden von den System-Prompts strikt ignoriert.
- Maximale Iterationen: Nach maximal 5 Werkzeug-Runden beendet der Agent den Vorgang, um Endlosschleifen zu verhindern.
- Audit-Dokumentation: Jeder KI-Tool-Aufruf wird im Audit-Log festgehalten.