Software Products & Security Labs
AuthorityLab
Deterministische Prüfung von Berechtigungsänderungen für KI-Agenten, die in Repositories definiert sind.
Kurzfassung
AuthorityLab ist ein Sicherheitsforschungs- und Produktentwicklungsprojekt. Es soll analysieren, welche Befugnisse ein in einem Repository konfigurierter KI-Agent hat, wie sich diese Befugnisse durch Änderungen verschieben und ob eine Änderung erlaubt, angepasst oder blockiert werden sollte. Das Projekt befindet sich in der Validierungsphase.
Ausgangslage
KI-Agenten werden zunehmend über Dateien im Repository konfiguriert: Hooks, Skripte, Befehle, MCP-Server. Eine kleine Änderung kann einem Agenten unbemerkt mehr Rechte geben, als beabsichtigt war – etwa durch Delegation oder durch Umgehung bestehender Schranken. Diese Verschiebungen sind schwer zu erkennen, weil sie sich über mehrere Dateien und Ebenen verteilen.
Meine Rolle
Eigenes Forschungs- und Entwicklungsprojekt: Konzept, Entscheidungsmodell, Architektur und Validierungsplanung.
Lösung
Der geplante deterministische Entscheidungskern soll den Berechtigungszustand vor und nach einer Änderung vergleichen (Transitive Authority Regression Check) und ein nachvollziehbares Ergebnis liefern: ALLOW, MODIFY oder BLOCK. Unbekannte Elemente sollen weder automatisch als sicher noch automatisch als kritisch eingestuft, sondern ausdrücklich als UNKNOWN ausgewiesen werden. Jede Entscheidung soll mit erklärbaren, prüfbaren Belegen begründet werden.
ALLOW, MODIFY oder BLOCK?
Kleines Lernbeispiel: Wählen Sie eine Konfigurationsänderung und sehen Sie, wie der Entscheidungskern sie einordnet. Statisch, ohne Ausführung.
Änderung auswählen
ALLOW · Erlaubt
Keine neue Befugnis: Lesezugriff bleibt innerhalb des bereits erlaubten Bereichs.
- ALLOW – Erlaubt
- MODIFY – Anpassen
- BLOCK – Blockieren
- UNKNOWN – Unbekannt
Technologien
Wichtige Funktionen
- Transitive Authority Regression Check über Repository-Konfiguration
- Deterministischer Entscheidungskern mit ALLOW / MODIFY / BLOCK
- Explizite UNKNOWN-Klasse statt stillschweigender Annahmen
- Erkennung von Delegation und Umgehung bestehender Schranken
- Erklärbare, auditierbare Belege je Entscheidung
- Geplante lokale und CI-taugliche Kommandozeile
- Konzept für eine schlanke Web-GUI mit bereinigter Berichtshistorie
Sicherheit & Performance
- Kandidaten-Befehle, Hooks, Skripte oder MCP-Server werden nie ausgeführt – die Analyse ist rein statisch
- Geheimniswerte werden weder gelesen noch gespeichert
- Berichte werden vor der Anzeige bereinigt
Ergebnis
- Definiertes Entscheidungsmodell mit dokumentierter Semantik
- Dokumentierte Architektur und Validierungsplan für CLI und Web-Oberfläche
Gehostetes Produkt, Laufzeit-Durchsetzung, Attestierung, Pilotkunden oder kommerzielle Validierung sind nicht abgeschlossen und werden hier nicht behauptet.