KI kontrollieren, bevor sie agiert, nicht erst danach
Wenn KI tatsächliche Auswirkungen auf Kunden, Berechtigungen und Budgetausgaben hat, benötigen Sie eine Autorisierung vor der Ausführung und vollständige Nachverfolgbarkeit – eine dreistufige Pyramide, die jede Anfrage vor ihrer Ausführung prüft.
Wenn KI agieren kann, muss die Steuerung vor der Ausführung erfolgen.
Eine nachträgliche Überprüfung war sinnvoll, solange KI nur Analysen erstellte. Sobald ein Mitarbeiter Berechtigungen ändern, Budgets ausgeben oder Kunden kontaktieren kann, dokumentiert eine nachträgliche Überprüfung lediglich bereits bestehende Fehler. Die Regulierungsbehörden haben die Konsequenzen verdeutlicht: Gemäß dem EU-KI-Gesetz unterliegt risikoreiche KI Dokumentations-, Aufsichts- und Transparenzpflichten. Marktüberwachungsbehörden können die Rücknahme nicht konformer Systeme anordnen, und die Strafen betragen bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist.
Das interne Risiko ist genauso real. Analysten stellen fest, dass der Großteil der unautorisierten KI-Aktivitäten nicht von Angreifern, sondern von gewöhnlichen Richtlinienverstößen ausgeht – übermäßige Weitergabe von Daten, unzulässige Nutzung, fehlerhaftes Agentenverhalten –, was genau durch Autorisierung vor der Ausführung und vollständige Nachverfolgbarkeit verhindert werden soll. Governance wandelt sich von einem Richtliniendokument hin zu einer durchgesetzten Laufzeitsteuerung, und dedizierte KI-Governance-Funktionen werden vom seltenen zum Standard.
- Für KI-Verpflichtungen mit hohem Risiko gelten ab 2026 Durchsetzungsbefugnisse und Strafen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes. — EU-KI-Gesetz – Europäische Kommission ↗
- Bis 2026 werden mindestens 80 % der unautorisierten KI-Transaktionen auf interne Richtlinienverstöße zurückzuführen sein – nicht auf externe Angriffe. — Gartner AI TRiSM (2025) ↗
- Bis 2028 werden 25 % der großen Unternehmen über ein eigenes KI-Governance-Team verfügen, gegenüber unter 1 % im Jahr 2023. — Gartner AI TRiSM (2025) ↗
Warum dies bis heute ungeklärt ist
Eine nachträgliche Überprüfung kann eine automatische Aktion nicht verhindern.
Sobald ein Mitarbeiter gehandelt hat – beispielsweise eine Berechtigung geändert, ein Budget ausgegeben oder einen Kunden kontaktiert hat – dokumentiert eine nachgelagerte Überprüfung lediglich den entstandenen Schaden. Kontrollmechanismen, die nach der Ausführung aktiv bleiben, sind lediglich Vorfallberichte und keine Schutzmaßnahmen.
Regulatorisches Risiko ist nun finanzieller Natur.
Hochrisiko-KI bringt nun Dokumentations-, Aufsichts- und Transparenzpflichten, Marktrücknahmebefugnisse und umsatzabhängige Strafen mit sich. Governance, die im Moment des Handelns nicht nachweisbar ist, wird zu einem direkten finanziellen und rechtlichen Risiko.
Die Strafen nach dem EU-KI-Gesetz für risikoreiche KI betragen mindestens 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist). EU-KI-Gesetz – Europäische Kommission ↗Die meisten Vorfälle sind intern und keine Angriffe.
Der häufigste Fehler ist keine Sicherheitsverletzung, sondern übermäßige Weitergabe von Informationen, unzulässige Nutzung und fehlerhaftes Agentenverhalten innerhalb Ihrer eigenen Richtlinien. Perimetersicherheit ist hier wirkungslos; nur die Autorisierung vor der Ausführung kann Abhilfe schaffen.
Mindestens 80 % der unautorisierten KI-Transaktionen bis 2026 werden auf Verstöße gegen interne Richtlinien zurückzuführen sein. — Gartner AI TRiSM (2025) ↗Zwei Regelsätze für Menschen und KI
Wenn Mitarbeiter und Agenten unterschiedlichen Logiken folgen, entstehen Lücken zwischen beiden – eine für einen Menschen verbotene Aktion wird durchgelassen, weil der Agentenpfad nicht denselben Regeln folgt.
Autorisierung vor der Ausführung mit vollständiger Rückverfolgbarkeit
Jede Anfrage wird geprüft, bevor sie eine dreistufige Pyramide durchläuft: Entität (welche object?), dann Aktion (welche Operation?) und schließlich Umfang (wie weit?). Aktionen lassen sich in vier eskalierende Typen unterteilen: Leseanalyse, Empfehlung, kontrollierte Schreibvorgänge und Ausführung mit hohem Risiko. Jeder Typ unterliegt zunehmend strengeren Autorisierungsanforderungen. Je höher die Auswirkung, desto mehr Kontrollen durchläuft eine Anfrage, bevor sie ausgeführt wird. Agenten sind auf den Workflow-Kontext beschränkt: Sie sehen nur die vom Workflow bereitgestellten Informationen, verwenden nur autorisierte Tools und generieren nur zulässige Inhalte.
Menschliche und KI-gesteuerte Bediener arbeiten nach derselben Governance-Logik – einem einzigen Regelsatz statt zweien – und jede Aktion wird mit Szenario, Knoten, Beurteilung, Regel und Ergebnis protokolliert, wodurch jede Entscheidung nachvollziehbar und widerrufbar ist. Der Datenspeicherort ist konfigurierbar durch Azure Region (USA, EU, Asien) und die Plattform ist SOC 2 Type II geprüft und ISO 27001 zertifiziert – die Kontrolle wird also zur Laufzeit durchgesetzt und nicht in einem Richtliniendokument festgelegt.
So funktioniert es
Die Funktionsweise hinter Governance & Compliance.
Vier eskalierende Aktionstypen
Nur-Lese-Analyse, Empfehlung, kontrollierte Schreibvorgänge und Ausführung mit hohem Risiko erfordern eine zunehmend strengere Governance. Je größer die potenzielle Auswirkung ist, desto mehr Autorisierung muss eine Anforderung vor der Ausführung klären.
Entität → Aktion → Umfangspyramide
Jede Anfrage wird auf drei Ebenen ausgewertet – welches Objekt (Entität), welche Operation (Aktion) und wie weit sie reicht (Umfang). Die Autorisierung erfolgt vor der Ausführung, sodass unzulässige Aktionen nie ausgelöst werden.
Vollständige Rückverfolgbarkeit
Menschliche und KI-Betreiber teilen die gleiche Governance-Logik. Jede Aktion wird mit Szenario, Knoten, Beurteilung, Regel und Ergebnis protokolliert, sodass jede Entscheidung im Nachhinein überprüfbar und widerrufbar ist.
So sieht gute Qualität aus
Richtungsweisende Ergebnisse, die auf dem oben beschriebenen Mechanismus und unabhängigen Benchmarks basieren – ein Ziel, auf das man hinarbeiten kann, kein garantiertes Ergebnis.
Nicht zulässige Aktionen werden nie ausgeführt.
Die Autorisierung wird vor der Ausführung anhand der Pyramide „Entität – Aktion – Geltungsbereich“ geprüft. So wird eine Aktion außerhalb der Richtlinien direkt am Gate gestoppt – Risiken werden verhindert, nicht nachträglich überprüft.
Auditbereit durch Bauausführung
Jede Aktion wird mit ihrer Regel und ihrem Ergebnis protokolliert, sodass Entscheidungen reproduzierbar und widerrufbar sind – die Art von Beweisen, die Hochrisiko-KI-Regime jetzt von Anbietern und Betreibern verlangen, die sie auf Anfrage vorlegen müssen.
Für KI mit hohem Risiko gelten ab 2026 Dokumentations- und Aufsichtspflichten. EU-KI-Gesetz – Europäische Kommission ↗Ein Governance-Modell für Menschen und Akteure
Menschen und KI teilen sich einen Regelsatz und einen Prüfpfad und schließen so die interne Verletzungslücke, die Analysten als Hauptquelle für nicht autorisierte KI-Aktivitäten identifizieren.
Mindestens 80 % der unautorisierten KI-Transaktionen bis 2026 lassen sich auf Verstöße gegen interne Richtlinien zurückführen. Gartner AI TRiSM (2025) ↗Häufig gestellte Fragen
Wo können unsere Daten gespeichert werden?
Der Datenspeicherort ist konfigurierbar durch Azure Region – USA, EU oder Asien – damit Sie die Bereitstellung an Ihre regulatorischen und Aufenthaltsbestimmungen anpassen können. Die Plattform ist SOC 2 Type II geprüft, GDPR konform und ISO 27001 zertifiziert.
Wie kann verhindert werden, dass KI-Agenten ihre Kompetenzen überschreiten?
Agenten sind auf den Workflow-Kontext beschränkt: Sie sehen nur die vom Workflow bereitgestellten Informationen, verwenden nur autorisierte Tools und generieren nur zulässige Inhalte. Jede Anfrage wird vor der Ausführung anhand der Entität → Aktion → Bereichspyramide geprüft, sodass die Autorisierung vor der Ausführung und nicht nachträglich erfolgt.
Können wir prüfen und rückgängig machen, was eine KI getan hat?
Ja. Alle KI-Aktionen werden mit vollständiger Nachverfolgbarkeit von Szenario, Knoten, Entscheidung, Regel und Ergebnis protokolliert und sind auditierbar und widerrufbar. Menschliche und KI-Operatoren arbeiten mit derselben Governance-Logik, sodass ein einheitlicher Audit-Trail für beide existiert.
Weitere CIO-Lösungen
Übersicht →Sehen Sie es in Ihren eigenen Zahlen.
Buchen Sie einen Rundgang oder modellieren Sie den LTV:CAC-Aufwärtstrend mit dem ROI-Rechner.