Entscheidungsbefugnis und operative Kontrolle bei KI
Wenn KI handeln kann, müssen Sie entscheiden, wo sie stoppen soll.
Ein KI-System muss nicht gescheitert sein, damit eine Prüfung sinnvoll ist. Sobald es Geschäftsinformationen lesen, eine Entscheidung empfehlen oder eine Handlung ausführen kann, braucht die Führung Klarheit über Befugnisse, Evidenz und Grenzen.
Empfiehlt
Mensch entscheidet
Handelt
Freigabegrenze
Kunden, Geld, Reputation oder Betrieb
Entscheidend ist die Befugnis, nicht die Bezeichnung
Begriffe wie Assistent, Copilot und Agent werden uneinheitlich verwendet. Maßgeblich ist, was das System in Ihrer Umgebung tatsächlich tun kann.
01
Antworten
Das System erzeugt eine Antwort aus den bereitgestellten Informationen. Ein Mensch entscheidet weiterhin, was danach geschieht.
02
Zugreifen
Es kann verbundene Dateien, Datensätze, Nachrichten oder Systeme lesen. Auch reiner Lesezugriff kann Informationen offenlegen oder Entscheidungen beeinflussen.
03
Empfehlen
Es bewertet Evidenz und schlägt eine Handlung vor. Die Qualität hängt weiterhin von Evidenz, Anweisungen und betrieblichem Kontext ab.
04
Handeln
Es kann Inhalte erstellen, ändern, veröffentlichen, versenden, kaufen, verschieben oder löschen. Die Folge kann nun Kunden, Geld, Reputation oder Betrieb erreichen.
Fünf Fragen, bevor Sie weitere Befugnisse vergeben
Prüfen Sie einen realen Ablauf. Antworten Sie nicht allgemein und geben Sie keine vertraulichen Finanz-, Kunden- oder Unternehmensdaten in ein öffentliches Tool ein.
Wo tritt KI in den Ablauf ein?
Benennen Sie Aufgabe, Auslöser und beabsichtigtes Ergebnis konkret.
Worauf kann sie zugreifen?
Erfassen Sie Dateien, Datensätze, Nachrichten, Kundendaten und verbundene Systeme, die sie lesen kann.
Was kann sie erstellen, ändern oder versenden?
Trennen Sie Vorschläge von Handlungen mit realen betrieblichen Folgen.
Wo muss ein Mensch freigeben?
Benennen Sie die verantwortliche Person, ihre Entscheidungsgrundlage und ihre Befugnis zum Eingreifen.
Lässt sich das Ergebnis prüfen, stoppen und rückgängig machen?
Stellen Sie sicher, dass Handlungen protokolliert, bei Bedarf unabhängig geprüft und im Fehlerfall korrigiert werden können.
Prompt injection
Ein Dokument kann neben Informationen auch Anweisungen enthalten
Stellen Sie sich eine gefälschte Notiz in einer echten Kundenakte vor. Ein Mensch erkennt möglicherweise, dass sie nicht vom Account-Verantwortlichen stammt. Ein KI-System könnte sie beim Lesen der Datei als Anweisung behandeln. Das ist eine Form von Prompt Injection. Die mögliche Folge hängt davon ab, worauf das System zugreifen kann und welche Befugnisse es erhalten hat.
Kontrollen passend zur möglichen Folge
Umfang
Begrenzen Sie Aufgabe und Systeme auf das tatsächlich Erforderliche.
Berechtigung
Vergeben Sie nur die für diese Aufgabe nötigen Zugriffs- und Handlungsrechte.
Freigabe
Setzen Sie eine befugte Person vor teure, sensible oder schwer rückgängig zu machende Handlungen.
Evidenz
Dokumentieren Sie, welche Grundlage das System nutzte, was es empfahl und was es ausführte.
Stoppen und korrigieren
Unterbrechung und Wiederherstellung gehören in den Ablauf, nicht in eine spontane Notfalllösung.
Das Ergebnis muss nicht lauten: „KI stoppen“
Eine belastbare Prüfung kann jede dieser Entscheidungen stützen:
Fortführen
- unverändert fortführen
- mit besserer Evidenz fortführen
Bedingungen ändern
- Zugriff oder Befugnis begrenzen
- eine Freigabe oder Prüfung ergänzen
- den Ablauf weiter testen
Stoppen oder nichts ändern
- den Einsatz ändern oder beenden
- keine weitere Maßnahme ergreifen
Ein Ablauf. Eine folgenreiche Entscheidung.
KI-Befugnis-Check
Eine klar begrenzte Prüfung für ein Führungsteam, das eine Entscheidung zu einem benannten KI-gestützten Ablauf treffen muss, ohne ein unternehmensweites Programm zu beauftragen.
2.500 € Festpreis
zuzüglich gesetzlicher Umsatzsteuer
Der Entscheidungsvermerk wird abhängig von Zugang und Verfügbarkeit innerhalb von 7 bis 10 Arbeitstagen geliefert.
Passung des KI-Befugnis-Checks prüfenBis zu drei Abläufe in zwei Funktionen.
Bereichsübergreifende KI-Befugnisprüfung
Für Führungsteams, deren Befugnisfrage mehrere Systeme, Verantwortliche oder mehr als eine Unternehmensfunktion verbindet.
Ab 7.500 €
zuzüglich gesetzlicher Umsatzsteuer
Der Entscheidungsvermerk wird abhängig von Zugang und Verfügbarkeit innerhalb von 10 bis 15 Arbeitstagen geliefert.
Passenden Prüfungsumfang klärenEnthalten
- Entscheidung, behaupteter Nutzen und betrieblicher Kontext
- Ablauf sowie Grenzen von Zugriff und Befugnis
- menschliche Freigaben und Verantwortlichkeiten
- vorhandene Evidenz und weiterhin offene Fragen
- schriftlicher Entscheidungsvermerk und Senior-Durchsprache
Nicht enthalten
- ein unternehmensweites Verzeichnis sämtlicher KI-Nutzungen
- Penetrationstests oder Sicherheitszertifizierungen
- Rechts-, Regulierungs- oder Datenschutzberatung
- garantierte Einsparungen, Renditen oder Compliance-Ergebnisse
- Umsetzung außerhalb des vereinbarten Ablaufs
Wenn die Frage über drei Abläufe oder zwei Funktionen hinausgeht
Ist KI nur ein Teil eines größeren Problems in Marketing, Vertrieb, E-Commerce, Kundenprozessen, Messung oder Verantwortung, wechselt die Arbeit in das vollständige Marketing MRI. Keine der kleineren Prüfungen wird stillschweigend zu einem vergünstigten MRI ausgeweitet.
Wenn Ihre unmittelbare Frage lautet, ob KI-Erwähnungen, Quellenverweise oder Verweisbesuche eine wirtschaftliche Entscheidung tragen, nutzen Sie zuerst den Evidenzcheck zur KI-Sichtbarkeit.
Quellen und Grenzen
Diese Quellen stützen die Kontrollprinzipien. Sie belegen weder, dass jeder KI-Einsatz ein hohes Risiko darstellt, noch dass Ihr aktuelles System unsicher ist.