Entscheidungsbefugnis und operative Kontrolle bei KI

Wenn KI handeln kann, müssen Sie entscheiden, wo sie stoppen soll.

Ein KI-System muss nicht gescheitert sein, damit eine Prüfung sinnvoll ist. Sobald es Geschäftsinformationen lesen, eine Entscheidung empfehlen oder eine Handlung ausführen kann, braucht die Führung Klarheit über Befugnisse, Evidenz und Grenzen.

Die fünf Fragen prüfen Die begrenzte Prüfung ansehen

Eine einfache Befugnislandkarte

Betriebliche Evidenz

KI-System

Empfiehlt

Mensch entscheidet

Handelt

Freigabegrenze

Kunden, Geld, Reputation oder Betrieb

Entscheidend ist die Befugnis, nicht die Bezeichnung

Begriffe wie Assistent, Copilot und Agent werden uneinheitlich verwendet. Maßgeblich ist, was das System in Ihrer Umgebung tatsächlich tun kann.

Antworten

Das System erzeugt eine Antwort aus den bereitgestellten Informationen. Ein Mensch entscheidet weiterhin, was danach geschieht.

Zugreifen

Es kann verbundene Dateien, Datensätze, Nachrichten oder Systeme lesen. Auch reiner Lesezugriff kann Informationen offenlegen oder Entscheidungen beeinflussen.

Empfehlen

Es bewertet Evidenz und schlägt eine Handlung vor. Die Qualität hängt weiterhin von Evidenz, Anweisungen und betrieblichem Kontext ab.

Handeln

Es kann Inhalte erstellen, ändern, veröffentlichen, versenden, kaufen, verschieben oder löschen. Die Folge kann nun Kunden, Geld, Reputation oder Betrieb erreichen.

Fünf Fragen, bevor Sie weitere Befugnisse vergeben

Prüfen Sie einen realen Ablauf. Antworten Sie nicht allgemein und geben Sie keine vertraulichen Finanz-, Kunden- oder Unternehmensdaten in ein öffentliches Tool ein.

Wo tritt KI in den Ablauf ein?
Benennen Sie Aufgabe, Auslöser und beabsichtigtes Ergebnis konkret.
Worauf kann sie zugreifen?
Erfassen Sie Dateien, Datensätze, Nachrichten, Kundendaten und verbundene Systeme, die sie lesen kann.
Was kann sie erstellen, ändern oder versenden?
Trennen Sie Vorschläge von Handlungen mit realen betrieblichen Folgen.
Wo muss ein Mensch freigeben?
Benennen Sie die verantwortliche Person, ihre Entscheidungsgrundlage und ihre Befugnis zum Eingreifen.
Lässt sich das Ergebnis prüfen, stoppen und rückgängig machen?
Stellen Sie sicher, dass Handlungen protokolliert, bei Bedarf unabhängig geprüft und im Fehlerfall korrigiert werden können.

Prompt injection

Ein Dokument kann neben Informationen auch Anweisungen enthalten

Stellen Sie sich eine gefälschte Notiz in einer echten Kundenakte vor. Ein Mensch erkennt möglicherweise, dass sie nicht vom Account-Verantwortlichen stammt. Ein KI-System könnte sie beim Lesen der Datei als Anweisung behandeln. Das ist eine Form von Prompt Injection. Die mögliche Folge hängt davon ab, worauf das System zugreifen kann und welche Befugnisse es erhalten hat.

Kontrollen passend zur möglichen Folge

Umfang

Begrenzen Sie Aufgabe und Systeme auf das tatsächlich Erforderliche.

Berechtigung

Vergeben Sie nur die für diese Aufgabe nötigen Zugriffs- und Handlungsrechte.

Freigabe

Setzen Sie eine befugte Person vor teure, sensible oder schwer rückgängig zu machende Handlungen.

Evidenz

Dokumentieren Sie, welche Grundlage das System nutzte, was es empfahl und was es ausführte.

Stoppen und korrigieren

Unterbrechung und Wiederherstellung gehören in den Ablauf, nicht in eine spontane Notfalllösung.

Das Ergebnis muss nicht lauten: „KI stoppen“

Eine belastbare Prüfung kann jede dieser Entscheidungen stützen:

Fortführen

unverändert fortführen
mit besserer Evidenz fortführen

Bedingungen ändern

Zugriff oder Befugnis begrenzen
eine Freigabe oder Prüfung ergänzen
den Ablauf weiter testen

Stoppen oder nichts ändern

den Einsatz ändern oder beenden
keine weitere Maßnahme ergreifen

Ein Ablauf. Eine folgenreiche Entscheidung.

Prüfung von KI-Befugnis und Entscheidung

Eine klar begrenzte Prüfung für ein Führungsteam, das eine Entscheidung zu einem benannten KI-gestützten Ablauf treffen muss, ohne ein unternehmensweites Programm zu beauftragen.

2.500 € Festpreis

zuzüglich gesetzlicher Umsatzsteuer

Der Entscheidungsvermerk wird abhängig von Zugang und Verfügbarkeit innerhalb von 7 bis 10 Arbeitstagen geliefert.

Passung Ihres Ablaufs prüfen

Enthalten

Entscheidung, behaupteter Nutzen und betrieblicher Kontext
Ablauf sowie Grenzen von Zugriff und Befugnis
menschliche Freigaben und Verantwortlichkeiten
vorhandene Evidenz und weiterhin offene Fragen
schriftlicher Entscheidungsvermerk und Senior-Durchsprache

Nicht enthalten

ein unternehmensweites Verzeichnis sämtlicher KI-Nutzungen
Penetrationstests oder Sicherheitszertifizierungen
Rechts-, Regulierungs- oder Datenschutzberatung
garantierte Einsparungen, Renditen oder Compliance-Ergebnisse
Umsetzung außerhalb des vereinbarten Ablaufs

Wenn die Frage größer als ein einzelner Ablauf ist

Wenn die Evidenz über Marketing, Vertrieb, E-Commerce, Kundenprozesse, Technologie oder Verantwortlichkeiten reicht, kann die Frage in das bestehende Marketing MRI gehören. Das sagen wir, bevor der Umfang wächst. Die Prüfung ist kein automatischer Upsell.

So funktioniert das Marketing MRI

Quellen und Grenzen

Diese Quellen stützen die Kontrollprinzipien. Sie belegen weder, dass jeder KI-Einsatz ein hohes Risiko darstellt, noch dass Ihr aktuelles System unsicher ist.

Schildern Sie die Entscheidung, nicht sensible Daten

Nennen Sie den betroffenen Ablauf, die anstehende Entscheidung und die Bedeutung der möglichen Folge. Wir sagen Ihnen, ob die Frage in die begrenzte Prüfung, in das Marketing MRI oder nicht in unseren Leistungsumfang gehört.

Ein benannter Ablauf
Keine vertraulichen Daten
Eine persönliche Einschätzung der Passung