Logo der schnell.digital GmbH

Artikel

KI-Freigabeprozess: so bleiben KI-Abläufe kontrollierbar

schnell.digital Team
Artikel
Zuletzt aktualisiert:
FreigabeprozessHuman in the LoopAudit-LogKI-Governance
Ein Mann mit Brille sitzt am Schreibtisch und unterschreibt ein Dokument, daneben steht ein aufgeklappter Laptop.

Ein KI-Freigabeprozess legt fest, an welchen Stellen ein Mensch das Ergebnis der KI prüft, bevor der Ablauf weiterläuft. Dazu kommen Rollen, die regeln, wer Abläufe ändern darf, und Protokolle, die jeden Schritt nachvollziehbar machen. So bleibt die Entscheidung bei euch, auch wenn die KI die Vorarbeit leistet.

Dieser Artikel gehört zur Reihe darüber, wie ihr KI im Unternehmen einführt. Er zeigt, wie ihr Freigaben, Fristen und Rollen aufsetzt.

Human in the Loop: warum Kontrolle in den Ablauf gehört

Bei KI fragen Geschäftsführungen oft zuerst, wer am Ende verantwortet, was die KI vorbereitet. Unter den Unternehmen, die KI nutzen, nennen 56 % rechtliche Unsicherheiten als Hemmnis (Bitkom 2026).

Human in the Loop bedeutet, dass ein Mensch an festgelegten Stellen eines automatisierten Ablaufs entscheidet, bevor es weitergeht. Aus der Buchhaltung kennt ihr das als Vier-Augen-Prinzip. Für KI-Abläufe gilt dieselbe Idee: Die KI bereitet vor, ein Mensch gibt frei.

Eine Freigabe lohnt sich überall dort, wo ein Fehler Geld kostet oder nach außen wirkt. Typische Stellen sind Zahlungen ab einem bestimmten Betrag, Angebote mit Sonderrabatt und Antworten an Kunden in heiklen Fällen. Wie das bei Angeboten aussieht, beschreibt der Artikel Angebote mit KI erstellen.

So funktioniert ein Freigabeschritt im AI Kit

Im AI Kit ist die Freigabe ein eigener Schritt im Workflow. Erreicht ein Lauf diesen Schritt, hält er an. Im Posteingang erscheint eine Freigabeanfrage mit einer kurzen Zusammenfassung und den Unterlagen, etwa der Excel-Datei aus einem früheren Schritt. Darunter stehen zwei Knöpfe: Freigeben und Ablehnen.

Die Freigebenden erhalten zusätzlich eine E-Mail mit Link, sofern der Mailversand eingerichtet ist. Weil die Optionen feststehen, funktioniert die Freigabe auch in nächtlichen Läufen, die niemand von Hand startet.

Einstellung Möglichkeiten Hinweis
Freigebende Wer den Lauf gestartet hat, eine Rolle, ein Mitglied oder eine E-Mail-Adresse Bei einer Rolle entscheiden auch alle höheren Rollen
Bedingung Ohne Bedingung bei jedem Lauf, mit Bedingung nur in bestimmten Fällen Zum Beispiel erst ab 5.000 €
Frist Anzahl Stunden oder keine Frist Die Plattform prüft alle 15 Minuten
Bei Fristablauf Ablehnen, Freigeben oder an Admins eskalieren Standard ist Ablehnen
Bei Ablehnung Prozess beenden oder weiterführen Standard ist Beenden

Was passiert, wenn niemand entscheidet?

Läuft die Frist ab, wird die Anfrage standardmäßig abgelehnt. Alternativ geht eine E-Mail an die Admins des Arbeitsbereichs, die dann ebenfalls entscheiden dürfen. Die dritte Option gibt den Lauf bei Fristablauf frei. Das bedeutet: Schweigen zählt als Ja. Wählt diese Option nur dort, wo eine ausbleibende Antwort wirklich als Zustimmung gelten darf.

Was nach einer Ablehnung passiert

Mit „Prozess beenden“ endet der Lauf, und die folgenden Schritte entfallen. Mit „Prozess weiterführen“ können die folgenden Schritte nach der Entscheidung verzweigen, etwa für eine Mail an den Lieferanten bei abgelehnter Rechnung. Einen abgelehnten Lauf könnt ihr später ab der Freigabe wiederholen, die dann neu anfragt.

Beispiel: Rechnungsfreigabe mit Vier-Augen-Prinzip

Ein typischer Ablauf für Eingangsrechnungen sieht so aus:

  1. Eine Rechnung kommt per E-Mail an.
  2. Ein KI-Schritt liest Lieferant, Rechnungsnummer und Betrag aus.
  3. Ein Excel-Schritt trägt die Werte in die Rechnungsliste ein.
  4. Liegt der Betrag über 5.000 €, prüft die Buchhaltung die Werte und das PDF im Posteingang. Sie hat 48 Stunden Zeit, danach geht die Anfrage an die Admins.
  5. Nach der Freigabe legt der Ablauf das PDF im Zahlungsordner ab. Bei einer Ablehnung endet der Lauf, und im Zahlungsordner landet nichts.

Rechnungsfreigabe: Die KI liest die Rechnung aus und trägt sie in die Rechnungsliste ein. Bis 5.000 Euro wird das PDF direkt abgelegt. Darüber prüft die Buchhaltung mit 48 Stunden Frist. Freigegeben wird abgelegt, abgelehnt endet der Lauf

Rechnungen unter der Schwelle laufen ohne Wartezeit durch. So prüft die Buchhaltung gezielt die Fälle, in denen ein Fehler teuer wäre.

Rollen: wer Automationen ändern darf

Eine Freigabe nützt wenig, wenn jeder den Ablauf umbauen kann. Das AI Kit kennt fünf Rollen, die jeweils für einen Arbeitsbereich gelten:

  • Admin: darf alles, dazu Lizenzen einspielen, Arbeitsbereiche anlegen und die Admin-Rolle vergeben
  • Manager: verwaltet Automationen, Wissen, Modelle und Benutzer und sieht das Protokoll
  • Editor: legt Automationen an und bearbeitet sie, darf sie aber nicht löschen
  • Monitor: liest alles im Arbeitsbereich und darf Läufe starten, ändert aber nichts
  • AgentUser: arbeitet nur im Posteingang und sieht den Editor nicht

Empfohlen ist diese Grundaufteilung: ein oder zwei Admins, wenige Personen, die Automationen bauen, und alle anderen als AgentUser. Für interne Revision oder externe Prüfer eignet sich die Rolle Monitor. Vergebt die Rolle Manager mit Bedacht, denn Manager dürfen Personen einladen und Rollen ändern. Ein Rollen- und Freigabekonzept für zwei Anwendungsfälle erarbeiten wir mit euch im KI-Programm, einem unserer Einführungspakete.

KI nachvollziehbar machen: Laufprotokoll und Audit-Log

Zwei Protokolle beantworten unterschiedliche Fragen. Das Laufprotokoll zeigt, was in einem einzelnen Lauf passiert ist. Es hält den Auslöser fest und bei Starts durch einen Menschen auch die Person. Dazu kommen Start- und Endzeit jedes Schritts, der Status und gegebenenfalls der Fehler. Die Details eines Laufs enthalten die vollständigen Werte, auch die Anfragen an das Modell. Alle Rollen ab Monitor können sie lesen. Was das für personenbezogene Daten bedeutet, beschreibt der Artikel ChatGPT und Datenschutz im Unternehmen.

Das Audit-Log heißt im AI Kit „Protokoll“ und zeigt, wer wann was im Arbeitsbereich getan hat. Es erfasst Änderungen an Automationen, Wissen, Modellen und Einstellungen sowie Rollenänderungen. Dazu kommen Starts, Downloads, verweigerte Zugriffe und Anmeldungen, auch fehlgeschlagene. Bei Änderungen nennt es die geänderten Felder, nie deren Werte. Prompts, Nachrichten und Dokumente stehen nicht darin, es enthält nur Metadaten.

Auch jede Freigabeentscheidung landet im Protokoll, ohne den Text eines Kommentars. Jeder Eintrag trägt eine Prüfsumme, in die der vorherige Eintrag eingeht. So erkennt die Plattform, ob jemand Einträge nachträglich geändert oder entfernt hat. Ihr könnt das Protokoll als CSV-Datei exportieren und an eure zentrale Protokollierung weiterleiten. Standardmäßig bleiben die Einträge 365 Tage erhalten.

Wichtig für die Planung: Das Audit-Log ist in den Lizenzen Cloud Prime, Inhouse Prime und Inhouse Enterprise enthalten. Braucht ihr es für Prüfungen, wählt eine dieser Lizenzen von Anfang an. Die Lizenzen vergleicht die Preisübersicht des AI Kit.

Grenzen, die ihr kennen solltet

  • Freigaben kennen nur Freigeben und Ablehnen. Für Rückfragen mit freier Antwort gibt es interaktive Schritte.
  • Workflows, die ein Agent als Werkzeug aufruft, dürfen keinen Freigabeschritt enthalten. Freigaben gehören in einen normalen Workflow.
  • Eine feinere Abstufung, etwa Automationen sehen ohne Zugriff auf die Details der Läufe, gibt es derzeit nicht. Plant Arbeitsbereiche und Rollen entsprechend.

Häufige Fragen

Muss jedes KI-Ergebnis freigegeben werden?

Nein. Mit einer Bedingung greift die Freigabe nur in bestimmten Fällen, etwa ab einem Betrag von 5.000 €. Alle anderen Läufe gehen ohne Wartezeit weiter. Legt die Schwelle dort fest, wo ein Fehler teuer wäre oder nach außen wirkt.

Was passiert, wenn die freigebende Person im Urlaub ist?

Legt die Freigebenden am besten als Rolle fest. Dann dürfen alle mit dieser Rolle oder einer höheren entscheiden. Mit einer Frist wird die Anfrage nach Ablauf zusätzlich abgelehnt oder an die Admins eskaliert.

Wer kann das Audit-Log einsehen?

Manager und Admins des Arbeitsbereichs. Für Prüfer exportiert ihr das Protokoll als CSV-Datei. Läufe und Kennzahlen können Prüfer mit der Rolle Monitor selbst lesen.

Reichen Freigaben für die Pflichten aus dem AI Act?

Das lässt sich nicht pauschal sagen, denn die Pflichten hängen davon ab, wofür ihr KI einsetzt. Freigaben und Protokolle zeigen, wie ihr Kontrolle organisiert. Die Bewertung für euren Einsatz trefft ihr mit eurer Rechtsberatung. Was die Verordnung zur Schulung verlangt, beschreibt der Artikel KI-Kompetenz nach AI Act.

Euer nächster Schritt

Im kostenlosen Erstgespräch schauen wir auf eure Abläufe und klären, an welchen Stellen Menschen entscheiden sollten und welche Rollen dazu passen.

Quellen

  • Bitkom: Presseinformation „Erstmals nutzt die Mehrheit der Unternehmen KI“, 14.09.2026, und Präsentation „KI in der deutschen Wirtschaft: Status quo und Ausblick“, 2026. Befragt wurden 603 Unternehmen ab 20 Beschäftigten.