Logo der schnell.digital GmbH

Artikel

KI im Unternehmen einführen: Fahrplan für den Mittelstand

schnell.digital Team
Artikel
Zuletzt aktualisiert:
KI-EinführungKI im MittelstandKI-FahrplanKI-Kompetenz
Ein Mann stellt am Flipchart einen Plan mit Diagrammen vor, zwei Personen am Besprechungstisch hören zu.

Um KI im Unternehmen einzuführen, wählt ihr zuerst einen Ablauf, der oft vorkommt und dessen Ergebnis ein Mensch prüft. Dann bereitet ihr das nötige Wissen auf, klärt Datenschutz und Betrieb und messt ab dem ersten Tag, was die KI erledigt. Erst wenn dieser Ablauf an echten Vorgängen funktioniert, kommt der nächste dazu.

Dieser Artikel beschreibt den Weg in fünf Schritten. Er nennt auch die Stellen, an denen KI-Projekte erfahrungsgemäß klemmen, und zeigt, wie ihr den Erfolg messbar macht.

Wo Unternehmen in Deutschland 2026 stehen

Erstmals setzt die Mehrheit der Unternehmen in Deutschland KI ein. Laut Bitkom nutzen 57 % der Unternehmen ab 20 Beschäftigten im Jahr 2026 KI, ein Jahr zuvor waren es 36 %. Der Einsatz bleibt aber oft an der Oberfläche. 87 % der Unternehmen, die KI nutzen, schöpfen das Potenzial nach eigener Einschätzung wenig oder gar nicht aus (Bitkom 2026).

Als Hemmnisse nennen die KI-Nutzer vor allem den Datenschutz (66 %), rechtliche Unsicherheiten (56 %) und schwer kalkulierbare Kosten (54 %). Unternehmen ohne KI fehlt am häufigsten das technische Know-how (85 %). KI-Agenten, die Aufgaben über mehrere Schritte selbstständig erledigen, setzen erst 11 % der Unternehmen ein, die KI nutzen, planen oder diskutieren (Bitkom 2026).

Für euch heißt das: Wer heute anfängt, sollte Datenschutz und Kosten vom ersten Tag an klären. Ebenso wichtig ist ein Nutzen, den ihr intern mit Zahlen belegen könnt.

Warum KI-Projekte im Pilotstadium hängen bleiben

Wir kennen die Stellen, an denen KI-Projekte erfahrungsgemäß klemmen. Diese drei begegnen uns in fast jedem Unternehmen.

Der Ablauf ist nicht beschrieben

Viele Pilotprojekte starten mit einem Werkzeug und suchen danach eine passende Aufgabe. Ein KI-Assistent kann aber nur einen Ablauf unterstützen, den jemand beschreiben kann. Was kommt herein, welche Unterlagen braucht es, und wer entscheidet am Ende? Steckt dieses Wissen nur in den Köpfen einzelner Kolleginnen und Kollegen, wird jedes Ergebnis der KI zur Diskussion.

Niemand hat festgelegt, woran Erfolg gemessen wird

Ohne Ausgangswert bleibt nach dem Pilot nur ein Gefühl. Manche finden die Ergebnisse hilfreich, andere sehen vor allem den Aufwand. Wenn ihr vorher nicht wisst, wie lange ein Vorgang heute dauert, könnt ihr später keine Entscheidung begründen.

Zu viele Ideen gleichzeitig

Nach dem ersten Workshop liegt oft eine lange Liste möglicher Einsatzfelder auf dem Tisch. Wer fünf davon parallel testet, verteilt Zeit und Aufmerksamkeit so dünn, dass keine Idee fertig wird. Ein einziger Ablauf, der im Alltag läuft, überzeugt intern mehr als mehrere halbe Versuche.

KI im Unternehmen einführen: der Fahrplan in fünf Schritten

Fahrplan in fünf Schritten: ersten Ablauf auswählen, Wissen und Dokumente vorbereiten, Datenschutz und Betrieb klären, Pilot an echten Vorgängen umsetzen, auswerten und mit dem nächsten Ablauf ausbauen

Schritt 1: Den ersten Ablauf auswählen

Ein guter Startprozess erfüllt vier Merkmale:

  • Er wiederholt sich. Der Vorgang kommt jede Woche viele Male vor.
  • Er stützt sich auf Dokumente. Die Antworten stehen in Preislisten, Handbüchern, Richtlinien oder früheren Angeboten.
  • Er folgt klaren Regeln. Ihr könnt beschreiben, wann ein Ergebnis richtig ist.
  • Sein Aufwand ist heute messbar. Ihr wisst ungefähr, wie viele Vorgänge anfallen und wie lange einer dauert.

Im Projektgeschäft erfüllen oft drei Abläufe diese Merkmale: die Erstellung von Angeboten (KI-Angebotsassistent), Anfragen im Service-Postfach (KI-Kundenservice) und die Fragen neuer Mitarbeitender (KI-Onboarding-Assistent). Wie das im Detail aussieht, zeigen die Artikel Angebote mit KI erstellen und Kundenanfragen mit KI beantworten. Die folgende Tabelle hilft bei der Einordnung.

Guter erster Ablauf Eher für später
Viele gleichartige Vorgänge pro Woche Seltene Einzelfälle
Die Antworten stehen in Dokumenten Die Antworten hängen von Live-Daten aus mehreren Systemen ab
Ein Mensch prüft jedes Ergebnis Das Ergebnis geht ohne Prüfung an Kunden
Klare Regeln, wann ein Ergebnis stimmt Die Entscheidung beruht auf Erfahrung, die niemand aufgeschrieben hat

Schritt 2: Wissen und Dokumente vorbereiten

Ein KI-Assistent antwortet nur so gut wie die Unterlagen, auf die er zugreift. Sammelt die Dokumente, mit denen eure Fachleute den Ablauf heute bearbeiten. Veraltete Preislisten und doppelte Versionen sortiert ihr dabei aus. Für jedes Dokument legt ihr fest, wer es künftig pflegt. Wie ihr dabei vorgeht, beschreibt der Artikel Wissensbasis für KI aufbauen.

Das Verfahren dahinter heißt Retrieval-Augmented Generation, kurz RAG. RAG ist ein Verfahren, bei dem die KI zu jeder Frage passende Stellen in euren Dokumenten sucht und ihre Antwort daraus formuliert. So stützt sich die Antwort auf euer Firmenwissen und lässt sich bis zur Quelle zurückverfolgen.

Schritt 3: Datenschutz und Betrieb klären

Datenschutzbeauftragte und IT stellen erfahrungsgemäß zuerst diese Fragen:

  • Wo werden die Daten verarbeitet, in der Cloud oder auf eigenen Servern?
  • Gibt es mit jedem Anbieter, der Daten verarbeitet, einen Auftragsverarbeitungsvertrag?
  • Werden personenbezogene Daten vor dem Aufruf des Sprachmodells pseudonymisiert?
  • Wer darf was im System tun, und lässt sich nachvollziehen, wer was geändert hat?

Das schnell.digital AI Kit läuft in Rechenzentren in Deutschland oder auf euren eigenen Servern. Personenbezogene Daten lassen sich vor dem Modellaufruf pseudonymisieren. Rollen legen fest, wer Automationen und Wissen bearbeitet und wer nur den Posteingang nutzt. In den Lizenzen Cloud Prime, Inhouse Prime und Inhouse Enterprise hält ein Audit-Log fest, wer wann was geändert hat. Die Bewertung für euren konkreten Fall trefft ihr gemeinsam mit euren Datenschutzbeauftragten. Mehr dazu in den Artikeln ChatGPT und Datenschutz im Unternehmen und lokale KI ohne Cloud.

Schritt 4: Einen Pilot an echten Vorgängen umsetzen

Bis ein Assistent an echten Vorgängen arbeitet, vergehen üblicherweise 6 bis 8 Wochen. In dieser Zeit wird er für den gewählten Ablauf eingerichtet, das Wissen angebunden und mit echten Fällen getestet. Dabei gilt von Anfang an eine feste Regel: Die KI bereitet einen Entwurf vor, ein Mensch prüft und entscheidet. Im AI Kit hält ein Freigabeschritt den Ablauf an, bis jemand im Posteingang freigibt oder ablehnt. Wie ihr solche Freigaben in KI-Prozesse einbaut, lest ihr im eigenen Artikel.

Am Ende steht eine Abnahme. Dort prüft ihr, ob der Ablauf an echten Fällen so funktioniert, wie ihr es vorher festgelegt habt. Unser Umsetzungspaket begleitet euch drei Monate lang und endet mit der Abnahme an fünf echten Vorgängen.

Schritt 5: Ergebnisse auswerten und den nächsten Ablauf planen

Nach der Abnahme läuft der Assistent im Alltag. Jetzt zeigt sich, ob er die erwartete Entlastung bringt. Erst wenn die Zahlen stimmen, nehmt ihr den nächsten Ablauf dazu. Wissensbasis, Regeln und Betrieb aus dem ersten Ablauf nutzt ihr dabei weiter, deshalb geht jeder weitere Ablauf erfahrungsgemäß schneller.

Erfolg messen: Kennzahlen für die KI-Einführung

Legt vor dem Start fest, was ihr messt. Bewährt haben sich diese Kennzahlen:

  • Durchlaufzeit je Vorgang, vom Eingang bis zum Ergebnis
  • Anzahl der Vorgänge pro Woche
  • Anteil der Entwürfe, die ohne größere Änderung freigegeben werden
  • Nacharbeit und Rückfragen nach dem Versand

Erhebt diese Werte vor dem Pilot zwei bis vier Wochen lang von Hand. Nur so habt ihr später einen Vergleich.

Ab der Lizenz Cloud Medium und in allen Inhouse-Lizenzen zeigt das AI Kit Metriken. Dort seht ihr für jede Automation, wie oft sie gelaufen ist, wie lange jeder Schritt gedauert hat und ob er erfolgreich war. Dazu kommt der Verbrauch an Token, aus dem die Plattform die geschätzten Kosten beim KI-Anbieter berechnet. Die Zahlen lassen sich als CSV-Datei exportieren. Zu jedem Lauf gibt es ein Protokoll mit allen Schritten, Modellaufrufen und Wissensabrufen. Die Zeit, die eure Mitarbeitenden mit Prüfen und Freigeben verbringen, erfasst die Plattform nicht. Diesen Wert erhebt ihr selbst. Wie ihr die laufenden Kosten im Griff behaltet, zeigt der Artikel KI-Kosten planbar machen.

In vergleichbaren Projekten sinkt die manuelle Bearbeitungszeit typischerweise um 30 bis 50 %. Das entspricht erfahrungsgemäß 4 bis 8 Stunden pro Woche und Mitarbeitendem. Die Einführung hat sich üblicherweise nach 4 bis 6 Monaten amortisiert. Wie viel es bei euch ist, hängt vom Ablauf ab, und genau dafür braucht ihr den Ausgangswert.

Regeln und Schulung gehören zur Einführung

Viele Mitarbeitende nutzen KI-Werkzeuge schon, bevor es eine offizielle Lösung gibt. Fachleute sprechen dann von Schatten-KI. Eine Nutzungsrichtlinie schafft Klarheit und beantwortet mindestens diese Fragen:

  • Welche KI-Werkzeuge sind erlaubt?
  • Welche Daten dürfen in diese Werkzeuge gelangen?
  • Wer prüft Ergebnisse, bevor sie das Unternehmen verlassen?

Auch die Schulung gehört dazu, mehr dazu im Artikel KI-Kompetenz nach AI Act. Art. 4 der KI-Verordnung (EU) 2024/1689 gilt seit dem 2. Februar 2025 und betrifft Unternehmen, die KI-Systeme einsetzen. Seit dem 27. Juli 2026 gilt er in einer geänderten Fassung. Danach ergreifen diese Unternehmen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie für niemanden garantieren (Verordnung (EU) 2026/1744). Eine Einführungsschulung für alle, die mit dem Assistenten arbeiten, ist ein guter Anfang. Ob das für euer Unternehmen reicht, klärt ihr mit eurer Rechtsberatung.

So begleitet schnell.digital die Einführung

Unsere Einführungspakete folgen dem Fahrplan aus diesem Artikel:

Paket Wofür Umfang
KI-Orientierung Verstehen, was KI heute leistet und welche Aufgaben sich eignen Schulung, 4 Stunden, bis 4 Personen
KI-Fahrplan Eure Abläufe aufnehmen und bewerten Prozessaufnahme und Workshop, 6 Wochen
Umsetzung eines Assistenten Einen Ablauf im AI Kit umsetzen 3 Monate, Abnahme an fünf echten Vorgängen
KI-Programm Zwei Abläufe umsetzen und den KI-Einsatz im Haus regeln 6 Monate, mit Rollen- und Freigabekonzept

Wenn ihr schon wisst, welcher Ablauf zuerst kommt, startet ihr direkt mit der Umsetzung.

Alle Artikel der Reihe

Diese Artikel vertiefen einzelne Schritte des Fahrplans:

Häufige Fragen

Wie lange dauert es, KI im Unternehmen einzuführen?

Bis ein erster Assistent an echten Vorgängen arbeitet, vergehen üblicherweise 6 bis 8 Wochen. Unser Umsetzungspaket umfasst drei Monate bis zur Abnahme. Jeder weitere Ablauf geht erfahrungsgemäß schneller, weil Wissen, Regeln und Betrieb dann schon stehen.

Was kostet die Einführung von KI im Mittelstand?

Die Kosten bestehen aus der Einführung und dem laufenden Betrieb. Bei schnell.digital beginnt der Einstieg bei 950 € netto, die Umsetzung eines Assistenten bei 9.500 € netto. Das AI Kit kostet in der Cloud ab 349 € im Monat. Die Kosten der Sprachmodelle zahlt ihr mit eigenem API-Key direkt beim Anbieter.

Mit welchem Bereich sollten wir anfangen?

Fangt mit dem Ablauf an, der die vier Merkmale aus Schritt 1 am besten erfüllt. Im Projektgeschäft sind das oft Angebote oder Anfragen im Service-Postfach. Dort fallen viele gleichartige Vorgänge an, und das nötige Wissen liegt meist schon in Dokumenten vor.

Brauchen wir zuerst eine KI-Strategie?

Für den ersten Ablauf reicht es, Ziel und Regeln festzulegen. Eine umfassende Strategie entsteht erfahrungsgemäß besser auf Grundlage der Ergebnisse aus den ersten Abläufen. Wer mehrere Bereiche gleichzeitig bewerten will, beginnt mit dem KI-Fahrplan.

Dürfen Mitarbeitende ChatGPT für die Arbeit nutzen?

Das legt ihr in einer Nutzungsrichtlinie fest. Entscheidend ist, welche Daten in das Werkzeug gelangen und ob mit dem Anbieter ein Auftragsverarbeitungsvertrag besteht. Personenbezogene Daten und Geschäftsgeheimnisse gehören nicht in private Konten. Die Bewertung für euren Fall trefft ihr mit euren Datenschutzbeauftragten.

Müssen wir Mitarbeitende zu KI schulen?

Ja, Art. 4 der KI-Verordnung verlangt von Unternehmen, die KI-Systeme einsetzen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals. Die seit Juli 2026 geltende Fassung schreibt dabei kein bestimmtes Kompetenzniveau vor. Wie ihr das umsetzt, klärt ihr am besten mit eurer Rechtsberatung.

Euer nächster Schritt

Welcher Ablauf bei euch für den Anfang passt, zeigt der Prozess-Check. Er besteht aus 9 Fragen und dauert etwa fünf Minuten.

Quellen

  • Bitkom: Presseinformation „Erstmals nutzt die Mehrheit der Unternehmen KI“, 14.09.2026, und Präsentation „KI in der deutschen Wirtschaft: Status quo und Ausblick“, 2026. Befragt wurden 603 Unternehmen ab 20 Beschäftigten.
  • Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4, Amtsblatt der Europäischen Union, 2024
  • Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), Amtsblatt der Europäischen Union, 24.07.2026