Logo der schnell.digital GmbH

Artikel

KI-Wissensdatenbank aufbauen: Anleitung für den Mittelstand

schnell.digital Team
Artikel
Zuletzt aktualisiert:
WissensmanagementKI-WissensdatenbankKI im OnboardingRAG
Ein älterer Mitarbeiter zeigt einer jungen Kollegin am Tisch etwas auf einem Tablet, sie hält einen Stift und hört zu.

Um eine KI-Wissensdatenbank aufzubauen, sammelt ihr zuerst die Dokumente, mit denen eure Fachleute heute arbeiten, und räumt sie auf. Danach teilt ihr sie nach Thema oder Zielgruppe in Wissensbasen auf und legt fest, welcher Assistent worauf zugreift. Ein Aktualisierungsplan hält das Wissen anschließend aktuell.

Eine Wissensbasis ist eine Sammlung eurer eigenen Dokumente, die ein KI-Modell durchsuchen kann. Bei jeder Frage sucht die Plattform die passenden Textstellen heraus und gibt sie zusammen mit der Frage an das Modell. Wie dieses Verfahren funktioniert, erklärt der Artikel RAG einfach erklärt.

Warum Firmenwissen in eine Wissensbasis gehört

In vielen Betrieben steckt das wichtigste Wissen in wenigen Köpfen. Laut dem Institut der deutschen Wirtschaft sind 2026 noch 14,1 Millionen Babyboomer unterhalb des gesetzlichen Rentenalters. Bis 2036 wird diese Generation das Rentenalter vollständig erreicht haben (IW 2026). Was diese Kolleginnen und Kollegen wissen, sollte bis dahin aufgeschrieben und auffindbar sein.

Gleichzeitig stellen neue Mitarbeitende jede Woche dieselben Fragen zu Urlaub, Spesen oder Zugängen. Die Antworten stehen meist irgendwo, nur findet sie niemand schnell. Eine Wissensbasis macht diese Unterlagen für einen KI-Assistenten durchsuchbar. Wie sie in eine größere KI-Einführung passt, beschreibt der Artikel KI im Unternehmen einführen.

Schritt 1: Bestandsaufnahme eures Wissens

Haltet zuerst fest, wo euer Wissen heute liegt. Typische Orte sind Netzlaufwerke, interne Wikis, Personal- und Qualitätshandbücher, Produktblätter und Datenbanken. Notiert zu jeder Quelle, welche Fragen sie beantwortet und wer sie pflegt.

Die verantwortliche Person ist wichtiger, als sie zunächst wirkt. Eine Wissensbasis bleibt nur so lange gut, wie jemand die Dokumente darin aktuell hält. Ohne festen Namen je Quelle veraltet das Wissen schnell und unbemerkt.

Schritt 2: Quellen im AI Kit anbinden

Im schnell.digital AI Kit bekommt jede Wissensbasis eine oder mehrere Quellen. Diese Quellen stehen zur Wahl:

Quelle Geeignet für Zu beachten
Datei-Upload Handbücher, Richtlinien, Preislisten Der einfachste Einstieg
Statischer Inhalt Kurze FAQ-Texte Kein eigenes Dokument nötig
Web-Inhalte Öffentliche Seiten, per HTTP erreichbare interne Wikis Start-URL, Crawl-Tiefe und maximale Seitenzahl festlegen
Lokales Dateisystem Ordner auf dem Server Nur wenn eure Installation lokale Ressourcen erlaubt
Datenbank Strukturierte Daten Wird live per SQL abgefragt, nur lesend

Der Datei-Upload nimmt PDF, Word (.docx), Excel (.xlsx, .xlsm, .xls), OpenDocument-Tabellen, CSV und TSV an. Dazu kommen JSON, XML, HTML, Markdown, Text und RTF. Alte Word-Dateien im Format .doc lehnt die Plattform ab.

Wählt das Embedding-Modell bewusst. Es wandelt Dokumente und Fragen in Zahlen um, damit sie sich vergleichen lassen. Ein späterer Wechsel macht alle bereits eingelesenen Abschnitte ungültig, und die Wissensbasis muss neu aufgebaut werden.

Schritt 3: Dokumente aufräumen

Eine Wissensbasis gibt wieder, was in den Dokumenten steht. Liegen dort zwei Reiserichtlinien mit unterschiedlichen Sätzen, kann auch die Antwort der KI falsch sein. Prüft deshalb vor dem Einlesen diese Punkte:

  • Veraltete Versionen entfernt ihr oder legt sie in ein Archiv außerhalb der Wissensbasis.
  • Widersprüche zwischen zwei Dokumenten löst die verantwortliche Person auf.
  • Dubletten führt ihr zu einem Dokument zusammen.
  • Altformate wie .doc speichert ihr als .docx oder PDF.

Danach testet ihr die Wissensbasis mit fünf bis zehn realistischen Fragen. Die Testfunktion zeigt, welche Textabschnitte zurückkommen. Passen die Treffer nicht, liegt das Problem meist bei den Dokumenten oder beim Embedding-Modell.

Schritt 4: Wissensbasen sinnvoll aufteilen

Eine Wissensbasis kann viele Inhalte aufnehmen. Eine Aufteilung lohnt sich, wenn verschiedene Assistenten verschiedene Inhalte brauchen. Bewährt hat sich eine Aufteilung je Produktlinie, je Zielgruppe (intern oder extern) oder je Sprache.

Im Zweifel beginnt ihr mit einer Wissensbasis und teilt später auf. Gruppiert die Inhalte nach Thema. Gebt jeder Wissensbasis eine treffende Beschreibung, denn daran erkennt ein Agent, wann er sie durchsuchen soll. Verbindet einen Agenten nur mit den Wissensbasen, die er wirklich braucht. Jede unpassende Wissensbasis bringt Rauschen und kostet zusätzlich Token.

Schritt 5: Ein Zugriffskonzept festlegen

Jede Wissensbasis ist für jeden Agenten durchsuchbar, der mit ihr verbunden ist. Wer mit diesem Agenten spricht, bekommt also Antworten aus allen seinen Wissensbasen. Personaldaten oder Kundendaten gehören deshalb nur mit einem klaren Zugriffskonzept in eine Wissensbasis.

Trennt Wissensbasen nach Zielgruppe und nutzt für Teams oder Abteilungen eigene Workspaces. Ein Workspace hat eigene Benutzer, Automationen und Modelle. Über Rollen legt ihr fest, wer nur im Posteingang mit Assistenten arbeitet und wer Automationen baut. Welche Daten in eine Wissensbasis dürfen, klärt ihr mit euren Datenschutzbeauftragten. Mehr zu den Datenwegen steht im Artikel ChatGPT und Co. datenschutzkonform nutzen.

Schritt 6: Das Wissen aktuell halten

Für jede Wissensbasis legt ihr fest, wann sie ihre Quellen neu liest:

  • Bei Änderung: Hochgeladene Dateien und Ordner auf dem Server werden 30 Sekunden nach einer Änderung neu eingelesen.
  • In festen Intervallen: alle 2, 4, 6 oder 12 Stunden.
  • Täglich, nachts oder wöchentlich: für Inhalte, die sich selten ändern.

Webseiten überwacht die Plattform nicht. Ihre Änderungen kommen nur über einen Zeitplan oder eine manuelle Aktualisierung in die Wissensbasis. Bei jeder Aktualisierung werden nur neue und geänderte Dokumente neu eingelesen. Das kostet Embedding-Token, deshalb wählt ihr das längste Intervall, das zu euren Inhalten passt.

Praxisbeispiel: Einarbeitung mit dem KI-Onboarding-Assistenten

Ein typischer erster Einsatz ist die Einarbeitung neuer Mitarbeitender. Personalhandbuch und Richtlinien liegen dafür in einer Wissensbasis „HR-Richtlinien“. Ein Agent im Posteingang begrüßt neue Kolleginnen und Kollegen mit Themen wie Urlaub, Spesen und Elternzeit.

Vor dem Start stellt das Personalteam im Editor Testfragen wie „Wie früh muss ich Urlaub beantragen?“. Die Antwort nennt die Richtlinie, aus der sie stammt. Steht etwas nicht im Handbuch, verweist der Assistent an die Personalabteilung. Neue Mitarbeitende bekommen eine Rolle, mit der sie nur den Posteingang sehen. Mehr dazu zeigt die Seite zum KI-Onboarding-Assistenten.

Häufige Fragen

Welche Dokumente eignen sich für eine KI-Wissensdatenbank?

Geeignet sind textbasierte Unterlagen wie Handbücher, Richtlinien, FAQ, Produktblätter und Prozessbeschreibungen. Sie können als PDF, Word, Excel, CSV, HTML, Markdown oder Text vorliegen. Alte Word-Dateien im Format .doc wandelt ihr vorher um.

Muss die KI dafür mit unseren Daten trainiert werden?

Nein. Die Wissensbasis liefert dem Sprachmodell bei jeder Frage die passenden Textstellen aus euren Dokumenten. Ein eigenes Training ist dafür nicht nötig. Eure Dokumente bleiben in der Wissensbasis und lassen sich jederzeit ändern oder entfernen.

Sieht jeder Mitarbeitende alle Inhalte?

Jede Wissensbasis ist für jeden Agenten durchsuchbar, mit dem sie verbunden ist. Trennt deshalb Wissensbasen nach Zielgruppe und nutzt eigene Workspaces für Abteilungen mit sensiblen Unterlagen. Über Rollen legt ihr fest, wer Assistenten nutzt und wer sie baut.

Wie oft sollte die Wissensbasis aktualisiert werden?

So oft, wie sich die Inhalte tatsächlich ändern. Hochgeladene Dateien liest die Plattform 30 Sekunden nach einer Änderung neu ein. Für Webseiten reicht meist ein täglicher oder wöchentlicher Zeitplan.

Wie fangen wir am besten an?

Beginnt mit einer Wissensbasis für einen klar umrissenen Zweck, etwa die Fragen neuer Mitarbeitender. Ladet die wichtigsten Dokumente hoch, testet mit echten Fragen und erweitert erst danach.

Euer nächster Schritt

Welche Unterlagen bei euch den Anfang machen sollten, besprechen wir gern in einem kostenlosen Erstgespräch. Bringt am besten eine Liste eurer wichtigsten Handbücher und Richtlinien mit.

Quellen

  • Institut der deutschen Wirtschaft (IW): IW-Kurzbericht Nr. 39/2026 „Die Babyboomer erreichen das Rentenalter“, Philipp Deschermeier und Holger Schäfer, 15.06.2026