
- KI zu implementieren heißt, sie fest in Abläufe einzubauen. Dafür braucht es drei Bausteine: Infrastruktur, priorisierte Prozesse und Workflows, Wissensdatenbank.
- Die Wissensdatenbank liefert das Fachwissen, die Infrastruktur verbindet und verarbeitet, der Workflow erzeugt das Ergebnis, mit dem dein Team arbeitet.
- Starte beim Prozess: Bewerte deine Abläufe nach Nutzen und Umsetzbarkeit und baue für den ersten nur das Wissen und die Technik, die er braucht.
- Eine eigene KI trainieren musst du dafür fast nie. Meist reicht ein gutes Sprachmodell, das per Schnittstelle in deinem eigenen Wissen nachschlägt.
Die Frage aus der Schulung
Bei einer KI-Schulung in einem mittelständischen Industrieunternehmen kam nach einer guten Stunde die entscheidende Frage. Die Teilnehmer hatten Beispiele gesehen, Begriffe wie Schnittstelle, Wissensdatenbank und KI-Agent gehört. Dann fragte jemand: „Und was brauchen wir jetzt eigentlich, damit das bei uns funktioniert?“
Die ehrliche Antwort: kein weiteres Tool. Wer KI implementieren will, braucht drei Bausteine, die zusammenspielen:
- Infrastruktur: womit die KI arbeitet. Sprachmodell, Hosting, Schnittstellen zu deinen Programmen, Rechte.
- Prozesse und Workflows priorisieren: wo die KI arbeitet. Wenige ausgewählte Abläufe mit einem klaren Ergebnis.
- Wissensdatenbank: was die KI wissen muss. Dein Fachwissen, aufbereitet und durchsuchbar.
In der Schulung war jeder Baustein einzeln verständlich. Was fehlte, war das Zusammenspiel: Was liefert was, und wo entsteht am Ende das Ergebnis? Genau darum geht es in diesem Artikel.
Was heißt KI implementieren?
KI zu implementieren heißt, sie fest in die tägliche Arbeit einzubauen. Statt dass jede Person einzeln Texte in ein Chatfenster kopiert, greift die KI in einem festen Ablauf auf deine Systeme und dein Wissen zu und liefert ein Ergebnis, mit dem dein Team weiterarbeitet: einen Angebotsentwurf, eine Arbeitsanweisung, eine Antwort mit Quelle.
Der organisatorische Weg dorthin, also Ideen sammeln, Pilot, Schulung und Regeln, steht im Artikel KI im Unternehmen einführen. Hier geht es um das Fundament, auf dem diese Schritte aufbauen.
Baustein 1: Infrastruktur
Die Infrastruktur ist alles, womit die KI arbeitet. Man kann sie sich vorstellen wie die Maschinen und Leitungen in einer Fertigung: Sie holen das Material, verarbeiten es und bringen das Ergebnis an die richtige Stelle. Dazu gehören vier Teile:
- Sprachmodell: das eigentliche KI-Modell, zum Beispiel über ein Geschäftskonto oder eine Schnittstelle eines Anbieters. Welche Tarife es gibt und was sie mit deinen Daten machen, vergleicht der Artikel ChatGPT Business.
- Hosting: wo die KI läuft und wo deine Daten verarbeitet werden. Es gibt drei Wege, siehe Tabelle unten.
- Schnittstellen: Verbindungen zu deinen Programmen, etwa ERP, Microsoft 365, CRM oder Dateiablage. Über eine Programmierschnittstelle (API) holt die KI Daten und gibt Ergebnisse zurück. Ein neuerer Standard dafür ist das Model Context Protocol (MCP), über das eine KI Werkzeuge und Datenquellen einheitlich ansprechen kann.
- Rechte und Protokoll: Die KI darf nur sehen, was die jeweilige Person auch sehen darf, und jeder Schritt wird festgehalten.
| Weg | Wie es funktioniert | Passt für | Worauf du achtest |
|---|---|---|---|
| A: Cloud-Dienst eines großen Anbieters | Geschäftskonto oder Schnittstelle, sofort nutzbar | Allgemeine Texte, Entwürfe, interne Unterlagen ohne Geheimnisse | Vertrag zur Auftragsverarbeitung, Datennutzung für Training ausgeschlossen |
| B: Europäisches Rechenzentrum | Modelle bei einem Anbieter oder Hoster mit Standort in der EU | Kundendaten, Personaldaten, vertrauliche Angebote | Standort schriftlich zusichern lassen, Leistung der Modelle prüfen |
| C: Eigener Server oder lokal | Offenes Modell auf eigener Hardware oder gemietetem Server | Konstruktionsdaten, Rezepturen, alles, was das Haus nie verlassen soll | Hardwarekosten, Wartung, etwas schwächere Modelle |
Viele Unternehmen kombinieren zwei Wege: Allgemeines läuft in der Cloud, Sensibles bleibt im eigenen Haus. Was bei Infrastruktur ohne Rechtekonzept schiefgehen kann, beschreibt der Artikel KI-Risiken im Unternehmen.
Baustein 2: Prozesse und Workflows priorisieren
Der zweite Baustein entscheidet, ob sich die ganze Arbeit lohnt. KI bringt nur dort etwas, wo sie in einem konkreten Ablauf ein Ergebnis liefert. Und weil du nicht alles gleichzeitig umsetzen kannst, musst du priorisieren.
Sammle zuerst alle Abläufe, in denen viel gelesen, gesucht, geschrieben oder abgeglichen wird. In dem Unternehmen aus der Schulung kamen so 46 mögliche Anwendungen in zwölf Bereichen zusammen, vom Vertrieb über die Arbeitsvorbereitung bis zur Buchhaltung. Dann bewertest du jeden Ablauf mit sechs Fragen:
| Kriterium | Frage |
|---|---|
| Häufigkeit | Kommt der Ablauf mindestens wöchentlich vor? |
| Zeitaufwand | Wie viele Stunden kostet er heute pro Woche, über alle Beteiligten? |
| Text und Wissen | Geht es vor allem um Lesen, Suchen, Schreiben oder Abgleichen? |
| Datenlage | Liegen die nötigen Informationen schon digital vor, oder nur in Köpfen? |
| Prüfbarkeit | Fällt ein Fehler auf, bevor das Ergebnis nach außen geht? |
| Fehlerfolge | Wie teuer ist ein Fehler, der doch durchrutscht? |
Daraus ergibt sich eine einfache Einstufung: A ist dringlich und schnell umsetzbar, B lohnend, aber mit mehr Vorarbeit, C nice to have. Im Beispiel landeten 10 Anwendungen in A, 21 in B und 15 in C. Umgesetzt wird zuerst A, und zwar einer nach dem anderen. Wie du den Nutzen je Abteilung in Euro umrechnest, zeigt der KI-ROI-Rechner.
Ein typischer A-Fall ist der Angebotsentwurf. Ein Innendienst schreibt 15 Angebote pro Woche, jedes kostet 30 Minuten für Suchen, Rechnen und Formulieren, zusammen 7,5 Stunden. Mit einem Workflow zieht die KI Kundendaten und Artikel aus dem ERP, nimmt freigegebene Textbausteine aus der Wissensdatenbank und legt einen Entwurf an. Prüfen und Anpassen dauert noch 10 Minuten je Angebot.
Ersparnis: 5 Std pro Woche, vor Kosten für Werkzeuge und Einrichtung
Beispielwerte zur Veranschaulichung, keine Ergebnisgarantie. Der Fall zeigt, warum Priorisierung beim Prozess beginnt: Er bestimmt, welches Wissen und welche Schnittstellen du überhaupt brauchst.
Baustein 3: Wissensdatenbank
Ein Sprachmodell kann formulieren, zusammenfassen und übersetzen. Was es nicht kennt, ist dein Unternehmen: deine Preise, Kundenvorgaben, Zeichnungen, Erfahrungswerte, die Art, wie ihr Angebote schreibt. Dieses Wissen kommt aus der Wissensdatenbank. Sie ist wie ein gut sortiertes Lager: Alles hat seinen Platz, ist beschriftet und schnell greifbar.
Typische Quellen sind das ERP-System, Microsoft 365 mit SharePoint und Teams, Zeichnungen und Prüfpläne, Kundenvorgaben und das Erfahrungswissen langjähriger Mitarbeitender. Gerade Letzteres ist beim Generationswechsel gefährdet, mehr dazu im Artikel Wissenstransfer im Unternehmen.
Damit eine KI damit arbeiten kann, braucht die Wissensdatenbank vier Eigenschaften:
- Eine gültige Fassung: Pro Thema gibt es genau ein aktuelles Dokument, alte Stände sind gekennzeichnet oder archiviert.
- Struktur: klare Ordner oder Kategorien, sprechende Titel, kurze Abschnitte. Was ein Mensch schnell findet, findet auch die KI.
- Verantwortliche: Jemand ist für jedes Wissensgebiet zuständig und hält es aktuell.
- Rechte wie im Quellsystem: Wer ein Dokument im Original nicht sehen darf, bekommt es auch über die KI nicht zu sehen.
Die KI lernt dieses Wissen übrigens nicht auswendig. Sie schlägt bei jeder Aufgabe nach, holt die passenden Abschnitte und formuliert daraus das Ergebnis, im Fachjargon Retrieval Augmented Generation (RAG). Das hat zwei Vorteile: Änderungen gelten sofort, und die KI kann ihre Quelle nennen. Warum das besser funktioniert, als alle Dokumente auf einmal hochzuladen, erklärt der Artikel Kontextfenster. Wie du Wissen grundsätzlich sammelst und pflegst, steht im Artikel Wissensmanagement im Unternehmen, Werkzeuge dafür im Artikel Wissensmanagement-Software.
Wie die drei Bausteine zusammenspielen
Wissensdatenbank
Was die KI weißERP, Microsoft 365, Zeichnungen, Kundenvorgaben, Erfahrung im Team. Aufbereitet, durchsuchbar, mit Rechten.
Wie das Lager: sortiert und greifbar
Infrastruktur
Womit sie arbeitetSchnittstellen holen Daten und geben Ergebnisse zurück. Das Sprachmodell verarbeitet, das Hosting legt fest, wo.
Wie Maschinen und Leitungen
Prozess und Workflow
Was herauskommtFester Ablauf mit Ergebnis: Angebot, Arbeitsanweisung, Antwort mit Quelle. Der Mensch prüft und gibt frei.
Wie das fertige Werkzeug
Gestartet wird rechts: Der priorisierte Ablauf bestimmt, welches Wissen und welche Technik nötig sind.
Ein Beispiel: Ein Mitarbeiter in der Fertigung fragt im Teams-Kanal, welche Vorgaben ein bestimmter Kunde für die Verpackung hat. Der Workflow nimmt die Frage auf, die Infrastruktur sucht über eine Schnittstelle in der Wissensdatenbank nach den Kundenvorgaben, das Sprachmodell formuliert die Antwort, und im Kanal steht nach Sekunden die Vorgabe mit Link zum Originaldokument. Ohne Wissensdatenbank wüsste die KI nichts, ohne Infrastruktur käme sie nicht an das Wissen, und ohne festen Ablauf würde niemand sie fragen.
Wenn so ein Ablauf mehrere Schritte selbstständig hintereinander erledigt, spricht man von einem KI-Agenten. Wie das konkret aussieht, zeigt der Artikel KI-Agent erstellen an einem Ablauf, den du selbst nachprüfen kannst.
In welcher Reihenfolge du startest
- Abläufe sammeln und priorisieren: in einem Workshop mit den Fachabteilungen, Ergebnis ist eine Liste mit A, B und C.
- Ersten A-Ablauf genau beschreiben: Auslöser, nötige Informationen, Ergebnis, Prüfung. Daraus folgt, welches Wissen und welche Schnittstellen er braucht.
- Nur dieses Wissen aufbereiten: zum Beispiel Textbausteine und Preislogik für Angebote. Nicht das ganze Unternehmen auf einmal.
- Infrastruktur passend wählen: Hosting nach Datenart, Schnittstellen zu genau den Systemen, die der Ablauf braucht, Rechte von Anfang an.
- Pilot mit echten Fällen: vier Wochen, Zeit vorher und nachher messen, Fehler sammeln.
- Nächsten Ablauf nehmen: Wissen und Infrastruktur wachsen mit, jeder weitere Ablauf geht schneller.
Wo dein Unternehmen bei den Voraussetzungen heute steht, prüfst du mit dem KI-Readiness-Check. Damit das Team die neuen Abläufe auch nutzt, gehören Regeln und Schulung dazu, mehr im Artikel KI-Richtlinie erstellen.
Typische Fehler bei der KI-Implementierung
- Tool zuerst: Es wird eine Lizenz gekauft, aber niemand hat festgelegt, für welchen Ablauf. Nach drei Monaten nutzen sie wenige, und keiner kann den Nutzen belegen.
- Datenprojekt ohne Ziel: Erst soll das gesamte Wissen sauber sein, dann kommt die KI. Das dauert so lange, dass das Projekt vorher einschläft.
- Keine Rechte: Die KI sieht alles, auch Gehaltslisten oder vertrauliche Kundendaten. Rechte nachträglich einzubauen ist mühsam.
- Niemand ist zuständig: Jeder Ablauf und jedes Wissensgebiet braucht eine verantwortliche Person, sonst veralten Inhalte und Fehler bleiben liegen.
Hinweise zu Datenschutz und Hosting in diesem Artikel sind keine Rechtsberatung. Kläre verbindliche Fragen für dein Unternehmen mit einer Fachperson.
Fazit
KI zu implementieren ist kein Werkzeugkauf, sondern der Aufbau von drei Bausteinen, die ineinandergreifen: Die Wissensdatenbank liefert das Fachwissen, die Infrastruktur verbindet und verarbeitet, und ein priorisierter Workflow macht daraus ein Ergebnis, mit dem dein Team arbeitet. Starte beim Ablauf mit dem größten Nutzen, baue nur das Wissen und die Technik, die er braucht, und erweitere dann Schritt für Schritt. So wächst aus dem ersten Ablauf ein System.
Häufige Fragen
Was braucht man, um KI im Unternehmen zu implementieren?
Drei Bausteine: eine Infrastruktur (Sprachmodell, Hosting, Schnittstellen zu deinen Programmen, Rechte), priorisierte Prozesse und Workflows, in denen die KI eine klare Aufgabe hat, und eine Wissensdatenbank mit dem Fachwissen deines Unternehmens. Dazu kommen Regeln für den Umgang mit Daten und eine Schulung des Teams.
Was ist der Unterschied zwischen KI einführen und KI implementieren?
Einführen beschreibt meist den organisatorischen Weg: Ideen sammeln, Pilot, Schulung, Regeln. Implementieren meint den Einbau in die tägliche Arbeit: Die KI greift über Schnittstellen auf deine Systeme und dein Wissen zu und liefert in einem festen Ablauf ein Ergebnis. Beides gehört zusammen.
Muss ich eine eigene KI trainieren?
In den allermeisten Fällen nicht. Ein vorhandenes Sprachmodell versteht Sprache bereits sehr gut. Was ihm fehlt, ist dein Firmenwissen. Das bekommt es, indem es bei jeder Aufgabe in deiner Wissensdatenbank nachschlägt. Das ist günstiger, schneller aktualisiert und leichter zu kontrollieren als ein eigenes Training.
Muss die Wissensdatenbank fertig sein, bevor wir mit KI starten?
Nein. Bereite zuerst nur das Wissen auf, das der erste priorisierte Ablauf braucht, zum Beispiel Preislisten und Textbausteine für Angebote. Mit jedem weiteren Ablauf wächst die Datenbank. Ein großes Datenprojekt vorab kostet Monate, bevor der erste Nutzen sichtbar ist.
Wo sollte KI im Unternehmen laufen: Cloud, europäischer Anbieter oder eigener Server?
Das hängt von deinen Daten ab. Für allgemeine Texte reicht oft ein Geschäftskonto eines großen Anbieters mit Vertrag zur Auftragsverarbeitung. Bei sensiblen Kunden- oder Konstruktionsdaten kommen Anbieter mit Rechenzentrum in Europa oder ein eigener Server in Frage. Viele Unternehmen kombinieren zwei Wege je nach Datenart.
Wie lange dauert es, KI zu implementieren?
Ein erster Ablauf mit dem nötigen Wissen und den Schnittstellen ist oft in wenigen Wochen produktiv. Die Implementierung im ganzen Unternehmen ist ein laufender Prozess, weil mit jedem weiteren Ablauf Wissen und Infrastruktur wachsen.
Dieser Beitrag wurde mit KI-Unterstützung erstellt.
Consulting
Fabian Habich

