Ein KI-System bauen

Auf den Stufen 2 bis 6 setzt ihr KI für einzelne Aufgaben ein: einen Chat für Texte, einen Ablauf für Rechnungen, einen Agenten für Anfragen. Ein KI-System ist mehr als die Summe davon. Es ist die Art, wie euer Betrieb arbeitet: Das Wissen liegt an einem Ort, die Regeln sind festgeschrieben, Prüfer achten auf ihre Einhaltung, Agenten mit klaren Rollen erledigen Arbeit, auch über Nacht, und jeder Fehler macht das Ganze klüger.

So arbeiten wir selbst, jeden Tag. Auf dieser Seite beschreiben wir, wie ihr so ein System Baustein für Baustein aufbaut, in welcher Reihenfolge, mit welchem Aufwand und was das für einen Betrieb mit 20 oder mit 100 Leuten bedeutet.

Warum ein System und nicht noch ein Werkzeug

Eine Auswertung aus dem MIT-Umfeld (2025) kam zu dem Schluss, dass viele KI-Versuche an einer Lernlücke scheitern: Die Werkzeuge passen sich nicht an die Abläufe an und vergessen nach jeder Sitzung, was sie gelernt haben. Jeder fängt wieder bei null an. Die Zahlen dieser Studie sind umstritten, die Beobachtung kennt aber jeder, der eine Weile mit KI arbeitet: Man erklärt dieselben Dinge immer wieder.

Ein KI-System schließt diese Lücke. Was einmal geklärt ist, bleibt geklärt. Was einmal schiefging, geht beim nächsten Mal gut. Das MIT Center for Information Systems Research fand in einer Befragung von 721 Unternehmen (2022, veröffentlicht 2024), dass die Unternehmen auf den oberen Reifestufen finanziell deutlich über ihrem Branchenschnitt liegen. Der Vorsprung entsteht durch das Zusammenspiel, und genau das lässt sich schwer kopieren.

Die sieben Bausteine

1. Wissensbasis

Die Wissensbasis ist der Ort, an dem euer Betriebswissen so liegt, dass Menschen und KI es finden: Leistungen, Preislogik, Abläufe, häufige Fragen, Vorlagen, Ansprechpersonen. Wichtig ist der aktuelle Stand, nicht die Sammlung aller Fassungen. Ein Dokument zeigt, was heute gilt, ältere Stände liegen in einer Versionsverwaltung (einem Archiv, das jede Änderung festhält und zurückholbar macht).

Anthropic hat 2025 beschrieben, warum das so wichtig ist: Ein Modell kann in jedem Moment nur eine begrenzte Menge Text überblicken. Wer diesen Platz mit dem richtigen, knappen Wissen füllt, bekommt deutlich bessere Ergebnisse als wer immer längere Anweisungen schreibt. Fachleute nennen das Context Engineering.

Einstieg: Je Bereich eine Seite „So läuft das bei uns”, höchstens zwei Seiten lang, mit Datum und verantwortlicher Person.

2. Standards

Standards sind die Regeln, nach denen gearbeitet wird: Tonfall, Gestaltung, Freigaben, Tabus, Qualitätsmaßstäbe. Der Kern dieses Bausteins ist eine Haltung: Jede Frage, die immer wiederkommt, wird einmal gründlich beantwortet, an guter Praxis belegt und aufgeschrieben. Danach wird überall gleich gearbeitet. Was im Bestand abweicht, kommt auf eine Liste und wird beim nächsten Anfassen angeglichen.

Standards schreibt ihr so, dass auch ein Agent sie lesen kann. Dafür haben sich offene Formate etabliert: Dateien mit Arbeitsanweisungen im Projekt (ein verbreitetes Format heißt AGENTS.md und liegt seit 2025 bei der Agentic AI Foundation unter dem Dach der Linux Foundation) und Agent Skills, die Anthropic 2025 vorgestellt hat. Ein Skill ist ein Ordner mit Anleitung, Beispielen und Hilfsmitteln, den der Agent erst lädt, wenn er ihn braucht, wie ein Handgriff, den man aus der Schublade holt.

Einstieg: Die zehn wichtigsten Regeln eures Betriebs auf einer Seite.

3. Prüfer

Eine Regel, die nur auf Papier steht, wird irgendwann vergessen, von Menschen wie von Agenten. Prüfer sind kleine Programme, die Regeln automatisch durchsetzen. Sie laufen bei jedem Schritt mit und halten an, was durchfällt: ein verbotenes Zeichen im Text, eine falsche Schrift, eine Kundennummer an der falschen Stelle, ein vertrauliches Dokument im falschen Ordner, eine Seite, die auf dem Handy zu breit ist.

Prüfer entlasten alle, weil niemand mehr an alles denken muss. Sie sind außerdem der wichtigste Schutz bei Agenten: Was ein Agent nicht darf, wird technisch verhindert, statt nur verboten.

Einstieg: Für die eine Regel, gegen die am häufigsten verstoßen wird, einen automatischen Prüfer bauen.

4. Rollen

Statt einer KI, die alles macht, gibt es Spezialisten mit klarer Aufgabe: einer recherchiert und nennt Quellen, einer sucht im Bestand, einer setzt genau vorgegebene Änderungen um, einer prüft Gestaltung, einer schaut als Gegenprüfer unabhängig auf das Ergebnis. Jede Rolle bekommt nur die Werkzeuge, die sie braucht. Wer prüft, darf nur lesen.

Rollen machen Ergebnisse besser und Fehler kleiner. Google beschreibt 2025 in seinem „Agents Companion” solche Systeme aus mehreren Agenten und betont, dass sie nur so gut sind wie ihre Bewertung im Betrieb.

Einstieg: Eine Rolle „Gegenprüfer”, die jedes wichtige Ergebnis mit den Standards vergleicht, bevor ein Mensch es sieht.

5. Läufe

Ein Lauf ist eine größere Aufgabe, die Agenten ohne Aufsicht abarbeiten, zum Beispiel über Nacht. Damit das gut geht, wird das Vorhaben vorher in eine Liste zerlegt. Jede Zeile sagt, was zu tun ist und woran man merkt, dass es fertig ist. Nach jeder Zeile läuft eine Prüfschranke: Sind alle Regeln eingehalten, funktioniert alles? Nur was die Schranke passiert, gilt als fertig. Was eine Entscheidung braucht, wird zurückgestellt statt geraten.

Ausgeliefert wird nie im Lauf. Morgens schaut ein Mensch auf das Ergebnis und entscheidet, was davon gilt.

Einstieg: Ein Bericht, der jede Nacht entsteht und morgens im Postfach liegt, etwa offene Angebote oder fehlende Unterlagen.

6. Messung

Gemessen wird, was die KI bewirkt, nicht wie oft sie benutzt wird. Jeder Lauf hinterlässt ein Protokoll: was getan wurde, wie lange es dauerte, was es kostete, was schiefging. Dazu eine kurze Meldung in Alltagssprache für die Verantwortlichen. Werkzeuge wie Langfuse aus Berlin lassen sich dafür selbst auf einem Server in der EU betreiben.

Einstieg: Drei Messgrößen festlegen, die eure Geschäftsführung wirklich interessieren, und sie einmal im Monat ansehen.

7. Gedächtnis

Das Gedächtnis hält fest, was in jeder Arbeitssitzung passiert ist: Stand, Entscheidungen, offene Punkte, Erkenntnisse. Wer morgen weitermacht, Mensch oder Agent, beginnt dort, wo gestern aufgehört wurde. Der Stand wird sofort nachgezogen, nicht erst am Ende der Woche.

Zum Gedächtnis gehört auch das Lernen aus Fehlern. Geht etwas schief, fragt ihr nicht, wer schuld ist, sondern welche Regel gefehlt hat. Diese Regel wird zum Standard, ein Prüfer setzt sie durch, und ab dem nächsten Lauf gilt sie für alle. So schließt sich der Kreis.

Einstieg: Am Ende jedes Projekttags drei Zeilen: was steht, was offen ist, was als Nächstes kommt.

Die Reihenfolge

Die Bausteine bauen aufeinander auf. Bewährt hat sich diese Reihenfolge:

1. Wissensbasis und Standards zuerst. Ohne aufgeschriebenes Wissen und klare Regeln hat jede KI nur Vermutungen.
2. Gedächtnis gleich dazu. Es kostet wenig und wirkt sofort, weil niemand mehr von vorn anfängt.
3. Prüfer, sobald die ersten Standards stehen. Erst dann wisst ihr, was geprüft werden soll.
4. Rollen, wenn eure Agenten mehr als eine Sorte Aufgabe erledigen.
5. Läufe erst, wenn Prüfer und Rollen tragen. Unbeaufsichtigte Arbeit ohne Prüfschranke ist ein Risiko.
6. Messung von Anfang an mitdenken, ausbauen mit den Läufen.

Google beschreibt Agenten 2025 in Stufen vom Modell allein über das Modell mit Werkzeugen bis zu Systemen aus vielen Agenten, die sich selbst erweitern. Das passt zu diesem Weg: Erst trägt das Fundament, dann wächst das System nach oben.

Aufwand

Der Weg zur Stufe 7 dauert Monate und führt über die Stufen davor, nie als Sprung. Als grobe Orientierung aus unserer eigenen Erfahrung (eine neutrale Studie zu solchen Aufwänden im Mittelstand gibt es bisher nicht):

• Wissensbasis und Standards, erste Fassung: zwei bis vier Wochen mit wenigen Stunden pro Woche, verteilt auf die Bereiche.
• Gedächtnis: ein Tag zum Einrichten, danach wenige Minuten am Tag.
• Erste Prüfer: je Prüfer ein bis drei Tage.
• Rollen: je Rolle einige Tage, inklusive Testfällen.
• Erste Läufe: zwei bis vier Wochen, bis sie verlässlich tragen.
• Pflege danach: ein fester Termin im Monat und laufend kleine Anpassungen.

Der größte Aufwand liegt beim Aufschreiben, nicht bei der Technik. Das ist eine gute Nachricht, denn dieses Wissen gehört euch und wirkt auch ohne KI: Neue Kolleginnen und Kollegen finden sich schneller zurecht, und Wissen bleibt, wenn jemand geht.

Was das für 20 Personen heißt

Ein Betrieb mit 20 Leuten, etwa ein Handwerksunternehmen oder eine kleine Agentur, hat selten eine IT-Abteilung. Das System bleibt deshalb schlank:

• Eine verantwortliche Person, oft die Geschäftsführung selbst oder eine Assistenz, mit einigen Stunden pro Woche.
• Eine Wissensbasis mit vielleicht 15 bis 25 Seiten: Leistungen, Preislogik, Angebotsablauf, Baustelle, Rechnung, häufige Kundenfragen.
• Eine Seite Standards für Tonfall, Freigaben und Tabus.
• Zwei bis drei Prüfer, etwa für Angebote (Pflichtangaben, Preise aus der aktuellen Liste) und für Rechnungen.
• Zwei Rollen: ein Assistent, der entwirft, und ein Gegenprüfer.
• Ein nächtlicher Lauf, der offene Posten, fehlende Unterlagen und anstehende Fristen zusammenstellt.
• Fertige Werkzeuge statt Eigenbau, eingerichtet mit einem Partner.

Realistisch ist so ein System in drei bis sechs Monaten neben dem Tagesgeschäft.

Was das für 100 Personen heißt

Ein Betrieb mit 100 Leuten, etwa ein Produktionsunternehmen mit Vertrieb, Einkauf, Fertigung und Verwaltung, braucht mehr Ordnung:

• Ein kleines Kernteam aus zwei bis drei Leuten, dazu je Abteilung eine Ansprechperson, die das Wissen ihres Bereichs pflegt.
• Eine Wissensbasis je Abteilung, mit klaren Rechten: Der Einkauf sieht andere Dinge als die Personalabteilung.
• Gemeinsame Standards für alle und eigene Standards je Bereich.
• Prüfer in mehreren Ebenen: Datenschutz und Vertraulichkeit für alle, Fachregeln je Abteilung.
• Mehrere Rollen je Bereich, mit Freigaben, die zur Verantwortung passen.
• Mehrere Läufe, etwa Qualitätsbericht, Lieferantenbewertung, Vorbereitung der Wochenplanung.
• Betriebsrat und Datenschutz früh einbinden, weil Messung und Protokolle schnell Fragen zur Leistungskontrolle aufwerfen. Eine Betriebsvereinbarung schafft hier Klarheit für alle.

Realistisch sind hier sechs bis zwölf Monate, Abteilung für Abteilung. Am besten beginnt ihr mit dem Bereich, der am meisten Lust darauf hat, und lasst die anderen nachziehen, wenn sie die Wirkung sehen.

Typische Fehler

• Mit Agenten anfangen statt mit Wissen: Ein Agent ohne Standards rät, und Raten skaliert schlecht.
• Regeln in einzelnen Agenten verstecken: Dann entstehen neue Wissensinseln. Regeln gehören in gemeinsame Standards, die alle lesen.
• Läufe ohne Prüfschranke: Unbeaufsichtigte Arbeit braucht am Ende eine Kontrolle und am Morgen einen Menschen.
• Alles auf einen Anbieter setzen: Offene Formate und eigene Server halten euch beweglich.
• Nutzung messen statt Wirkung: Zählt, was besser geworden ist.

Gesprächsfragen für den Termin

• Wo steht heute das Wissen, das ein neuer Mitarbeiter in der ersten Woche braucht?
• Welche zehn Regeln gelten bei euch immer, auch wenn sie nirgends stehen?
• Welcher Fehler ist bei euch schon zweimal passiert?
• Welche Arbeit könnte nachts erledigt werden, wenn morgens jemand draufschaut?
• Wer könnte bei euch das System verantworten, und wie viel Zeit hätte diese Person?
• Welche Abteilung hätte am meisten Lust, anzufangen?