KI-Agenten und Werkzeuge
Englischer Fachbegriff: Retrieval-Augmented Generation
RAG (Retrieval-Augmented Generation) heißt: Bevor die KI antwortet, sucht sie in deinen eigenen Unterlagen nach passenden Stellen und baut sie in ihre Antwort ein.
Wie eine Prüfung mit offenem Buch
Ohne RAG schreibt die KI eine Prüfung aus dem Gedächtnis: Sie weiß viel, aber nichts über deine Firma und nichts, was nach ihrem Training passiert ist. Mit RAG darf sie das Buch aufschlagen. Sie sucht die passenden Seiten heraus, liest sie und antwortet dann.
Mit RAG arbeiten KI-Assistenten mit deinen Handbüchern, Richtlinien und Produktinfos, ohne dass das Modell neu trainiert werden muss. Die Qualität hängt stark von den Unterlagen ab: Sind sie veraltet, widersprüchlich oder ungeordnet, findet die KI die falschen Stellen. Gute Lösungen zeigen dir außerdem die Quelle, damit du die Antwort prüfen kannst.
Stell eine Frage und vergleich die Antwort ohne und mit RAG.
Für diese Übung braucht es JavaScript im Browser.
Beispiel mit einer erfundenen Firma und fünf kurzen Richtlinien.
RAG läuft in drei Schritten, die im Namen stecken. Retrieval (Abrufen): Ein Suchsystem holt die passendsten Textstücke aus der Wissensbasis, meist über Embeddings, also nach Bedeutung, oft kombiniert mit einer klassischen Stichwortsuche. Augmented (Ergänzen): Die gefundenen Stellen kommen zusammen mit der Frage ins Kontextfenster. Generation (Erzeugen): Das Modell formuliert daraus die Antwort. Vorher werden die Dokumente in kleinere Abschnitte zerlegt (englisch: chunking). Wie gut das gelingt, wie gut die Suche ist und wie viele Abschnitte mitgegeben werden, entscheidet über die Qualität. Ein zusätzlicher Schritt, der Reranker, kann die gefundenen Stellen vorher noch einmal nach Relevanz ordnen.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.