Retrieval-Augmented Generation

Was ist Retrieval-Augmented Generation?

Retrieval-Augmented Generation (RAG) ist ein Verfahren, das ein Sprachmodell mit einer externen Wissensquelle verbindet. Statt eine Antwort allein aus dem im Modell gespeicherten Wissen zu erzeugen, ruft das System zunächst passende Dokumente oder Textabschnitte aus einer Datenbank ab und stellt sie dem Modell als zusätzlichen Kontext bereit. Vorgestellt wurde der Ansatz 2020 von Patrick Lewis und Kollegen.

Wie funktioniert RAG?

RAG kombiniert zwei Bausteine. Ein Retriever durchsucht eine Wissensbasis – oft über eine semantische Vektorsuche – und findet zu einer Nutzerfrage die relevantesten Textstellen. Diese werden zusammen mit der ursprünglichen Frage an einen Generator (das Sprachmodell) übergeben, der daraus die endgültige Antwort formuliert. Im ursprünglichen Aufsatz nutzten die Autoren einen neuronalen Retriever über einen Wikipedia-Index und ein Sequenz-zu-Sequenz-Modell als Generator.

Vorbereitend werden die Quelltexte in kleine Abschnitte (Chunks) zerlegt, in Vektoren umgewandelt und in einem Index gespeichert; erst dieser Index macht die schnelle semantische Suche möglich. In der Sprache der Forschung verbindet RAG parametrisches Wissen (im Modell gespeichert) mit nicht-parametrischem Wissen (die externe, durchsuchbare Quelle).

Warum ist RAG nützlich?

Reine Sprachmodelle haben einen festen Wissensstand und können Fakten erfinden. RAG mildert beide Probleme: Weil die Antwort auf abgerufenen, überprüfbaren Quellen fußt, sinkt die Gefahr von Halluzinationen, und neues Wissen lässt sich einbinden, ohne das Modell neu zu trainieren – man aktualisiert einfach die Wissensbasis. Zudem lassen sich Quellen zitieren, was Antworten nachvollziehbarer macht.

Ganz fehlerfrei ist RAG allerdings nicht: Findet der Retriever unpassende oder widersprüchliche Stellen, kann auch die Antwort falsch ausfallen. Auch beim Lernen mit KI ist RAG relevant: Werkzeuge wie eine NotebookLM-Alternative, die Antworten aus deinen eigenen Unterlagen – etwa Skripten oder Mitschriften – erzeugen, arbeiten im Kern nach diesem Prinzip. Die Qualität hängt dabei stark davon ab, wie gut die bereitgestellten Quellen sind.