Was ist Retrieval-Augmented Generation?
Retrieval-Augmented Generation, kurz RAG, ergänzt eine Anfrage um Inhalte aus einer getrennten Wissensquelle. Zuerst sucht ein Retrieval-System nach passenden Textstellen, zum Beispiel in Produktdokumentation, Richtlinien oder einem Wissensarchiv. Die gefundenen Ausschnitte werden zusammen mit der Frage an das Sprachmodell übergeben. Das LLM formuliert seine Antwort dann auf Basis dieses zusätzlichen Kontexts und kann die verwendeten Fundstellen ausweisen.
RAG verändert normalerweise nicht die trainierten Gewichte des Modells. Genau darin liegt der Unterschied zum Fine-Tuning: Fine-Tuning passt das Verhalten des Modells mit Trainingsbeispielen an; RAG liefert zur Laufzeit austauschbares Wissen. Neue Dokumente lassen sich dadurch schneller berücksichtigen, sofern Index und Zugriffsregeln gepflegt sind. Trotzdem ist RAG kein Wahrheitsfilter. Die Suche kann unpassende Passagen liefern, ein Dokument kann veraltet sein und das Modell kann Quellen falsch wiedergeben. Gute Systeme prüfen daher Berechtigungen, Fundqualität, Zitate und Antworten getrennt.
RAG im Klartext
So läuft eine RAG-Anfrage ab
Häufige Fragen
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG ruft bei jeder Anfrage passende Informationen aus einer externen Quelle ab und legt sie in den Modellkontext. Fine-Tuning verändert Modellparameter anhand von Trainingsbeispielen und eignet sich eher für gewünschtes Verhalten, Stil oder wiederkehrende Muster. Für häufig wechselndes Faktenwissen ist RAG meist direkter aktualisierbar. Beide Verfahren können kombiniert werden.
Verhindert RAG Halluzinationen?
RAG kann das Risiko senken, weil das Modell relevante Quellen erhält. Es kann Halluzinationen aber nicht ausschließen. Die Suche kann die falschen Passagen auswählen, Dokumente können Fehler enthalten und das Modell kann Belege untreu zusammenfassen. Gute Tests betrachten deshalb Abrufqualität und Antwortqualität separat und erlauben dem System, bei fehlender Evidenz keine Antwort zu geben.
Welche Daten eignen sich für RAG?
Geeignet sind gepflegte Dokumente, deren Herkunft, Aktualität und Zugriffsrechte bekannt sind: Handbücher, Richtlinien, Produktwissen oder freigegebene Wissensartikel. Problematisch sind ungeprüfte Ablagen, Duplikate, eingescannte Dateien ohne saubere Texterkennung und Inhalte ohne Besitzer. RAG macht vorhandenes Wissen abrufbar; es repariert keine schlechte Informationspflege.
Braucht RAG immer eine Vektordatenbank?
Nein. Vektorsuche ist verbreitet, weil sie semantisch ähnliche Passagen finden kann. Je nach Bestand können klassische Stichwortsuche, strukturierte Datenbankabfragen, Wissensgraphen oder eine Kombination besser passen. Entscheidend ist, dass die Suche für die realen Fragen relevante, erlaubte und nachvollziehbare Quellen liefert. Die Datenbanktechnik ist Mittel zum Zweck.