Was ist RAG? Die einfachste Erklärung, wie es funktioniert

RAG klingt kompliziert, weil der Name kompliziert ist. Die Idee ist es nicht. RAG bedeutet einfach: Bevor die KI antwortet, sucht sie zuerst nach relevanten Informationen aus einer Wissensquelle und gibt diese Informationen an das Sprachmodell weiter.

Stellen Sie sich ein LLM wie eine kluge Person vor, die an einem Schreibtisch sitzt. RAG ist der Bibliothekar, der die richtige Seite aus dem richtigen Buch bringt. Das LLM liest dann diese Seite und antwortet Ihnen.

Zuerst: Was macht das LLM?

Das LLM ist der Teil, der Sprache versteht und Sprache erzeugt. Es kann Ihre Frage lesen, Anweisungen verstehen, Informationen vergleichen, etwas erklären und eine Antwort schreiben.

Aber das LLM weiß nicht automatisch, was sich gerade in Ihrer Unternehmensdatenbank, Ihrer Spielsitzung, Ihren privaten Dokumenten oder einer Datei befindet, die Sie vor fünf Minuten erstellt haben.

Es weiß nur, was bereits im Modell enthalten ist, plus alle Informationen, die die Anwendung ihm in der aktuellen Anfrage gibt.

Dann: Was ist die Wissensdatenbank?

Eine Wissensdatenbank ist einfach eine Information, die die Anwendung durchsuchen kann.

Sie könnte PDFs, Handbücher, Produktdokumentationen, Support-Artikel, Verträge, Spielregeln, Waffendaten, interne Unternehmensdokumente, Datenbankeinträge oder anderen Text enthalten.

Die Wissensdatenbank kann lokal auf Ihrem eigenen Rechner sein. Sie kann auf einem Server sein. Sie kann in einer Vektordatenbank sein. Sie kann auch aus normalen Dateien erstellt werden. RAG bedeutet nicht Internet.

Was macht RAG also tatsächlich?

Das ist RAG.

Der vollständige Name ist Retrieval-Augmented Generation. Retrieval bedeutet, die relevanten Informationen zu finden. Augmented bedeutet, diese Informationen zum Kontext des Modells hinzuzufügen. Generation bedeutet, dass das LLM die endgültige Antwort schreibt.

Ein sehr einfaches Beispiel

Stellen Sie sich vor, Sie haben eine lokale Wissensdatenbank über ein Spiel.

Sie fragen: „Welche Munition verwendet die AKM?“

RAG durchsucht die Wissensdatenbank und findet den Eintrag über die AKM. Es gibt dieses kleine Stück Information an das LLM weiter. Das LLM antwortet dann: „Die AKM verwendet 7,62-mm-Munition.“

Das LLM brauchte nicht die gesamte Datenbank. RAG brachte nur den nützlichen Teil.

Nun der wichtige Teil: RAG ist nicht der aktuelle Zustand

Hier werden viele Erklärungen verwirrend.

RAG gibt der KI normalerweise Wissen. Ein Zustandssystem gibt der KI Fakten darüber, was gerade jetzt wahr ist.

Was ist eine Zustandsdatenbank?

Eine Zustandsdatenbank oder ein Zustandsspeicher ist einfach ein Ort, an dem die Anwendung aktuelle Fakten aufbewahrt.

In einem Spiel kennt die Engine bereits Dinge wie Ihre Gesundheit, Position, Inventar, Munition, aktuelle Mission, nahe Objekte und Gegnerstatus. Ein KI-System kann ausgewählte Teile dieses Zustands dem Modell zugänglich machen.

In einer Geschäftsanwendung könnte dieselbe Idee eine Bestelldatenbank, ein Kundendatensatz, ein Projektstatus oder der aktuelle Wert eines Sensors sein.

Der Zustand wird von der Anwendung selbst erstellt, während Dinge geschehen. Wenn Sie Gesundheit verlieren, aktualisiert das Spiel den Gesundheitswert. Wenn Sie Munition aufnehmen, ändert sich das Inventar. Wenn eine Bestellung bezahlt wird, ändert das Geschäftssystem den Bestellstatus.

Wie die drei Teile zusammenwirken

Die grundlegende Architektur ist also:

Verwendet RAG immer eine Vektordatenbank?

Nein.

Eine Vektordatenbank ist eine gängige Methode, um semantische Suche aufzubauen, aber sie ist nicht die Definition von RAG.

Der wichtige Teil ist das Abrufen: Das System findet relevante externe Informationen und fügt sie dem Kontext des LLM hinzu, bevor die Antwort generiert wird.

OpenAIs File Search kann beispielsweise mit Dateien arbeiten, die in Vektorspeichern abgelegt sind. Dateien werden in kleinere Stücke aufgeteilt, damit das System die Teile abrufen kann, die für eine Frage relevant sind. Das ist eine Umsetzung derselben Grundidee.

Was ist ein Embedding, einfach erklärt?

Du musst Embeddings nicht verstehen, um RAG zu verstehen.

Aber die einfache Version ist diese: Ein Embedding ist eine numerische Darstellung von Bedeutung. Es hilft einem Suchsystem, Text zu finden, der konzeptionell ähnlich ist, auch wenn die Wörter nicht genau dieselben sind.

Zum Beispiel sucht eine normale Stichwortsuche möglicherweise nach den genauen Wörtern „Autoreparatur“. Die semantische Suche kann auch verstehen, dass „repariere mein Fahrzeug“ ein ähnliches Thema betrifft.

Das macht Embeddings für RAG nützlich, aber RAG kann auch Stichwortsuche, Datenbankabfragen oder eine Mischung aus mehreren Methoden verwenden.

RAG ist auch kein Gedächtnis

Gedächtnis ist ein weiteres Konzept, das oft mit RAG vermischt wird.

Gedächtnis sind normalerweise Informationen, die das System über frühere Interaktionen oder frühere Ereignisse behält. RAG ist der Mechanismus, mit dem relevantes Wissen abgerufen wird, wenn es benötigt wird.

Ein echtes Spielbeispiel: PUBG Ally

PUBG Ally ist ein nützliches Beispiel, weil es den Unterschied sichtbar macht.

KRAFTON beschreibt den Live-Match-Zustand als separate Quelle der Wahrheit. Das Spiel gibt aktuelle Fakten über Beobachtungswerkzeuge preis: aktuelle Waffe, Munition, Gesundheit, Status der Sicherheitszone, Gegenstände in der Nähe und Kampfsituation.

Die Wissenssuche ist eine andere Aufgabe. Das System kann kuratiertes Wissen über Waffen, Aufsätze, Gegenstände und Regeln nutzen. Das ACE Game Agent SDK von NVIDIA bietet außerdem eine separate RAG-API zum Abrufen von Wissen aus von Entwicklern erstellten Datenbanken.

Das gibt uns die klare Trennung: Die Spiel-Engine sagt, was gerade passiert, der Abruf liefert relevantes Wissen, und das Sprachmodell entscheidet, was die Informationen bedeuten.

Ein vollständiges Beispiel

Stellen Sie sich vor, Sie sagen einem KI-Teamkollegen: „Ich habe wenig Gesundheit. Sollten wir angreifen?“

RAG hat die Figur nicht gesteuert. Die Zustandsdatenbank hat nicht geschlussfolgert. Das LLM hat das Spiel nicht direkt verändert. Jeder Teil hatte eine Aufgabe.

Warum überhaupt RAG verwenden?

Weil es langsam, teuer und oft verwirrend wäre, jedes Dokument, jede Regel und jeden Datenbankeintrag in jeden Prompt aufzunehmen.

RAG ermöglicht es dem System, nur die Informationen auszuwählen, die für die aktuelle Frage nützlich sind.

Es ermöglicht außerdem, die Wissensbasis zu aktualisieren, ohne das gesamte Sprachmodell neu zu trainieren. Ändern Sie das Dokument oder die Datenbank, bauen Sie den Index bei Bedarf neu auf oder aktualisieren Sie ihn, und der nächste Abruf kann die neueren Informationen verwenden.

Was RAG nicht garantiert

RAG kann die Fundierung verbessern, aber es macht eine Antwort nicht automatisch korrekt.

Der Abrufschritt kann das falsche Dokument finden. Das richtige Dokument kann veraltet sein. Das LLM kann gute Belege missverstehen. Oder der aktuelle Zustand kann sich geändert haben.

Ein zuverlässiges System muss daher den Abruf, die Aktualität des Zustands und die endgültige Schlussfolgerung des Modells getrennt validieren.

Das einfachste mentale Modell zum Merken

Fazit

RAG ist viel weniger mysteriös, sobald die Teile getrennt sind.

Das LLM versteht und erzeugt Sprache. Die Anwendung verwaltet den aktuellen Zustand. Die Wissensbasis speichert Informationen. RAG findet den nützlichen Teil dieser Informationen und fügt ihn in den Kontext des LLM ein. Werkzeuge oder die Anwendung führen reale Aktionen aus.

Das ist die grundlegende Architektur hinter vielen modernen KI-Assistenten und Agenten.

FAQ

Glossar

Primärquellen