Glossar
RAG (retrieval-augmented generation)
RAG (retrieval-augmented generation) bedeutet: die KI schlägt zuerst in einer vertrauenswürdigen Quelle nach (deinen Dokumenten, einer Datenbank, dem Web) und formuliert die Antwort dann auf Basis des Gefundenen. Das reduziert Halluzinationen und hält Antworten aktuell.
Ein LLM antwortet allein aus dem Gedächtnis: alles, was es beim Training aufgenommen hat, eingefroren zu einem vergangenen Zeitpunkt. RAG ergänzt einen Schritt mit offenen Unterlagen: Bevor das Modell antwortet, ruft das System die relevanten Inhalte aus einer gewählten Quelle ab und legt sie dem Modell zusammen mit deiner Frage vor.
Stell dir eine Apothekerin vor. Bei einer seltenen Wechselwirkung zitiert eine gute Apothekerin nicht aus dem Kopf, sondern öffnet die offizielle Fachdatenbank, liest nach und antwortet dann. Gleiche Kompetenz, aber verankert in einer aktuellen und nachprüfbaren Quelle.
Für dich bedeutet das zwei Dinge. Antworten können Dokumente zitieren, die das Modell beim Training nie gesehen hat (deine Verträge, aktuelle Nachrichten, ein Produkthandbuch). Und Halluzinationen gehen spürbar zurück, verschwinden aber nicht vollständig: Das Modell kann das Abgerufene immer noch falsch lesen, daher bleiben Quellenlinks dein bestes Werkzeug.
Wo dir das begegnet
Jedes Mal, wenn ein Assistent „Ich suche kurz nach…“ sagt, bevor er antwortet, ist das RAG. Dazu zählen: ChatGPT- und Claude-Projekte, die aus hochgeladenen Dateien antworten, Copilot, der aus dem SharePoint deines Unternehmens schöpft, Gemini Notebook (früher NotebookLM), das mit deinen eigenen Quellen arbeitet, und Kundenservice-Bots, die tatsächlich die echte Rückgaberichtlinie zitieren.
Im deutschen und europäischen Kontext ist RAG besonders relevant, wenn Unternehmen interne Wissensdatenbanken per KI zugänglich machen. Dabei gelten die Anforderungen der DSGVO: Werden personenbezogene Daten in die Retrievalquelle eingespeist, braucht es eine Rechtsgrundlage nach Art. 6 DSGVO. Zuständig ist die Landesdatenschutzbehörde des Bundeslandes, in dem das Unternehmen sitzt (z. B. LfDI Baden-Württemberg, BayLDA in Bayern). Der EU AI Act setzt vor allem beim zugrunde liegenden Modell an: Anbieter von KI-Modellen mit allgemeinem Verwendungszweck haben Transparenzpflichten, und ab einer bestimmten Trainingsrechenleistung kommen Pflichten für Modelle mit systemischem Risiko dazu.