Agenten & Tools
RAG
Auch: Retrieval-Augmented Generation
Passende Ausschnitte aus eigenen Dokumenten suchen und dem Modell als Kontext mitgeben, statt es aus dem Gedächtnis antworten zu lassen.
RAG besteht aus zwei Schritten. Zuerst wird zur Frage passendes Material aus euren eigenen Quellen gesucht, dann wird dieses Material zusammen mit der Frage an das Modell geschickt. Das Modell antwortet auf Basis der mitgeschickten Ausschnitte.
Der Vorteil: Antworten stehen auf euren Inhalten, sind belegbar und bleiben aktuell, ohne dass ein Modell neu trainiert werden muss. Deshalb ist RAG in den meisten Fällen die richtige Antwort auf „das Modell kennt unsere Daten nicht“, nicht Fine-Tuning.
Die Qualität hängt fast vollständig am ersten Schritt. Wird das Falsche gefunden, formuliert das Modell die falsche Grundlage überzeugend aus. Aufwand steckt entsprechend im Aufbereiten und Zerlegen der Quellen, nicht im Modell.
Verwandte Begriffe
- Embedding
Die Übersetzung von Text in eine Zahlenliste, in der inhaltlich ähnliche Texte nahe beieinander liegen.
- Vektordatenbank
Ein Speicher, der Embeddings ablegt und schnell die ähnlichsten findet.
- Halluzination
Eine erfundene, aber flüssig formulierte Antwort, die das Modell nicht als unsicher kennzeichnet.
- Fine-Tuning
Ein vorhandenes Modell mit eigenen Beispielen weitertrainieren, damit es Stil oder Format zuverlässig trifft.
In der Praxis üben
In der AI Masterclass kommt dieser Begriff nicht als Definition vor, sondern in einer Session, in der damit gearbeitet wird.