Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG)

RAG (Retrieval Augmented Generation) ist eines der praktischsten und am weitesten verbreiteten Muster in modernen KI-Anwendungen. Es löst ein grundlegendes Problem: Sprachmodelle kennen nur das, worauf sie trainiert wurden. Sie kennen nicht Ihre spezifischen Dokumente, Ihre privaten Daten oder die neuesten Informationen. RAG gibt ihnen Zugang zu diesem Wissen ohne Nachschulung.

Die Idee ist einfach. Wenn ein Benutzer eine Frage stellt, durchsuchen Sie zuerst Ihre eigene Wissensdatenbank nach relevanten Informationen und geben dann sowohl die Frage als auch die Suchergebnisse an das Sprachmodell weiter. Das Modell verwendet die abgerufenen Informationen, um die Frage zu beantworten. Anstatt sich nur auf seine Trainingsdaten zu verlassen, hat es Zugang zu frischem, spezifischem und relevantem Kontext.

Der Abrufteil verwendet typischerweise Embeddings, wie wir im vorherigen Artikel besprochen haben. Sie betten alle Ihre Dokumente ein und speichern sie in einer Vektordatenbank. Wenn eine Frage eingeht, betten Sie die Frage ein, finden die ähnlichsten Dokumente und übergeben sie dem Modell. Dies ist viel effizienter, als zu versuchen, all Ihr Wissen in das Kontextfenster des Modells zu packen.

RAG bietet mehrere Vorteile gegenüber dem Feintuning. Es erfordert kein erneutes Training des Modells, ist also günstiger und schneller einzurichten. Sie können Ihre Wissensdatenbank sofort aktualisieren, indem Sie Dokumente hinzufügen oder entfernen. Das Modell kann auch seine Quellen zitieren und genau angeben, welches Dokument es zur Beantwortung jeder Frage verwendet hat, was Vertrauen schafft und eine Überprüfung ermöglicht.

Die größte Herausforderung bei RAG ist die Abrufqualität. Wenn die Suche nicht die richtigen Dokumente findet, kann das Modell nicht richtig antworten, selbst wenn es die Antwort kennt. Die Verbesserung des Abrufs umfasst die Auswahl des richtigen Embedding-Modells, das geeignete Aufteilen von Dokumenten und manchmal die Verwendung einer hybriden Suche, die semantische und Schlüsselwortübereinstimmungen kombiniert. Ein guter Abruf ist der Schlüssel zu einem guten RAG-System.