Was ist ein RAG-Chatbot? Eine einfache Erklärung

RAG steht für Retrieval-Augmented Generation. Es ist die Methode hinter den meisten Chatbots, die aus den eigenen Inhalten eines Unternehmens antworten. Der Name ist sperrig, die Idee ist einfach.

Die Prüfung mit offenem Buch

Ein allgemeines KI-Modell, das aus dem Gedächtnis antwortet, ist wie ein Schüler in einer Prüfung ohne Hilfsmittel: oft richtig, manchmal selbstsicher falsch. Ein RAG-Chatbot schreibt eine Prüfung mit offenem Buch. Vor der Antwort schlägt er die passenden Seiten deines Materials nach und schreibt seine Antwort aus dem, was er findet.

Die zwei Hälften

• Retrieval: Deine Inhalte werden nach den Passagen durchsucht, deren Bedeutung der Frage am nächsten kommt.
• Generation: Das KI-Modell schreibt mit diesen Passagen eine Antwort.

Warum Unternehmen es nutzen

• Antworten stammen aus deinen Inhalten, nicht aus dem restlichen Internet.
• Den Bot zu aktualisieren ist so einfach wie die Inhalte zu aktualisieren. Kein neues Modelltraining.
• Der Bot kann zeigen, von welcher Seite eine Antwort stammt.
• Er kann angewiesen werden, „Das weiß ich nicht“ zu sagen, wenn nichts Passendes gefunden wird.

Seine Grenzen

RAG verringert erfundene Antworten, beseitigt sie aber nicht vollständig. Sind deine Inhalte widersprüchlich, veraltet oder lückenhaft, ist es die Antwort auch. Außerdem werden immer nur einige Passagen abgerufen. Fragen, für die ein ganzes Dokument zusammengefasst oder jeder Punkt einer langen Liste genannt werden muss, sind daher schwieriger als konkrete Fragen.

Was das für dich bedeutet

Die Qualität eines RAG-Chatbots hängt weit mehr von deinen Inhalten ab als von der Technik. Klare, aktuelle, spezifische Seiten ergeben klare, aktuelle, spezifische Antworten.