Qu'est-ce qu'un chatbot RAG ? Une explication simple
RAG signifie « retrieval-augmented generation », ou génération augmentée par la recherche. C'est la méthode derrière la plupart des chatbots qui répondent à partir des contenus d'une entreprise. Le nom est maladroit ; l'idée est simple.
L'examen à livre ouvert
Un modèle d'IA généraliste qui répond de mémoire ressemble à un étudiant passant un examen sans documents : souvent juste, parfois faux avec aplomb. Un chatbot RAG passe un examen à livre ouvert. Avant de répondre, il consulte les pages pertinentes de vos documents et rédige sa réponse à partir de ce qu'il trouve.
Les deux moitiés
- La recherche : parcourir vos contenus pour trouver les passages les plus proches de la question par le sens.
- La génération : faire rédiger une réponse par le modèle d'IA à partir de ces passages.
Pourquoi les entreprises l'utilisent
- Les réponses viennent de vos contenus, pas du reste d'Internet.
- Mettre le bot à jour est aussi simple que mettre à jour les contenus. Aucun réentraînement du modèle.
- Le bot peut montrer de quelle page provient une réponse.
- On peut lui demander de dire « Je ne sais pas » quand rien de pertinent n'est trouvé.
Ses limites
Le RAG réduit les réponses inventées ; il ne les supprime pas entièrement. Si vos contenus sont contradictoires, périmés ou incomplets, la réponse le sera aussi. Il ne récupère en outre que quelques passages à la fois : les questions qui demandent de résumer un document entier, ou de citer chaque élément d'une longue liste, sont plus difficiles que les questions précises.
Ce que cela signifie pour vous
La qualité d'un chatbot RAG dépend bien plus de vos contenus que de la technique. Des pages claires, à jour et précises donnent des réponses claires, à jour et précises.