RAG : posez des questions à vos documents

Le RAG — Retrieval Augmented Generation, génération augmentée par récupération — est le moyen le plus simple de faire répondre un modèle local à des questions sur vos documents. Vous chargez vos fichiers, vous posez votre question, la réponse s'appuie sur le contenu que vous avez chargé.

Pourquoi un modèle seul ne suffit pas

Un modèle de langage en sait beaucoup, mais pas sur vos affaires : vos manuels, vos procédures internes, les fiches de vos produits. On lui demande quelque chose qui n'a pas servi à son entraînement, et il répond quand même — souvent en inventant, avec la confiance qui est justement le problème.

En plus, l'entraînement a une date limite : tout ce qui s'est passé ensuite, et tout ce qui n'est pas public (or la plupart des documents d'entreprise ne le sont pas), il ne le connaît pas.

Le RAG règle exactement ça : avant de répondre, le système cherche dans vos documents le passage pertinent et le met à la disposition du modèle. Le modèle répond sur ce qu'il vient de lire, pas sur ce qu'il se souvient.

Trois composants, en clair

1. L'encodage sémantique (embedding). Un modèle d'embedding transforme le texte en vecteurs : des listes de nombres qui représentent le sens. Deux phrases proches par le sens finissent proches dans cet espace. C'est ce qui permet de « chercher par sens » plutôt que par mot exact.

2. La base de données vectorielle. Les vecteurs sont stockés dans une base qui sait répondre très vite à « quels vecteurs sont les plus proches de celui-là ? ». La recherche est par similarité, pas par correspondance littérale : « frein » et « système de freinage » sont deux mots différents, mais leurs vecteurs sont voisins.

3. La boucle de récupération. À chaque question, le système la transforme en vecteur, cherche les passages les plus similaires dans la base, et construit le prompt en y ajoutant ce contexte. Le modèle répond en voyant les passages trouvés.

Avant tout ça, les documents sont découpés en petits blocs (chunking) : un manuel de 200 pages ne se consulte pas entier, mais par morceaux de quelques dizaines de lignes, et seuls les morceaux pertinents arrivent dans le prompt.

Le parcours complet d'une question

1. Vous préparez vos documents et les chargez (une fois, puis à chaque mise à jour).
2. Le système les découpe en blocs et les transforme en vecteurs avec le modèle d'embedding.
3. Les vecteurs partent dans la base vectorielle, sur votre matériel.
4. Vous posez la question : elle est transformée en vecteur et comparée aux vecteurs stockés.
5. Les blocs les plus proches sont insérés dans le prompt avec votre question.
6. Le modèle répond en s'appuyant sur ce contexte.

Tout tourne en local : documents, vecteurs et modèle. Aucune copie de vos fichiers ne part vers un service externe.

Exemple concret avec des outils locaux

Le chemin le plus court : Ollama pour le modèle, Open WebUI pour les documents. Vous chargez vos PDF ou textes depuis la section documents, vous choisissez un modèle d'embedding (par exemple nomic-embed-text, téléchargeable via Ollama), et les fichiers sont découpés et indexés automatiquement. Ensuite, dans une conversation, vous activez « utiliser dans cette conversation » sur le document et vous posez votre question : la réponse indique le passage d'où elle vient.

Le point important : l'indexation est une opération à faire une seule fois. Le travail lourd (découpage, encodage, stockage) est réalisé au chargement ; la conversation reste rapide, et chaque question ne consulte que les blocs pertinents, pas tout l'archive.

Les limites

Le RAG n'est pas de la magie. Si le document ne contient pas la réponse, le modèle ne l'inventera pas — à condition que le prompt le lui permette. Et si la recherche rate le bon bloc, la réponse est fausse aussi bon soit le modèle : la qualité de la recherche fixe le plafond de la qualité des réponses.

Ça marche mieux avec des documents bien écrits et structurés, et les détails comptent : la taille des blocs, le modèle d'embedding, le nombre de blocs récupérés. Ce sont les premières choses à ajuster quand les résultats ne convainquent pas.

Pour comprendre chaque étape, regardez qu'est-ce que l'IA locale et comment choisir votre premier modèle. Et si votre objectif est de faire répondre le modèle aux documents de travail, Open WebUI est le point de départ le plus simple.

En résumé

Le RAG relie un modèle local à vos documents : le modèle lit d'abord, répond ensuite. Trois composants — encodage sémantique, base vectorielle, boucle de récupération — et aucune donnée qui quitte votre matériel. Pour qui a déjà installé un modèle local, c'est l'étape qui transforme la conversation en outil de travail : de vraies questions, des réponses étayées par vos documents.

Article généré par IA