Aller au contenu

Le RAG : faire répondre une IA à partir de vos documents, sans exposer ce qui est sensible

Le RAG (génération augmentée par la recherche) fait répondre une IA à partir de vos documents, en citant ses sources. Son fonctionnement, la différence avec le fine-tuning, des exemples, et les règles d’accès qui évitent les fuites.

Par Publié le 6 octobre 2026

Le RAG, pour retrieval-augmented generation (génération augmentée par la recherche), fait répondre une IA à partir de vos propres documents. Avant de répondre, le système cherche dans votre base documentaire les passages qui traitent de la question, puis les transmet au modèle de langage, qui rédige sa réponse à partir d’eux et indique d’où elle vient. C’est la façon courante de brancher un assistant ou un agent IA sur les connaissances d’une entreprise, sans réentraîner de modèle.

Le principe a été décrit en 2020 par des chercheurs de Facebook AI Research, de l’University College London et de l’université de New York. Il est simple ; sa mise en œuvre l’est moins : une réponse ne vaut que ce que valent les passages retrouvés, et un RAG mal cadré peut montrer à quelqu’un un document qu’il n’a pas le droit de lire.

Comment fonctionne le RAG ?

Un RAG travaille en deux temps.

  • Préparer les documents. Ils sont découpés en passages de quelques paragraphes. Chaque passage est converti en une suite de nombres qui représente son sens (un vecteur, ou embedding en anglais), puis rangé dans une base vectorielle avec son origine, sa date et ses droits d’accès. Cette préparation se refait à chaque mise à jour d’un document.
  • Répondre à une question. La question est convertie de la même façon. La base retrouve les passages dont le sens est proche, même s’ils n’emploient pas les mêmes mots. Le modèle reçoit la question et ces passages, avec la consigne de répondre à partir d’eux et de citer ses sources.

Une base vectorielle est donc un index par le sens plutôt que par les mots. Beaucoup de systèmes combinent les deux recherches, par le sens et par mots-clés, pour retrouver aussi les références exactes : un numéro de contrat, un nom de produit, un code d’erreur.

RAG ou fine-tuning : que choisir ?

Le fine-tuning (réentraîner un modèle sur vos données) modifie le modèle lui-même : il lui apprend un style, un format, un vocabulaire. Le RAG ne touche pas au modèle : il lui fournit les informations utiles au moment de la question. Pour des connaissances d’entreprise, cette différence compte :

  • Des informations qui changent. Avec un RAG, on met à jour le document et la réponse suit, sans nouvel entraînement.
  • Des réponses vérifiables. Un RAG cite les passages utilisés ; un modèle réentraîné ne sait pas dire de quel document vient ce qu’il a appris.
  • Des droits d’accès respectés. Un RAG peut filtrer les passages selon la personne qui pose la question ; ce qu’un modèle a appris est accessible à tous ceux qui l’interrogent.

Le fine-tuning garde son intérêt pour un format de sortie ou un vocabulaire métier très particulier, et les deux se combinent. Dans son enquête de novembre 2024 auprès de 600 décideurs informatiques d’entreprises américaines, le fonds d’investissement Menlo Ventures relevait 51 % d’adoption du RAG parmi les façons de concevoir une application d’IA générative, contre 31 % un an plus tôt, et 9 % de modèles réentraînés parmi ceux en production.

Des exemples de RAG en entreprise

  • Un assistant interne : il répond aux questions des équipes à partir des procédures, des guides et de la documentation, en renvoyant vers la page d’origine.
  • Le support : à partir de la base de connaissances et des tickets déjà traités, un agent prépare une réponse à un problème proche, qu’une personne valide avant l’envoi.
  • Les contrats et les appels d’offres : retrouver une clause, comparer des conditions, préparer une réponse à partir de celles déjà rédigées.
  • Les agents IA : le RAG est souvent l’outil par lequel un agent consulte vos documents avant d’agir. Notre article sur l’IA agentique détaille ce qu’un agent fait de ces informations.

Pourquoi un RAG répond mal

Quand un RAG se trompe, la cause se trouve souvent avant le modèle :

  • des documents périmés ou contradictoires : deux versions d’une procédure, et l’IA cite l’ancienne ;
  • un mauvais découpage : un tableau coupé en deux, une exception séparée de sa règle ;
  • des passages sans contexte : sans date, sans auteur, sans périmètre, impossible de préférer le bon ;
  • une question hors de la base : faute de passage utile, le modèle complète avec sa mémoire générale, sauf consigne contraire.

Le RAG réduit les erreurs sans les supprimer. En mai 2024, des chercheurs de Stanford ont évalué trois outils de recherche juridique fondés sur le RAG sur plus de 200 questions : selon l’outil, 17 % à 33 % des réponses contenaient une information fausse ou trompeuse, contre 43 % pour GPT-4 interrogé sans recherche documentaire.

D’où trois réflexes : des sources tenues à jour, chacune avec un responsable ; la consigne de répondre « je ne sais pas » quand rien n’est trouvé ; des tests réguliers sur un jeu de questions dont on connaît la réponse. C’est le travail de notre offre Des données prêtes pour vos agents IA.

Les risques de sécurité d’un RAG

Un RAG ouvre vos documents à une IA. Ses risques sont désormais bien décrits, notamment par l’OWASP, fondation connue pour ses listes de risques de sécurité applicative, dans l’édition 2026 de son Top 10 pour les applications de modèles de langage, publiée en août 2026.

  • Montrer ce qu’une personne n’a pas le droit de voir. Si la base mélange les documents de la direction, des ressources humaines et de tous les services, une question bien tournée peut faire ressortir un passage confidentiel. L’OWASP demande d’appliquer les droits au moment de la recherche, passage par passage, plutôt que de filtrer la réponse après coup. En août 2025, l’ANSSI et son homologue allemand, le BSI, recommandaient de vérifier le rôle de l’utilisateur avant que les données n’atteignent le modèle.
  • Des documents piégés. Un document peut cacher des instructions que le modèle lira comme des consignes : c’est l’injection de prompt indirecte, décrite par des chercheurs dès février 2023 et en tête de la liste de l’OWASP. Une instruction glissée dans la base touche toutes les conversations qui la retrouvent. En 2024, l’étude PoisonedRAG a montré qu’en ajoutant cinq textes malveillants par question visée dans une base de plusieurs millions de textes, des attaquants obtenaient la réponse de leur choix dans 90 % des cas.
  • Des vecteurs qui ne sont pas anonymes. Les nombres stockés dans la base vectorielle ne sont pas un chiffrement : en 2023, des chercheurs ont reconstitué à l’identique 92 % de textes courts (32 unités de texte, ou jetons) à partir de leurs vecteurs. Une base vectorielle et ses sauvegardes se protègent donc comme les documents d’origine.

Ces risques rejoignent ceux des agents, développés dans notre article sur la sécurité des agents IA.

Données personnelles : ce que disent la CNIL et l’ANSSI

En juillet 2024, la CNIL a rappelé que l’organisation qui branche une IA générative sur sa propre base documentaire est responsable de ce traitement quand la base contient des données personnelles, et recommande d’y associer le délégué à la protection des données et, si besoin, de mener une analyse d’impact. Pour des données personnelles ou des documents sensibles, par exemple dans un RAG, elle conseille de privilégier en général un déploiement sur site. Notre article sur le cloud souverain présente les options d’hébergement en Europe.

Les recommandations de l’ANSSI pour les systèmes d’IA générative (avril 2024) vont dans le même sens : recenser toutes les données utilisées, base vectorielle comprise ; penser dès la conception à la règle du besoin d’en connaître ; journaliser chaque appel aux données ; revoir régulièrement les droits des outils d’IA sur les messageries et les espaces documentaires.

Mettre en place un RAG, étape par étape

  • Partir de questions réelles, celles que vos équipes posent, avec la réponse attendue : elles serviront de jeu de test.
  • Retenir peu de sources, fiables, chacune avec un responsable.
  • Reprendre les droits d’accès des documents d’origine et les appliquer dès la recherche.
  • Exiger des réponses sourcées, et « je ne sais pas » quand rien n’est trouvé.
  • Journaliser les questions, les passages retrouvés et les réponses ; mesurer la qualité avant d’ouvrir à plus de monde.

On mène ce travail avec vos équipes dans l’offre Des données prêtes pour vos agents IA (voir aussi Data et BI et L’IA agentique sous votre contrôle). Pour en parler avec un ingénieur : la journée de cadrage offerte.

Questions fréquentes

Que veut dire RAG ?

Retrieval-augmented generation, en français génération augmentée par la recherche : l’IA cherche d’abord dans vos documents, puis rédige sa réponse à partir de ce qu’elle a trouvé.

Le RAG supprime-t-il les erreurs de l’IA ?

Non. Il les réduit quand les documents sont bons et bien retrouvés, et il permet de vérifier la source. Une réponse importante se contrôle dans le passage cité.

Faut-il une base vectorielle ?

Souvent, pas toujours. Pour quelques documents courts, une recherche par mots-clés peut suffire. Dès que le volume grandit ou que les questions sont formulées librement, la recherche par le sens devient utile ; beaucoup de bases de données courantes savent stocker des vecteurs.

Nos documents servent-ils à entraîner le modèle ?

Pas par le RAG : les passages sont fournis au modèle au moment de la question, sans le modifier. Ce que le fournisseur du modèle fait des échanges dépend de son contrat : vérifiez ses conditions de conservation et d’usage des données, ou utilisez un modèle hébergé dans votre environnement.

Sources

Faits et chiffres vérifiés le 4 octobre 2026.