RAG ou fine-tuning : comment faire travailler un LLM sur vos documents ?

Un modèle de langage a été entraîné une fois, sur des textes publics, jusqu’à une certaine date. Il écrit bien et raisonne correctement, mais il ignore tout de votre entreprise. Si vous l’interrogez sur votre procédure d’achat, il invente une réponse plausible.

Le RAG, pour génération augmentée par la recherche, règle ce problème sans toucher au modèle. Vos documents sont découpés en passages et rangés dans un index. À chaque question, le système retrouve les passages les plus proches, les joint à la question et demande au modèle de répondre à partir de ce qu’il vient de lire. Le modèle travaille livre ouvert.

Le fine-tuning prend le chemin inverse. On reprend l’entraînement du modèle avec vos propres exemples, des centaines de questions accompagnées de la réponse attendue, jusqu’à ce qu’il reproduise le comportement voulu. Le savoir passe alors dans le modèle lui-même. Le modèle travaille de mémoire.

Cette différence explique presque tout le reste : la mise à jour, les sources, les droits d’accès et le coût.

Dans une entreprise, les documents bougent sans arrêt : un tarif révisé, une procédure réécrite, un contrat signé hier. Avec le RAG, le document modifié est réindexé et la réponse suivante en tient compte. Rien d’autre ne change.

Avec un modèle réentraîné, chaque évolution demande un nouvel entraînement, donc un nouveau jeu d’exemples, une nouvelle évaluation et une nouvelle mise en production. Entre deux entraînements, le modèle répond avec l’ancienne version, sans le savoir et sans le dire.

Le RAG permet aussi de respecter les droits de chacun. La recherche ne remonte que les documents que l’utilisateur a le droit de lire : un commercial n’obtient pas de réponse tirée des dossiers des ressources humaines. Dans un modèle réentraîné, cette séparation n’existe pas. Ce qu’il a appris, il peut le restituer à n’importe qui.

Dernier point, souvent décisif pour un métier réglementé : la source. Une réponse produite par RAG renvoie au passage exact qui la fonde, et le lecteur le vérifie en un clic. Un modèle réentraîné ne peut pas dire d’où il tient ce qu’il affirme.

Le fine-tuning garde de vrais usages. Ils ont un point commun : on demande au modèle de se comporter d’une certaine façon, plus que de savoir quelque chose.

Premier cas, le format. Si chaque réponse doit sortir dans une structure précise, toujours la même, des milliers de fois par jour, un modèle réentraîné la respecte mieux qu’un modèle à qui on la rappelle à chaque requête.

Deuxième cas, le classement. Trier des courriels entrants par motif, étiqueter des tickets, qualifier des demandes : avec assez d’exemples corrigés, un petit modèle réentraîné fait ce travail vite et pour peu cher.

Troisième cas, le ton ou le vocabulaire d’un métier, quand une consigne écrite ne suffit pas à l’obtenir.

Dans les trois cas, il faut des exemples, nombreux et de bonne qualité. C’est le vrai coût du fine-tuning : quelqu’un de votre équipe doit produire et corriger ces exemples, puis recommencer quand le besoin évolue. Sans ce travail, le résultat déçoit, quel que soit le modèle.

Beaucoup de projets n’ont besoin ni de l’un ni de l’autre. Les modèles récents acceptent des textes très longs en entrée. Quand le corpus tient en quelques dizaines de pages, on peut le donner en entier au modèle avec une consigne claire. C’est plus simple à construire et à maintenir, et cela suffit pour un guide interne ou une grille tarifaire.

À l’inverse, certaines tâches n’ont pas besoin d’un modèle de langage. Extraire un numéro de facture, une date ou un montant dans un document toujours présenté de la même façon relève du traitement automatique du langage classique : des règles, ou un petit modèle spécialisé. Ces méthodes existent depuis longtemps. Elles sont rapides, peu coûteuses, et leur résultat se contrôle facilement.

La bonne séquence consiste à essayer dans cet ordre : une règle simple, puis une consigne bien écrite, puis le RAG, et le fine-tuning en dernier. Chaque marche ajoute de la complexité et de l’entretien. On ne la monte que si la précédente ne suffit pas, et on le vérifie sur un jeu d’essai tiré de vos vrais documents.

Avec le RAG, vos documents restent dans un index que vous contrôlez. À chaque question, le modèle ne lit que les quelques passages utiles, et cette lecture ne le modifie pas. Vous pouvez retirer un document de l’index du jour au lendemain : la réponse suivante ne s’en servira plus.

Avec le fine-tuning, vos données entrent dans les paramètres du modèle. On ne sait pas retirer proprement une information d’un modèle entraîné. Si un client demande l’effacement de ses données, ou si un document a été intégré par erreur, la seule solution fiable est de réentraîner sans lui. Pour des données personnelles, c’est une difficulté sérieuse au regard du RGPD.

Dans les deux cas, la question de l’hébergement reste entière : où tourne le modèle, où est stocké l’index, qui y a accès. Sur nos projets IA, les données sont hébergées en France par défaut, ou sur votre propre infrastructure quand leur sensibilité l’exige.

Vous voulez un assistant qui répond aux questions de vos équipes à partir de vos procédures, de vos contrats ou de votre documentation : RAG. C’est le cas le plus fréquent, et celui où la source citée compte le plus.

Vous traitez un grand volume de demandes à classer ou à mettre en forme, toujours selon la même grille, et vous disposez d’un historique corrigé : fine-tuning d’un petit modèle, éventuellement complété par une recherche documentaire.

Votre corpus tient en quelques dizaines de pages et bouge peu : une consigne bien écrite, sans RAG ni entraînement.

Vous ne savez pas encore : commencez par mesurer. On réunit des questions réelles, on écrit la réponse attendue pour chacune, et on essaie chaque approche sur ce jeu. C’est ce que nous faisons pendant le cadrage, qui dure deux semaines.