Insights — Intelligence artificielle
Un RAG utile ne se juge pas à sa démonstration, mais à sa troisième semaine.
La plupart des projets d'assistant documentaire échouent pour trois raisons sans rapport avec le modèle : un découpage documentaire inadapté, l'absence de citation des sources, et une évaluation qui n'existe pas. Voici la chaîne que nous déployons, et pourquoi elle tient dans le temps.
01 — Le constat
Le modèle n'oublie pas vos données : il ne les a jamais lues.
Un modèle de langage ne connaît ni vos procédures, ni vos contrats, ni l'historique de vos interventions. Il produit une réponse plausible à partir de ce qu'on lui donne au moment de la question. Tout l'enjeu du RAG est donc de lui donner les bons extraits, au bon moment, avec assez de contexte pour qu'il ne devine pas.
Quand un assistant se trompe, la cause est presque toujours en amont : un document mal découpé, un index qui mélange les versions, une recherche qui ne retrouve pas le bon passage parce qu'il utilise le mauvais vocabulaire.
01Découper selon le document, pas selon un compteur de caractères
Le réflexe est de découper tous les documents tous les mille caractères. C'est précisément ce qui produit des réponses fausses : une procédure coupée en deux ne veut plus rien dire, un tableau séparé de son en-tête non plus.
Nous découpons par structure : section, article, étape, ligne de tableau avec son en-tête conservé. Chaque morceau garde sa provenance — document, version, date, page — parce que c'est cette provenance qui permettra de citer la source au moment de répondre.
02Chercher avec les deux vocabulaires
Vos équipes n'emploient pas les mots de vos documents. La recherche sémantique rapproche les formulations, la recherche lexicale retrouve les références exactes — numéros de pièce, codes, noms propres. Utiliser les deux et fusionner les résultats fait plus pour la qualité d'un assistant que n'importe quel changement de modèle.
Nous ajoutons un réordonnancement : les quinze meilleurs passages sont réévalués pour ne garder que les cinq qui répondent réellement à la question posée. C'est ce tri qui fait passer un prototype d'impressionnant à utile.
03Citer, ou se taire
Une réponse sans source n'est pas exploitable en entreprise : personne ne va modifier un contrat ou un réglage sur la base d'une phrase sans référence. Nous imposons donc un format de réponse qui contient toujours le document, la version et l'extrait utilisé.
Et lorsque le corpus ne contient pas la réponse, l'assistant doit le dire. Un assistant qui répond « je ne trouve pas cette information dans vos documents » est infiniment plus utile qu'un assistant qui improvise avec assurance.
04Mesurer, puis optimiser le coût
Un jeu d'évaluation de cent à deux cents questions réelles, avec la réponse attendue et le document attendu, suffit à piloter la qualité. On le rejoue à chaque changement de modèle, de découpage ou de stratégie de recherche : sans cela, toute amélioration annoncée est une impression.
Le coût se maîtrise ensuite par la passerelle : choix automatique du modèle le moins coûteux qui suffit, mise en cache des questions fréquentes, plafond de dépense par assistant et par utilisateur. Une facture d'IA doit tenir sur une ligne de budget prévisible.
- Choix du modèle adapté à la difficulté de la question
- Mise en cache des réponses aux questions récurrentes
- Passage au modèle local ou européen quand la sensibilité l'exige
- Plafond et journalisation par assistant et par utilisateur
La chaîne complète : sources, index, recherche hybride, réordonnancement, génération avec citation, évaluation et passerelle de coût.
02 — Questions courantes
Ce que les directions nous demandent avant de lancer
Nos documents peuvent-ils servir à entraîner un modèle ?
Non, et c'est contractuel : vos données alimentent un index de recherche qui vous appartient, et ne sont jamais utilisées pour entraîner un modèle. Aucun fournisseur ne reçoit de jeu d'entraînement construit sur vos documents.
Faut-il commencer par l'ensemble de nos documents ?
Non, c'est même le meilleur moyen d'échouer. Nous commençons par un périmètre fermé — une famille de procédures, un type de contrat — où la qualité est vérifiable, puis nous étendons. Un corpus large et mal préparé donne un assistant confiant et faux.
Combien coûte une question, en ordre de grandeur ?
Quelques centimes pour une question courte sur un petit corpus, avec un plafond qui décroît à mesure que le cache et le routage prennent effet. Le poste à surveiller n'est pas la génération mais la recherche répétée : c'est elle que la mise en cache et le réordonnancement font chuter.
Vous voulez un assistant qui cite ses sources ?
Nous cadrons le périmètre, préparons le corpus, déployons l'index et mesurons la qualité sur vos vraies questions — avant toute mise en service.