Insights — Intelligence artificielle
Un assistant documentaire ne coûte pas ce que coûte sa démonstration.
Une preuve de concept tient en trois jours et coûte le prix d'un stage. L'outil que vos équipes ouvrent chaque matin coûte autre chose : un index qui vieillit, des droits qui changent, des réponses dont personne ne mesure la justesse. Voici les sept postes absents de tous les devis — et ce qu'ils pèsent sur trois ans.
01 — Le constat
Le budget d'un RAG est un coût d'exploitation déguisé en projet informatique.
Un devis d'assistant documentaire ressemble à un devis logiciel : un forfait de mise en place, une interface, une recette. C'est une erreur de lecture. Un RAG n'est pas un logiciel qu'on installe, c'est une chaîne qu'on entretient : les documents changent, les modèles évoluent, les droits des utilisateurs bougent, et la justesse des réponses se dégrade sans prévenir.
Résultat : la première année se lit dans le devis, les deux suivantes n'y figurent pas. C'est exactement là que se joue la différence entre un assistant utilisé tous les jours et une démonstration abandonnée au bout de six mois — et c'est aussi là que se cachent les dépassements.
01Les sept postes qui n'apparaissent dans aucun devis initial
Aucun de ces postes n'est exotique : ils existent dans tous les projets d'assistant documentaire, y compris ceux que nous reprenons après un abandon. Ils sont simplement absents des devis, parce qu'ils se paient plus tard — en jours-homme, en surveillance et en reprise — plutôt qu'en licence.
- Réindexation continue — vos procédures, vos tarifs et vos contrats changent chaque mois. Un index figé répond avec assurance sur des documents périmés : c'est le pire des deux mondes. Comptez une réindexation incrémentale mensuelle, jamais une reconstruction complète.
- Qualité des documents sources — scans, tableurs, PDF composites, procédures écrites par cinq personnes différentes. C'est le poste le plus ingrat et le plus déterminant : aucun modèle ne compense un index mal construit.
- Gouvernance des accès — les droits doivent s'appliquer à la recherche elle-même, pas seulement à l'écran d'accueil. Un assistant qui répond à un commercial avec un document de direction n'est pas une fuite théorique, c'est un incident.
- Évaluation continue — un jeu de questions réelles, la réponse attendue en face, le taux de réponses justes, le taux d'inventions, et les refus corrects lorsque l'information n'existe pas. Sans cette mesure, personne ne sait si l'outil s'améliore ou se dégrade.
- Exploitation et astreinte — surveillance de la chaîne, quotas, journalisation, mises à jour du fournisseur, incidents. C'est peu de choses par mois, jamais zéro.
- Dérive des fournisseurs — modèles retirés, tarifs modifiés, API dépréciées. Ce poste ne coûte rien tant qu'une passerelle multi-modèles permet de changer de moteur sans toucher à l'application.
- Réversibilité — qui détient l'index, les questions de test et les journaux ? Si la réponse est « le prestataire », changer de prestataire signifie tout reconstruire. C'est le coût caché le plus élevé de tous, et il se découvre le jour où l'on en a le moins besoin.
02Le coût total, année par année
Sur trois ans, le coût complet d'un assistant documentaire interne se situe typiquement entre une fois et demie et quatre fois le montant du devis initial. L'écart n'a rien à voir avec le nombre d'utilisateurs : il vient du rythme de changement de vos documents et du niveau d'exigence sur les droits d'accès.
La première année est dominée par la mise en place — préparation documentaire, développement, recette, évaluation initiale. Les années deux et trois sont dominées par l'exploitation, avec un rythme qui décroît : les premiers mois d'un assistant sont toujours les plus coûteux à maintenir, parce que c'est là que la qualité des documents d'origine se révèle.
- Année 1 — préparation des documents, mise en service, jeu d'évaluation initial, accompagnement des équipes : la part la plus lourde du projet
- Année 2 — réindexation incrémentale, ajustements de récupération, montée en périmètre : un budget d'exploitation, à trois ou quatre chiffres mensuels selon la volumétrie
- Année 3 — changement de modèle ou de fournisseur, revue des droits, extension à un second métier : c'est l'année où la passerelle et la bonne propriété de l'index font la différence
03Trois décisions qui font baisser le coût total
Elles se prennent au premier jour, pas au premier dépassement.
- Réutiliser une base PostgreSQL existante avec l'extension pgvector plutôt qu'ajouter une base vectorielle dédiée : un service de moins à sauvegarder, à sécuriser et à surveiller.
- Placer une passerelle multi-modèles devant l'application : un modèle intermédiaire pour les questions courantes, un modèle plus coûteux réservé aux cas difficiles, et la possibilité de changer de moteur sans réécrire l'outil.
- Traiter l'index, les questions de test et les journaux comme des actifs qui vous appartiennent, exportables à tout moment. C'est ce qui transforme une sortie de prestataire en migration, au lieu d'une reconstruction.
03 — Annoncé / Réel
Ce que dit le devis, ce qu'on paie réellement
| Avant | Avec Zorglon |
|---|---|
| Un forfait de mise en place, puis plus rien | Une exploitation mensuelle : index, droits, évaluation, mises à jour |
| « On indexera une fois pour toutes » | Une réindexation incrémentale chaque mois, un à trois jours-homme |
| Le modèle le plus puissant, choisi pour trois ans | Un modèle intermédiaire par défaut, remplaçable en une journée |
| L'index et les journaux conservés chez le prestataire | L'index, les questions de test et les journaux chez vous, exportables |
| La justesse des réponses constatée à l'usage | Un jeu de questions de référence, rejoué à chaque changement |
04 — Questions courantes
Ce qu'on nous demande sur le coût complet
Quel budget annuel prévoir après la mise en service ?
Sur un périmètre de quelques centaines à quelques milliers de documents, l'exploitation se compte en jours-homme par an, plus un hébergement mensuel à trois chiffres lorsque l'infrastructure est mutualisée. Le facteur qui fait varier ce montant d'un facteur trois n'est pas le modèle : c'est la fréquence de mise à jour de vos documents.
Peut-on éviter la réindexation continue ?
On peut la rendre incrémentale, automatique et datée : seuls les documents modifiés sont retraités, et l'ancienne version cesse d'être servie. Ce qu'on ne peut pas supprimer, c'est le lien entre la fraîcheur de l'index et la justesse des réponses — un index vieux de six mois est un générateur de contresens.
Pourquoi budgéter la réversibilité ?
Parce que la sortie se paie aussi : export de l'index, transfert des questions de test, reprise des journaux, réinstallation chez un autre hébergeur. Bien préparée, c'est une migration de quelques jours. Non préparée, c'est un nouveau projet — et vous n'avez plus le choix du moment.
Un modèle moins cher dégrade-t-il la qualité ?
Rarement, si la récupération documentaire est bonne. Dans la majorité des cas que nous voyons, les réponses fausses ne viennent pas du modèle mais du mauvais passage récupéré. Investir dans la qualité de l'index rapporte plus que payer le modèle le plus puissant.
Vous voulez le coût total, pas le prix d'une démonstration ?
Cadrage RAG : nous partons de vos documents, de leur rythme de mise à jour et de vos contraintes d'accès, puis nous remettons un budget sur trois ans — mise en service, exploitation et réversibilité comprises.