Un assistant documentaire qui sait citer ses sources.

Le besoin et les limites

Imaginons une équipe support qui consulte des procédures produit. L’assistant doit retrouver les passages pertinents, formuler une réponse et permettre à la personne de vérifier la source. Il ne modifie aucun compte et n’effectue aucune opération pour le client.

Le périmètre commence par un corpus identifié et maintenu. Les documents personnels, les sources non validées et les contenus hors des droits de l’utilisateur sont exclus de la recherche.

Un flux en cinq étapes

La recherche augmentée par génération, ou RAG, associe une recherche dans les sources à une génération de réponse. Les deux étapes ont des responsabilités différentes.

• Authentifier la personne et déterminer ses autorisations.
• Rechercher les passages pertinents dans le corpus auquel elle a accès.
• Transmettre au modèle une sélection limitée de passages, avec leurs identifiants.
• Produire une réponse accompagnée de références vérifiables, ou signaler un manque d’information.
• Présenter la réponse et les sources à l’utilisateur, sans action automatique sur les systèmes métier.

Les contrôles restent dans le logiciel

Les autorisations sont appliquées par le backend, avant l’accès aux documents. Une instruction envoyée au modèle ne remplace pas un contrôle d’accès. Les contenus retrouvés sont traités comme des données, pas comme des instructions à exécuter.

La suppression ou la modification d’un document doit se répercuter dans l’index. Les références affichées doivent pointer vers les versions pertinentes, accessibles à la personne qui pose la question.

Tester autre chose que les réponses faciles

Le jeu d’évaluation contient des questions avec une réponse connue, mais aussi des contradictions, des documents obsolètes, des questions hors périmètre et des informations auxquelles le demandeur n’a pas accès.

On distingue la qualité de la recherche, la fidélité de la réponse aux sources et la capacité à s’abstenir. Une réponse fluide n’est pas nécessairement une réponse correcte. Les résultats servent à décider si le périmètre peut être élargi.

Préparer les changements et les incidents

L’exploitation prévoit des limites de volume, un suivi des erreurs, un moyen de signaler une réponse incorrecte et une solution de repli vers la recherche classique. Les logs ne doivent pas conserver des contenus sensibles sans nécessité.

Les évolutions du corpus, du moteur de recherche et du modèle sont évaluées avant leur diffusion. Cette architecture est un point de départ : les choix définitifs dépendent des données, des risques et du produit dans lequel l’assistant s’insère.