Des réponses sourcées, et pourquoi « je ne sais pas » est une bonne réponse

Les modèles d'IA écrivent bien. C'est leur force, et c'est aussi ce qui les rend trompeurs. Une phrase fausse peut être aussi fluide et aussi assurée qu'une phrase juste. À la lecture, rien ne permet de les distinguer.

Pour une question de culture générale, l'erreur est souvent sans conséquence. Pour une question sur votre entreprise, elle peut coûter cher : un montant de devis inexact, une date de livraison inventée, un engagement prêté à un client qui ne l'a jamais pris. C'est pourquoi le cerveau central que nous mettons en place chez vous suit quatre règles strictes. Un cerveau central, c'est un seul endroit relié à tous vos outils, qui connaît ce qu'ils savent et vous répond en citant ses sources.

Chaque réponse cite ses sources

Exemple fictif : une entreprise de menuiserie de quinze personnes prépare une réunion de chantier. Le conducteur de travaux demande : « Qu'a-t-on convenu avec le client sur la date de pose des fenêtres ? » Une réponse utile ne se contente pas de donner une date. Elle indique d'où vient chaque élément :

• le délai de fabrication annoncé dans l'e-mail du fournisseur, avec la date du message ;
• la date de pose fixée pendant le rendez-vous avec le client, d'après l'événement d'agenda et le compte rendu rédigé ensuite ;
• la version du planning partagé dans laquelle cette date apparaît.

Chaque source indique sa date et l'outil d'où elle vient. La date compte autant que le contenu : un délai annoncé en mars a peut-être changé depuis. Vous n'avez pas à croire la réponse sur parole. Vous pouvez la vérifier vous-même.

« Je ne sais pas », une réponse utile

Une IA qui répond toujours quelque chose donne une impression d'assurance. Mais une réponse inventée vous fait perdre plus de temps qu'une absence de réponse : il faut d'abord découvrir qu'elle est fausse, puis chercher la bonne.

Quand l'information n'est pas dans vos outils, la réponse dit « je ne sais pas » au lieu d'inventer. Si personne n'a jamais noté le budget d'un client dans un e-mail, un document ou une note, la question « Quel est son budget ? » reçoit une réponse claire : l'information ne figure pas dans vos données. Vous savez alors qu'il faut la demander au client.

La règle vaut aussi pour une partie de réponse : ce qui ne s'appuie sur aucune source n'est pas affirmé.

Pas de source, pas d'affirmation.

Les chiffres viennent de vos données, pas de l'IA

« Combien de factures sont en retard ? » « Quel est le total des devis envoyés en septembre ? » Ce sont des questions simples. Ce sont aussi celles où une IA mal conçue se trompe le plus facilement, et le plus discrètement. Un modèle d'IA écrit du texte, mot après mot : il n'est pas fait pour additionner une longue série de montants. Et pour répondre, un modèle ne reçoit en général qu'une sélection de passages. S'il comptait lui-même, il compterait ce qu'on lui a montré, pas tout ce qui existe. Les risques sont concrets :

• un total peut oublier des lignes que le modèle n'a jamais reçues ;
• un comptage peut compter deux fois la même facture, citée dans deux e-mails différents ;
• un chiffre faux s'écrit aussi proprement qu'un chiffre juste : rien ne trahit l'erreur.

Nous séparons donc les deux rôles. Le modèle comprend la question. Le calcul, lui, est fait par la base de données, à partir de vos données, au moyen d'une liste fixe de calculs, comme compter des fiches ou additionner des montants. Il porte sur toutes les données concernées, pas seulement sur celles qu'un modèle aurait vues. Le modèle reprend le chiffre dans sa phrase ; il ne le produit jamais.

Pourquoi une liste fixe ? Parce qu'un calcul fixé à l'avance peut être vérifié à l'avance, alors qu'un calcul improvisé à chaque question ne le peut pas. Pas de calcul prévu, pas de chiffre : le modèle n'en estime jamais un.

Chacun ne voit que ce qu'il a le droit de voir

Un cerveau central lit beaucoup de choses. Cela pose une question légitime : qui voit quoi ? Notre règle : chaque personne ne voit dans une réponse que ce qu'elle a le droit de voir dans les outils.

Exemple fictif : dans une agence de douze personnes, Claire, chargée de clientèle, demande : « Qu'a dit le client Dupont sur le budget ? » La réponse peut s'appuyer sur ses propres e-mails avec ce client et sur les documents partagés avec elle. Si le gérant pose la même question, sa réponse s'appuie sur ce que lui peut voir : les e-mails de Claire n'en font pas partie. Il en va de même pour les chiffres : un total ne compte que ce que la personne qui demande a le droit de voir.

Une réponse que l'on peut vérifier vaut mieux qu'une réponse brillante. C'est notre parti pris : moins d'aplomb, plus de preuves. Pour voir quelles questions vous pourriez poser sur votre propre entreprise, le diagnostic en ligne prend environ quatre minutes et vous remet un rapport personnalisé.