Jean-Christophe Blondet, président de CONSILIO
Un modèle de langage produit du texte plausible. C'est sa nature, et c'est précisément ce qui le rend précieux pour comprendre une demande formulée en français courant, résumer un échange ou rédiger une relance. C'est aussi ce qui le rend dangereux dès qu'on lui demande un chiffre. Interrogé sur une trésorerie prévisionnelle, il répondra avec la même assurance qu'il ait raison ou non. Sur une question d'argent, « plausible » ne suffit pas.
Séparer la bouche et le cerveau
La première règle d'architecture que je défends est simple : aucun chiffre métier ne doit être produit par le modèle de langage. Les calculs appartiennent à du code, alimenté par les données réelles de l'entreprise, reprises à la source dans ses outils (comptabilité, banque en lecture seule, gestion commerciale). Le modèle de langage intervient en amont, pour comprendre la question, et en aval, pour traduire le résultat en langage clair. Il ne fabrique aucun nombre, il n'en a donc aucun à halluciner.
Cette séparation a une conséquence pratique : la qualité de la réponse dépend de la qualité des données, et non de l'éloquence du modèle. Dans une PME, c'est un changement de perspective. Le chantier prioritaire n'est pas le choix du « meilleur » modèle, mais la fiabilité des flux de données qui alimentent le calcul.
Savoir dire « je ne sais pas »
Deuxième exigence : un système d'IA utile doit refuser plutôt qu'inventer. Quand une donnée manque, il doit le dire (« connectez votre banque et je pourrai répondre ») au lieu de combler le vide par une supposition. Et quand l'avenir est incertain, par exemple l'effet d'une hausse de prix sur la demande, il doit répondre par une fourchette, avec son hypothèse centrale, plutôt que par un chiffre faussement précis. Pour un dirigeant, une fourchette honnête vaut mieux qu'une certitude fabriquée.
Vérifier ce que l'IA affirme
Troisième niveau : lorsqu'un texte généré doit respecter des règles (procédures internes, contrats, politiques), il est possible de vérifier chaque affirmation contre ces règles plutôt que de faire confiance au modèle. Les approches se complètent : la recherche documentaire (RAG) retrouve les sources, le contrôle d'ancrage vérifie que la réponse s'appuie bien sur elles, et le raisonnement automatisé, qui traduit des règles métier en logique formelle, vérifie qu'une affirmation ne les contredit pas. Chaque phrase peut alors être qualifiée : tenue, contredite, ou hors du corpus de référence, avec sa source.
Mesurer l'écart avec la réalité
Enfin, une projection n'a de valeur que si on la confronte aux faits. Comparer chaque mois ce que le système avait prévu à ce qui s'est réellement passé, puis corriger l'écart, est la seule manière de savoir si l'on peut lui faire confiance, et de le rendre plus juste avec le temps.
La validation humaine n'est pas une option
Aucune de ces briques ne remplace la décision humaine. Un agent peut préparer un devis, une relance ou une simulation d'embauche ; l'envoi ou le déclenchement doit rester soumis à validation, avec un historique consultable des actions et des validations. C'est la condition de la traçabilité, et c'est aussi ce qui permet de revenir en arrière.
Pour les PME, l'enjeu n'est donc pas de « faire confiance à l'IA », mais de construire des systèmes où la confiance se vérifie : des chiffres calculés sur des données réelles, des affirmations confrontées à des règles, des écarts mesurés, et un humain qui garde la main.
Séparer la bouche et le cerveau
La première règle d'architecture que je défends est simple : aucun chiffre métier ne doit être produit par le modèle de langage. Les calculs appartiennent à du code, alimenté par les données réelles de l'entreprise, reprises à la source dans ses outils (comptabilité, banque en lecture seule, gestion commerciale). Le modèle de langage intervient en amont, pour comprendre la question, et en aval, pour traduire le résultat en langage clair. Il ne fabrique aucun nombre, il n'en a donc aucun à halluciner.
Cette séparation a une conséquence pratique : la qualité de la réponse dépend de la qualité des données, et non de l'éloquence du modèle. Dans une PME, c'est un changement de perspective. Le chantier prioritaire n'est pas le choix du « meilleur » modèle, mais la fiabilité des flux de données qui alimentent le calcul.
Savoir dire « je ne sais pas »
Deuxième exigence : un système d'IA utile doit refuser plutôt qu'inventer. Quand une donnée manque, il doit le dire (« connectez votre banque et je pourrai répondre ») au lieu de combler le vide par une supposition. Et quand l'avenir est incertain, par exemple l'effet d'une hausse de prix sur la demande, il doit répondre par une fourchette, avec son hypothèse centrale, plutôt que par un chiffre faussement précis. Pour un dirigeant, une fourchette honnête vaut mieux qu'une certitude fabriquée.
Vérifier ce que l'IA affirme
Troisième niveau : lorsqu'un texte généré doit respecter des règles (procédures internes, contrats, politiques), il est possible de vérifier chaque affirmation contre ces règles plutôt que de faire confiance au modèle. Les approches se complètent : la recherche documentaire (RAG) retrouve les sources, le contrôle d'ancrage vérifie que la réponse s'appuie bien sur elles, et le raisonnement automatisé, qui traduit des règles métier en logique formelle, vérifie qu'une affirmation ne les contredit pas. Chaque phrase peut alors être qualifiée : tenue, contredite, ou hors du corpus de référence, avec sa source.
Mesurer l'écart avec la réalité
Enfin, une projection n'a de valeur que si on la confronte aux faits. Comparer chaque mois ce que le système avait prévu à ce qui s'est réellement passé, puis corriger l'écart, est la seule manière de savoir si l'on peut lui faire confiance, et de le rendre plus juste avec le temps.
La validation humaine n'est pas une option
Aucune de ces briques ne remplace la décision humaine. Un agent peut préparer un devis, une relance ou une simulation d'embauche ; l'envoi ou le déclenchement doit rester soumis à validation, avec un historique consultable des actions et des validations. C'est la condition de la traçabilité, et c'est aussi ce qui permet de revenir en arrière.
Pour les PME, l'enjeu n'est donc pas de « faire confiance à l'IA », mais de construire des systèmes où la confiance se vérifie : des chiffres calculés sur des données réelles, des affirmations confrontées à des règles, des écarts mesurés, et un humain qui garde la main.
A propos de l'auteur
Jean-Christophe Blondet est président de CONSILIO, société basée à Chamalières (Puy-de-Dôme) qui développe CERVOX, un système d'IA opérationnel pour les PME, et réalise des missions cloud AWS. https://cervox.io/services/
