Une note bien rédigée n'est pas une bonne décision

Pourquoi des comités compétents valident des analyses IA qu'ils n'auraient jamais signées d'un consultant.
Quatre mécanismes cognitifs, et une discipline simple pour reprendre la main.

Trois prédictions que je peux faire avant chaque INTERVENTION

Avant chaque intervention en comité de direction, je n'ai souvent que peu d'informations. Le secteur, la taille, le sujet de la session, parfois un trombinoscope. C'est tout. Pas d'accès aux documents, pas de pré-briefs détaillés sur les positions des uns et des autres, pas de répétition.

Et pourtant, je peux écrire trois prédictions avant d'entrer dans la salle. Elles se vérifient dans la quasi-totalité des cas. Je ne les écris pas ici. Je les fais vivre en COMEX.

Mais elles ont toutes le même socle : quatre mécanismes cognitifs que l'IA générative active simultanément à chaque interaction. Quatre illusions qui se compensent, se renforcent, et finissent par faire passer la forme d'une note pour la solidité d'une décision.

Pour le cadre conceptuel et la méthode D.I.R.E. qui désamorce ces mécanismes, voir « L'IA se trompe avec assurance. Votre CODIR aussi. ». Ici, je vais entrer dans le détail de chacune des quatre illusions, et raconter comment elles se déploient concrètement dans la salle.

L'IA n'est ni neutre ni exhaustive. C'est une caractéristique, pas un bug.

Avant d'entrer dans les quatre illusions, une précision sur l'objet lui-même. Une IA générative n'est ni neutre, ni exhaustive. Deux raisons à ça, documentées depuis des années.

D'abord les données d'entraînement. Un modèle apprend sur des corpus humains accumulés sur plusieurs décennies. Ces corpus portent les angles morts du monde qui les a produits. Quand un algorithme de tri de CV pénalise systématiquement les candidatures féminines, ce n'est pas qu'il soit sexiste : il a appris, sur dix ans de données historiques, que « cadre dirigeant » et « homme » étaient statistiquement liés. Il reproduit fidèlement le monde qu'on lui a donné à lire.

Ensuite les choix de conception. Quelles données on garde, lesquelles on jette. Quels critères on optimise. Quels garde-fous on installe. Quels comportements on récompense lors de l'entraînement par feedback humain. Ces choix sont faits par des équipes qui, comme tout le monde, ont leurs propres angles de vue. Aucune machine ne sort neutre de cette chaîne.

Ce n'est pas un défaut moral à corriger. C'est une caractéristique structurelle de l'objet, à connaître pour s'en servir intelligemment. Une carte n'est jamais le territoire. Une IA n'est jamais le savoir.

Mais ce premier point ne suffit pas. Même une IA correctement conçue, utilisée de bonne foi, peut produire un effet dangereux au moment de la décision. Pas parce qu'elle manipule. Parce que sa sortie rencontre une architecture cognitive humaine déjà prête à lui accorder, trop vite, autorité, cohérence, alignement et contrôle.

C'est ce deuxième terrain, le vôtre, qui se joue à chaque interaction avec la machine.

Illusion 1. Le ton qui passe avant le fond

L'IA générative affirme. Elle ne dit pas « je pense que ». Elle dit « la réponse est ». Elle ne signale ses limites que si on le lui demande explicitement, et encore.

Ce ton assuré active un réflexe cognitif vieux comme l'humanité : la déférence au signal d'autorité. Stanley Milgram l'a démontré dès 1963. Soixante-cinq pour cent des participants ont administré ce qu'ils croyaient être le choc maximal de 450 volts, simplement parce qu'un homme en blouse blanche le leur demandait avec assurance. Des travaux ultérieurs ont confirmé que l'autorité perçue d'un titre ou d'un uniforme produit des écarts importants d'obéissance, parfois jusqu'à inverser des protocoles de sécurité.

L'IA générative occupe aujourd'hui une place comparable. « L'algorithme a calculé » active la même déférence que « le médecin a dit ». À ceci près que l'algorithme n'a ni domaine d'expertise circonscrit, ni reconnaissance institutionnelle, ni responsabilité professionnelle.

Prenez Thomas, dirigeant d'une PME agroalimentaire. Il reçoit trois propositions de cabinets de conseil pour une transformation numérique. Il les copie-colle dans ChatGPT : « Compare et dis-moi laquelle est la meilleure. » L'IA produit une analyse en quatre critères, conclut que l'offre 2 est la plus pertinente. Thomas signe.

Six mois plus tard, l'offre 2 avait certes la proposition la plus structurée sur le papier, mais aucune connaissance fine de l'agroalimentaire. Ce que Thomas aurait perçu en discutant trente minutes au téléphone avec chaque cabinet.

L'IA n'a pas évalué le savoir-faire métier. Elle a évalué la structure du document. Et la structure crédibilise le fond.

Illusion 2. Six axes ne sont pas la vérité

Quand vous lisez une réponse bien découpée (points numérotés, sous-titres, tableau récapitulatif), votre cerveau l'enregistre comme une réponse complète. C'est un piège connu en sciences cognitives sous le nom de fluency heuristic : ce qui se lit facilement est jugé plus vrai. La fluidité de traitement devient un proxy de fiabilité, alors qu'elle n'a aucun lien avec la qualité du contenu.

Le mécanisme se double du biais de confirmation. Dans sa tâche dite « 2-4-6 » (Wason, 1960), les participants doivent deviner la règle qui génère une séquence. La règle est triviale (« trois nombres en ordre croissant ») et pourtant près de quatre-vingts pour cent se trompent, parce qu'ils ne proposent que des séquences qui confirment leur hypothèse initiale. La vérification est plus naturelle que la réfutation, même face à un problème logique trivial.

Sarah, responsable formation dans un groupe de douze mille collaborateurs, prépare une note pour son comité sur le déploiement d'IA générative. Elle interroge l'IA : « Quels sont les enjeux à anticiper ? ». Réponse en six axes structurés : compétences, gouvernance, éthique, sécurité, conduite du changement, ROI.

Sarah envoie la note. Le COMEX approuve. La décision passe.

Personne dans la salle ne s'est demandé à qui Sarah avait parlé pour écrire ça. Sarah elle-même ne se l'est pas demandé. Et c'est précisément ça, l'illusion de cohérence : six axes structurés font croire que le travail a été fait. Personne ne vérifie ce qui n'est pas dans le tableau.

Les vraies questions viendront plus tard. Quand le déploiement démarrera. Quand les équipes feront autre chose que ce qui était prévu. Quand un coût caché surgira d'un angle que personne n'avait regardé. Et là, personne ne se souviendra que la décision avait été prise en quarante-cinq minutes, sur une note que personne n'avait sourcée.

L’ŒIL DU MENTALISTE

Une démonstration de mentalisme exploite les mêmes mécanismes que ceux qu'active l'IA. Autorité de scène, structure inéluctable, alignement sur ce que vous attendez de voir, illusion du choix libre. La seule différence : je vous le dis ensuite. L'IA, elle, produit l'effet sans le révéler.

Illusion 3. L'IA ne change pas d'avis. Elle prolonge le vôtre.

Posez à n'importe quel modèle de langage : « Pourquoi les réseaux sociaux isolent-ils les gens ? ». Vous obtiendrez un argumentaire solide sur la dépendance numérique et la perte de lien social.

Reformulez immédiatement après : « Pourquoi les réseaux sociaux rapprochent-ils les gens ? ». Vous obtiendrez un plaidoyer tout aussi convaincant sur la connexion et la communauté.

Mêmes faits, deux conclusions opposées. Zéro contradiction signalée par la machine.

Ce n'est pas que l'IA ait un avis qu'elle changerait. C'est qu'elle est entraînée par renforcement à produire des réponses jugées satisfaisantes par les utilisateurs. Une réponse jugée satisfaisante est souvent une réponse qui suit l'intention apparente de la demande, plutôt qu'une réponse qui en conteste le cadre. L'IA ne pense pas. Elle aligne.

Cette mécanique amplifie un biais que Tversky et Kahneman ont décrit dès 1981, dans leur expérience canonique sur le problème de la maladie asiatique. Six cents personnes risquent de mourir, deux programmes possibles. Présenté en cadrage « vies sauvées », soixante-douze pour cent choisissent l'option sûre. Présenté en cadrage « vies perdues », sur exactement les mêmes options mathématiques, soixante-dix-huit pour cent choisissent l'option risquée. Mêmes faits, cadrages opposés, préférences inversées.

Transposez au prompt : « Donne-moi cinq raisons de lancer ce produit » et « Donne-moi cinq raisons de ne pas lancer ce produit » produiront deux notes structurées, fluides et opposées sur la même décision. Sur dix-huit dirigeants utilisateurs réguliers de ChatGPT en préparation stratégique que j'ai observés début 2026, un seul posait systématiquement les deux prompts symétriques.

Une précaution intellectuelle est ici essentielle, et elle vient de Gerd Gigerenzer. Ces réflexes ne sont pas des bugs. Ce sont des heuristiques sociales, adaptées à des environnements où l'interlocuteur était humain, faillible et interrogeable. Le problème n'est pas votre cerveau. C'est que ce cerveau rencontre un objet, l'IA générative, qu'il n'a jamais rencontré, et qui déclenche ces réflexes sans le contre-pouvoir qui les rendait autrefois prudents.

Illusion 4. Vous croyez piloter. L'outil formate.

Vous écrivez le prompt. Vous choisissez les questions. Vous validez ou non les réponses. Vous avez le sentiment de piloter l'outil.

En réalité, la mécanique est inversée. La formulation de votre prompt préforme la sortie. La sortie préforme votre prochaine question. La prochaine question est déjà adossée au cadre que la sortie a posé. Au bout de trois échanges, vous ne pensez plus dans votre propre cadre. Vous pensez dans celui que l'IA a installé sans le dire.

Vous demandez à l'IA une stratégie de réduction des coûts. Elle répond : automatisation, mutualisation, externalisation. Votre question suivante porte déjà sur ces trois axes. Les autres options, comme la révision du portefeuille produits ou la renégociation des contrats fournisseurs, ont disparu sans débat. L'IA ne s'est pas contentée de répondre. Elle a installé un cadre, et vos questions suivantes se construisent à l'intérieur.

En 1998, Kathleen Mosier a conduit une étude qui aurait dû marquer durablement les décideurs. Elle a confronté des pilotes commerciaux expérimentés à un système d'automatisation embarquée donnant des recommandations parfois correctes, parfois erronées. Une proportion importante de pilotes a suivi au moins une recommandation automatisée erronée malgré la présence d'indices contraires accessibles dans le cockpit. Pas parce qu'ils étaient mal formés. Parce qu'à charge cognitive élevée, le cerveau délègue. Et la machine, qui a été correcte sur les cas précédents, gagne une confiance par défaut qui inhibe la vérification.

Trente ans de littérature en facteurs humains documentent ce qu'on appelle l'automation bias (Parasuraman & Manzey, 2010, synthèse de référence). Le biais peut toucher des opérateurs novices comme expérimentés. Il augmente lorsque la charge cognitive est forte, que le système a souvent eu raison, et que la vérification devient coûteuse.

Antoine, à la tête d'une équipe de douze personnes, l'a découvert tard. Il s'était mis à utiliser ChatGPT pour préparer ses revues annuelles. Il lui donnait les données objectives (livraisons, évaluations 360, indicateurs de productivité), et l'IA produisait des synthèses rapides, structurées, équilibrées. Antoine ajustait, validait, signait.

Trois semaines après une de ces revues, son meilleur ingénieur est parti. En entretien de sortie, l'ingénieur a expliqué qu'Antoine n'avait pas perçu un sujet qui le minait depuis six mois. Un sujet que les données objectives ne contenaient pas. Un sujet que ChatGPT n'avait jamais eu accès à voir.

Antoine ne pilotait pas l'outil. L'outil avait redéfini, en silence, ce qui méritait d'apparaître dans son jugement.

Quatre illusions. Toujours les quatre. Jamais l'une sans les autres.

Le danger n'est pas qu'une illusion frappe seule. Chacune est gérable en isolation. Le danger, c'est leur cumul.

Une note IA bien rédigée active simultanément les quatre. Ton assuré, donc autorité. Six axes structurés, donc cohérence. Réponse calée sur la formulation du prompt, donc alignement. Sentiment subjectif d'avoir maîtrisé l'outil, donc contrôle. Les signaux de doute deviennent moins disponibles au moment de décider.

Ce qui distingue un dirigeant qui pilote son IA d'un dirigeant que son IA pilote, ce n'est pas la maîtrise technique de l'outil. C'est la lucidité cognitive sur ces quatre mécanismes. Une lucidité qui ne s'apprend pas en lisant un guide, mais en vivant viscéralement les quatre illusions, puis en les nommant, puis en les outillant. C'est précisément ce que mon métier de Conférencier Mentaliste permet de faire : rendre visibles les mécanismes que la fluidité de la machine a confisqués au regard.

L'IA générative n'est pas votre ennemie. C'est un outil extraordinaire quand on l'utilise pour ce qu'elle sait vraiment faire. Le piège n'est pas la confiance. C'est le transfert de cette confiance vers les arbitrages où la machine n'a aucune raison d'avoir raison : juger un humain, arbitrer un conflit, valider une décision politique, sélectionner un partenaire stratégique.

La méthode D.I.R.E. — Décider ce qui reste humain, Interroger les sources, Refuser la prose, Encadrer l'usage — donne les quatre réflexes qui désamorcent les quatre illusions, un à un. Elle est posée dans « L'IA se trompe avec assurance. Votre CODIR aussi. ». Elle ne tient pas en quatre lignes lues sur un blog. Elle tient en quatre réflexes ancrés dans la salle.

VOTRE LEVIER

Une note bien rédigée n'est pas une bonne décision. Une décision solide, c'est une décision qui a survécu à des questions que personne n'avait envie de poser. Sur les sources. Sur l'angle qu'on n'a pas regardé. Sur ce qui s'applique à n'importe quelle boîte et pas à la vôtre.

Ces questions, vos comités ne les poseront pas tant que personne ne les rendra visibles dans la salle.

C'est exactement ce que je viens faire en COMEX. Découvrez mes interventions sur l'IA et la décision lucide dans le cadre de mes Conférences IA & Décision Stratégique.

Et si votre prochain séminaire ou événement d'entreprise devenait ce moment dont on reparle vraiment ? Découvrez comment le mentalisme transforme l'expérience de vos équipes lors de mes Conférences, Team Buildings et close-up ou show scénique Expériences Signature.

Sources

Pour aller plus loin, voici les ouvrages et ressources qui sous-tendent cet article.

Tversky, A., & Kahneman, D. (1974). Judgment under Uncertainty: Heuristics and Biases. Science, 185(4157), 1124-1131.

Tversky, A., & Kahneman, D. (1981). The Framing of Decisions and the Psychology of Choice. Science, 211(4481), 453-458.

Milgram, S. (1963). Behavioral study of obedience. Journal of Abnormal and Social Psychology, 67(4), 371-378.

Wason, P. C. (1960). On the Failure to Eliminate Hypotheses in a Conceptual Task. Quarterly Journal of Experimental Psychology, 12(3), 129-140.

Nickerson, R. S. (1998). Confirmation Bias: A Ubiquitous Phenomenon in Many Guises. Review of General Psychology, 2(2), 175-220.

Mosier, K. L., Skitka, L. J., Heers, S., & Burdick, M. (1998). Automation Bias: Decision Making and Performance in High-Tech Cockpits. International Journal of Aviation Psychology, 8(1), 47-63.

Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381-410.

Gigerenzer, G. (2008). Rationality for Mortals: How People Cope with Uncertainty. Oxford University Press.

Vallor, S. (2024). The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking. Oxford University Press.