Effet Mandela et IA : quand les erreurs deviennent collectives

Effet Mandela et IA : quand les erreurs deviennent collectives

L’effet Mandela montre que plusieurs personnes peuvent partager, avec une grande assurance, un même souvenir erroné.

Du côté des intelligences artificielles, la question prend une nouvelle dimension : un LLM peut avoir appris des associations inexactes si ses données d’entraînement contenaient des erreurs, et créer involontairement un effet Mandela en transmettant ces erreurs aux utilisateurs humains.

Les premières études sur ce sujet ne décrivent pas un phénomène automatique, mais elles montrent combien une erreur crédible peut devenir difficile à déloger. Cet article revient sur leurs résultats pour distinguer ce qui est établi de ce qui reste hypothétique, et comprendre pourquoi ces recherches renforcent l’exigence de fiabilité des contenus publiés en ligne.

Trois exemples d’effet Mandela pour tester votre mémoire

Jouons à un jeu.

Monsieur Monopoly porte-t-il un monocle ?

Fermez les yeux quelques secondes et imaginez le personnage du Monopoly.

La moustache, le haut-de-forme, la canne, le monocle.

Le monocle…

Problème pour ce dernier accessoire : Monsieur Monopoly n’en a jamais porté.

Effet Mandela_Monopoly

Pikachu a-t-il le bout de la queue noir ?

Passons maintenant à Pikachu.

Sa couleur jaune. Ses oreilles aux extrémités noires. Sa queue en forme d’éclair.

Et peut-être, au bout de cette queue, une extrémité noire.

Sauf que ce détail n’a jamais existé.

Effet Mandela_Pikachu

Que dit vraiment Dark Vador ?

Dernier essai, cette fois avec l’une des répliques les plus célèbres de l’histoire du cinéma :

« Luke, je suis ton père. »

Là encore, la formule communément retenue n’est pas celle qui est prononcée dans L’Empire contre-attaque.

Dark Vador s’adresse bien à Luke, mais il dit en réalité :

« Non. Je suis ton père. »

Dark Vador_Effet Mandela

Même erreur, même certitude, chez un grand nombre de personnes.

Voilà l’effet Mandela.

D’où vient l’effet Mandela ?

L’effet Mandela désigne donc un faux souvenir précis partagé par un grand nombre de personnes. Il ne consiste pas simplement à oublier un détail : plusieurs individus reconstruisent la même version erronée d’un fait, d’une image ou d’un événement, souvent avec une forte confiance dans leur souvenir.

L’histoire de l’expression commence avec Fiona Broome, une autrice américaine qui enquêtait et écrivait sur les phénomènes paranormaux. En 2009, elle a donné le nom d’« effet Mandela » au souvenir très vif qu’elle disait conserver : celui de Nelson Mandela mort en prison dans les années 1980.

Lorsqu’elle a raconté ce souvenir en ligne, d’autres internautes ont affirmé se rappeler le même événement, parfois jusque dans les détails de ses funérailles. Broome a alors créé un site pour recueillir ces témoignages et a popularisé l’expression.

Nelson Mandela n’est pourtant pas mort en prison. Il a été libéré en 1990, est devenu président de l’Afrique du Sud en 1994 et est décédé en 2013.

À RETENIR

L’effet Mandela illustre la capacité de la mémoire à produire une représentation cohérente et familière qui ne correspond pourtant pas aux faits établis.

Par analogie, l’effet Mandela est à la mémoire ce que l’hallucination est à la perception : une expérience qui semble réelle, mais ne concorde pas avec la réalité observée.

Pourquoi partageons-nous les mêmes faux souvenirs ?

Les exemples de Monsieur Monopoly et de Pikachu que l’on a vus plus haut ne sont pas seulement des curiosités populaires.

Ils font partie des images étudiées par Deepasri Prasad et Wilma Bainbridge, deux chercheuses de l’Université de Chicago, dans des travaux publiés en 2022 dans la revue Psychological Science.

Une erreur précise, reproduite avec confiance

Lors d’une première expérience, 100 adultes ont observé 40 icônes principalement issues de la culture populaire. Pour chacune, ils devaient choisir entre la version correcte et deux versions modifiées.

Sur certaines images, le résultat ne ressemblait pas à une série d’erreurs aléatoires :

  • de nombreux participants sélectionnaient la même version modifiée ;
  • ils se déclaraient familiers du personnage ou du logo ;
  • ils affirmaient être confiants dans leur réponse.

D’autres expériences ont montré que ces faux détails n’étaient pas seulement dus à un manque d’attention. Ils pouvaient apparaître spontanément lorsque les participants devaient redessiner les images de mémoire.

Des reconstructions plausibles, mais pas une explication unique

Certains ajouts paraissent faciles à comprendre.

Le monocle de Monsieur Monopoly complète assez naturellement le portrait mental d’un homme riche du début du XXe siècle lorsqu’on se le représente. Déjà pourvu d’une moustache, d’un haut-de-forme et d’une canne, il peut sans problème porter un monocle, n’est-ce pas ?

Pour Pikachu, les extrémités noires des oreilles peuvent favoriser le souvenir d’un motif comparable sur la queue.

Ces deux explications sont séduisantes. Mais elles restent insuffisantes.

Les chercheuses n’ont pas identifié de mécanisme unique capable d’expliquer tous les cas observés. Leur principal constat est plus sobre : certaines représentations provoquent des faux souvenirs particulièrement répandus et précis, alors même que les personnes ont majoritairement été exposées à l’image correcte.

Finalement, avec cette étude, on comprend bien que la mémoire ne fonctionne donc pas comme un disque dur qui restituerait une copie intacte. Elle reconstruit une version plausible de ce qui a été perçu. Quitte, parfois, à ajouter un détail qui n’a jamais existé.

Une IA peut-elle créer de faux souvenirs chez ses utilisateurs ?

Maintenant, faisons entrer l’IA en scène.

Une étude publiée en 2025 par des chercheurs du MIT Media Lab et de l’Université de Californie à Irvine a évalué l’influence d’un chatbot génératif sur le souvenir d’informations préalablement lues par des humains.

Comment l’expérience a-t-elle été menée ?

Les 180 participants ont commencé par lire un des trois articles proposés, tous contenant des informations exactes.

Après une courte tâche destinée à créer une coupure avec la lecture, ils ont été répartis aléatoirement en cinq groupes de 36 personnes. Tous avaient donc lu à ce stade un article factuellement correct.

La différence entre les groupes tenait à l’étape suivante : 

  • Groupe témoin : aucune nouvelle information n’était montrée après la tâche intermédiaire. Les participants passaient ensuite au test de mémoire.
  • Lecture d’un résumé fidèle : les participants lisaient un résumé statique contenant dix informations exactes tirées de l’article.
  • Lecture d’un résumé trompeur : ils lisaient un résumé mêlant cinq informations exactes et cinq informations plausibles, mais absentes de l’article.
  • Discussion avec un chatbot fidèle : la conversation commençait par le même résumé fidèle, puis le chatbot amenait l’utilisateur à discuter des dix informations exactes.
  • Discussion avec un chatbot trompeur : la conversation commençait par le résumé trompeur, puis le chatbot réintroduisait les cinq fausses informations au fil de l’échange et demandait à l’utilisateur de réagir.

À la fin, tous les participants répondaient aux 15 mêmes questions. Pour chacune, ils devaient dire s’ils se souvenaient l’avoir lue dans le texte initial, puis évaluer leur degré de confiance. 

Le chatbot trompeur a produit l’effet le plus marqué

Dans le groupe ayant lu le résumé trompeur, la proportion moyenne de faux souvenirs était supérieure à celle du groupe témoin. L’écart n’était cependant pas statistiquement significatif.

Mais l’effet le plus important provenait des échanges avec le chatbot trompeur. Le groupe concerné rapportant significativement plus de faux souvenirs que chacun des quatre autres groupes.

RÉSULTAT CLÉ

Les participants ayant discuté avec le chatbot trompeur ont rapporté 2,92 fois plus de faux souvenirs que ceux du groupe témoin. 

Les auteurs de l’étude avancent que le caractère interactif de la conversation pourrait avoir renforcé l’engagement et la crédibilité perçue du contenu. Aussi intéressante soit-elle, leur expérience constate donc surtout l’écart de perception entre les formats d’interaction. Elle ne permet pas d’isoler avec certitude le mécanisme psychologique (en l’occurrence, notre effet Mandela) qui l’explique.

Les IA peuvent-elles développer des « faux souvenirs collectifs » ?

Très récemment, dans une étude mise en ligne en 2026, des chercheurs ont développé ManBench, un benchmark qui mesure un phénomène comparable à l’effet Mandela dans des systèmes composés de plusieurs agents IA.

ManBench réunit 4 838 questions à choix multiples réparties entre quatre domaines. Treize modèles commerciaux ou ouverts ont été évalués à l’aide de cinq protocoles.

Pour chaque question, le modèle testé, appelé « agent sujet », répond d’abord seul. Cette étape établit sa connaissance de départ.

Pour calculer le « taux de basculement » au cœur du benchmark, les chercheurs se concentrent ensuite sur les réponses initialement correctes. Ils exposent l’agent à une conversation dans laquelle d’autres agents défendent une réponse fausse, mais plausible, puis mesurent la proportion de réponses qui passent du vrai au faux.

Quand plusieurs agents fabriquent un faux consensus

Dans la configuration la plus générique, plusieurs agents sans rôle particulier interviennent à tour de rôle. Ils soutiennent tous la même mauvaise réponse et l’accompagnent d’éléments présentés comme des preuves. 

Dans la configuration « par rôles », cinq agents construisent un récit plus élaboré :

  • le premier introduit la conclusion erronée ;
  • le deuxième ajoute des détails inventés, mais plausibles ;
  • le troisième approuve les arguments précédents pour créer l’impression d’une majorité ;
  • le quatrième adopte la posture d’un expert et emploie un vocabulaire académique pour légitimer le récit ;
  • le cinquième exprime d’abord des doutes, puis finit par se rallier au groupe.

Et l’agent sujet assiste à cette discussion avant d’être interrogé de nouveau. 

effet-mandela-ia-faux-consensus-agents

Résultats : tous les modèles évalués ont vu une partie de leurs réponses initialement correctes devenir fausses après l’interaction. Pour presque tous, les groupes organisés par rôles ont provoqué davantage de basculements que les groupes génériques.

Sur GPT-4o, par exemple, le taux de réponses passées du vrai au faux à court terme atteignait 46,04 % avec un groupe générique et 55,95 % avec le groupe organisé par rôles.

Une « mémoire » très différente de la mémoire humaine

Le terme de « faux souvenir collectif » doit rester entre guillemets.

Une IA ne se souvient pas des choses comme un être humain. Dans cette étude, la mémoire à long terme était simulée : les conclusions de la conversation étaient résumées, puis fournies au modèle comme contexte lors d’une nouvelle interaction.

Le benchmark reposait aussi sur des tâches contrôlées, notamment des questions à choix multiples. Il ne reproduit donc pas toute la complexité des échanges réels entre différents systèmes d’IA.

ATTENTION AU MOT « MÉMOIRE »

Chez l’humain, le faux souvenir résulte d’un processus cognitif. Dans ManBench, il désigne le passage d’une réponse correcte à une réponse fausse après une influence sociale simulée, puis éventuellement la persistance de cette erreur lorsqu’un résumé de l’échange est réinjecté dans un nouveau contexte du modèle.

Des défenses conçues par les auteurs du benchmark

Après avoir identifié les formes d’influence les plus efficaces, les chercheurs ont conçu en réponse deux défenses directement intégrées aux instructions données au modèle.

  • L’ancrage cognitif lui demande d’établir sa propre réponse avant d’examiner l’avis du groupe, de comparer les affirmations reçues à ce point de départ et de justifier tout changement.
  • L’examen des sources lui demande d’analyser la crédibilité des intervenants, leurs stratégies de persuasion et le caractère éventuellement artificiel d’un consensus trop cohérent.

Les auteurs ont également testé une défense au niveau de l’apprentissage du modèle, à l’aide d’un entraînement complémentaire mêlant des exemples de résistance à la manipulation et des situations où l’agent devait accepter une correction légitime. 

Dans leur évaluation, ces stratégies ont entraîné une réduction moyenne de 74,4 % du taux de basculement par rapport aux configurations sans protection !

Ce que l’effet Mandela change pour les producteurs de contenu

Ces deux études consacrées à l’IA décrivent des situations différentes.

Dans la première, une conversation trompeuse avec un système d’IA générative modifie ce qu’un humain pense avoir lu. Dans la seconde, plusieurs agents IA donnent à une réponse fausse l’apparence d’un récit cohérent et collectivement validé, et induisent en erreur un autre agent IA.

Le parallèle avec l’apprentissage des LLMs que nous utilisons tous les jours sur les données qui circulent en ligne se fait naturellement.

Attention, cela ne signifie pas que toute page publiée est intégrée aux données d’entraînement d’un modèle. Les corpus sont collectés, filtrés et dédupliqués selon des procédures qui varient d’un acteur à l’autre. 

Mais tout de même, le risque est présent. D’autant qu’une erreur peut suivre plusieurs chemins : 

  1. Elle peut être publiée et reprise en ligne. Si la page incriminée fait partie des sources collectées pour un futur entraînement, l’erreur peut contribuer aux régularités apprises par le modèle.
  2. Elle est consultée au moment de la réponse. Les IA connectées à un moteur de recherche ou à une base documentaire peuvent résumer une page erronée sans qu’elle ait jamais figuré dans leurs données d’entraînement.
  3. Elle est reformulée puis republiée. Une réponse générée peut alimenter à son tour un article, un message ou une nouvelle page, qui redevient accessible aux humains, aux moteurs et à d’autres systèmes d’IA.

Le parcours de l’information s’est allongé

Longtemps, bien faire son métier de producteur de contenu a d’abord voulu dire informer correctement ses lecteurs.

Cette responsabilité ne disparaît pas. Mais un contenu peut désormais être :

  • lu directement par un internaute,
  • résumé ou reformulé par un chatbot,
  • confronté à d’autres sources,
  • réutilisé dans une chaîne de plusieurs agents,
  • puis remis en circulation sous une nouvelle forme.

Lorsqu’une information suit ce parcours, sa fiabilité ne suit plus le circuit court Publication → Consultation, et ne se limite plus à ses lecteurs directs. Elle compte aussi pour tous les usages et toutes les transformations de l’information qui peuvent suivre sa publication.

Trois réflexes éditoriaux à renforcer

Les recherches sur les faux souvenirs liés aux IA sont récentes et ne permettent pas de prédire précisément le parcours d’une erreur publiée en ligne. Mais elles illustrent un même problème : plus une information est reprise et transformée, plus il devient important que les faits, leurs sources et leur degré de certitude résistent à ces transformations.

Cela n’impose pas d’inventer de nouvelles règles éditoriales. Cela renforce surtout l’importance de trois principes déjà essentiels :

  1. Remonter aux sources primaires. Une étude, une décision ou une donnée gagne à être vérifiée dans le document qui l’établit, pas seulement dans les contenus qui la commentent.
  2. Distinguer les faits des hypothèses. Une explication plausible ne doit pas être présentée avec le même degré de certitude qu’un résultat établi.
  3. Préserver les nuances lors des reformulations. Une limite méthodologique supprimée d’un résumé peut transformer un résultat local en vérité générale. Une vigilance d’autant plus nécessaire lorsque l’on confie à une IA des tâches de synthèse ou de vérification : le fact-checking avec l’IA reste un exercice délicat.

CE QU’IL FAUT RETENIR

Une information publiée en ligne peut désormais être lue, résumée, reformulée et remise en circulation par des humains comme par des IA. Produire un contenu fiable, sourcé et correctement nuancé permet aussi de mieux préserver l’information au fil de ces transformations.

Les outils changent. Le principe, lui, reste le même.

Ce n’est pas parce qu’une information est familière, répétée et largement partagée qu’elle est vraie.

5 techniques puissantes pour améliorer la fiabilité de ChatGPT

5 techniques puissantes pour améliorer la fiabilité de ChatGPT

Il y a de nombreux articles en ligne qui soulignent la tendance systématique de l’IA d’OpenAI à halluciner des informations, ou à manquer de rigueur lorsqu’elle présente des faits. Et pour cause, ces erreurs systématiques reposent sur le fonctionnement intrinsèque des Grands Modèles de Language (LLM).

Toutefois, il est vraiment possible d’améliorer la qualité des « outputs » de l’IA. Du simple prompt au système complet, je vous présente 5 techniques puissantes pour améliorer la fiabilité de ChatGPT dans les réponses qu’il vous donne !

Le fonctionnement des modèles de langage : pourquoi l’erreur est inévitable ?

Pour comprendre en quoi cela est difficile d’obtenir des informations 100% fiables de la part de ChatGPT, il faut revenir aux bases de son fonctionnement. ChatGPT, tout comme les autres modèles d’IA générative de texte, est un Large Language Model entraîné sur un volume considérable de données textuelles. Cet entraînement, appelé « apprentissage de grande ampleur », lui permet d’identifier des concepts et de créer des relations sémantiques profondes.

Ensuite, lorsqu’un utilisateur envoie une requête à ChatGPT, l’IA utilise un système d’inférence de grande ampleur pour trouver la réponse la plus probable à la demande de l’utilisateur. Ce modèle s’évertue donc à proposer le résultat le plus satisfaisant possible pour l’utilisateur, en termes de probabilité.

Et les capacités de ChatGPT s’arrêtent là.

Il ne dispose pas de la finesse de l’intelligence humaine pour analyser et ajuster sa réponse en temps réel. Ce système probabiliste manque de discernement et de compétence à contextualiser la réponse fournie.

image 33

Pour vérifier un fait, le modèle va donc se baser sur ses connaissances, et appliquer son modèle probabiliste. Il va ensuite construire sa réponse de manière naturellement structurée, et dans un langage parfaitement intelligible (souvent mieux exprimé que ce qu’aurait produit un humain). Cet « output » parfait peut induire en erreur l’utilisateur, qui reçoit une réponse clé en main. Cependant, en termes de fond, ChatGPT n’aura sans doute pas exploité toutes les facettes de l’information, pour y déceler la vérité.

Et c’est d’ailleurs ce qui réside dans la difficulté du travail de fact-checking : il s’agit d’un processus long et fastidieux, qui se fait souvent en plusieurs étapes, et qui sollicite l’expérience et la méthode du journaliste.

La méthode doit également être adaptée au format à contrôler : vérifier qu’une vidéo est fiable implique par exemple d’examiner séparément son origine, son contexte, ses images et les affirmations qu’elle contient.

Pour conclure sur ce chapitre de vérification des faits avec l’IA, gardez en tête que l’objectif intrinsèque de ces outils sont de vous fournir une réponse intelligente.

Si par exemple, vous rédigez un prompt biaisé – car basé sur une croyance plutôt qu’un fait -, l’IA ne remettra pas en question votre postulat (sauf s’il contient une désinformation avérée, comme la Terre plate ou la mort d’Elvis) et exécutera votre demande. D’ailleurs, une étude est sortie sur le sujet il y a quelques mois : les dix principaux modèles d’IA conversationnelle relaient en moyenne des informations erronées dans 30 % des cas lorsqu’ils sont confrontés à des requêtes contenant des fausses données.

image 26

Et plus vous itérerez avec elle, plus vous pourrez vous « enfoncer » vers des résultats qui s’éloignent de la vérité. De même, un prompt trop flou, rédigé à la va-vite ou ne contenant pas assez de contexte peut vous emmener également sur le terrain de la « mésinformation ». C’est ce qu’on appelle communément les hallucinations de l’IA.

Heureusement, il existe des techniques pour cadrer l’IA dans ce processus de fact-checking.

Du simple prompt au système complet, voici ma sélection des 3 meilleures techniques pour améliorer la fiabilité de ChatGPT.

Technique de fiabilité n°1 : un prompt expert et cadré

Cette première technique vous permet de solliciter ChatGPT en mode « Expert » + de lui injecter un prompt rédigé pour optimiser son fact-checking. Comme vu plus haut, l’IA a une tendance fâcheuse à générer de la mésinformation, et peut s’avérer limitée dans la fiabilité des réponses qu’elle produit. Avec ce prompt, vous sollicitez au mieux l’expertise du chatbot que vous utilisez, et vous le cadrez pour qu’il produise la vérification la plus objective.

Template de prompt :

Tu es [nom du spécialiste]GPT, un expert dans [description de la spécialité et de l’expertise]. Analyse rigoureusement le texte suivant et vérifie si chaque information est 100% exacte. Si une information est fausse ou incomplète, corrige-la et explique pourquoi. Si tu ne peux pas vérifier, précise-le.

Texte : [Insérer le texte à fact-checker].

Exemple de résultat :

Technique n°1 pour améliorer la fiabilité de ChatGPT dans ses réponses

Technique de fiabilité n°2 : une info, plusieurs vérifications

Cette deuxième technique vous invite à consolider les vérifications de ChatGPT en les confiant à plusieurs instances en même temps. Là aussi, on l’a vu dans le premier chapitre de cet article : ChatGPT fonctionne de manière probabiliste. Cela signifie que ses réponses peuvent varier à chaque génération. En testant plusieurs fois le même prompt, on peut détecter des incohérences et obtenir une meilleure validation des faits.

Consigne :

Soumettez exactement le même prompt dans plusieurs discussions distinctes.
Comparer les réponses :

  • Si elles sont cohérentes, elles sont probablement fiables
  • Si elles divergent fortement, creusez la véracité de chaque élément via des sources externes

Exemple : comme dans la technique précédente, mettons que j’aie un doute sur les effets présentés du café. Je vais ouvrir plusieurs fenêtres de chat, et injecter un prompt qui me permette de contrôler les effets avérés du café.

Si vous utilisez une version payante de ChatGPT, ou ChatGPT Team, vous pouvez même soumettre le prompt aux différents modèles.

➡️ ChatGPT 4o :

Technique n°2a pour améliorer les réponses de ChatGPT

➡️ ChatGPT o1-mini

Technique n°2b pour améliorer les réponses de ChatGPT

Technique de fiabilité n°3 : rechercher en ligne avec l’IA (et avec précaution)

ChatGPT Search a été lancé il y a quelques mois. Et depuis, toutes les IA ont suivi, en intégrant la recherche en ligne dans leur interface de chat. Sans oublier Perplexity AI, précurseur en la matière.

Mais le problème de la fiabilité demeure tout autant avec cette possibilité de recherche sur la toile.

Des études récentes montrent que ChatGPT extrait les informations trouvées en ligne de manière partielle seulement, voire invente des faits.

Toutefois, il sait aussi tomber juste, si bien encadré.

Pour cette technique, demandez-lui explicitement de citer ses sources et d’effectuer un double-checking de sa propre réponse pour améliorer la robustesse des faits.

Template de prompt :

« Utilise la recherche en ligne pour trouver des sources fiables sur [information à vérifier].
Cite précisément les références et vérifie que les informations proviennent d’études scientifiques ou d’experts reconnus.
Après avoir fourni une réponse, refais une vérification sur chaque point et indique s’il y a des contradictions ou des doutes. »

Exemple : après avoir présenté ses résultats de recherche, ChatGPT vous proposera une synthèse et une note sur la vérification des informations.

Technique n°3 : fact-checker ChatGPT correctement après recherche en ligne

Technique de fiabilité n°4 : générer et fact-checker

Cette dernière technique relève surtout d’un réflexe à adopter face à tout texte que vous générez avec l’IA, ou toute source qui vous fait douter. De fait, elle peut par exemple être utilisée avec la technique ci-dessus, pour rajouter une couche de solidité aux informations récupérées en ligne par ChatGPT.

Ou bien, vous pouvez générer un texte sur un sujet dans une fenêtre de ChatGPT, et vérifier les infos de ce texte dans une nouvelle discussion.

Ou encore, vous pouvez copier-coller un paragraphe en ligne et le faire fact-checker par ChatGPT.

Exemple :

1er chat : on demande à ChatGPT de générer de l’information sur ce qui nous intéresse.

Technique n°4 pour vérifier les informations de l'IA et ChatGPT

2e chat : on demande à ChatGPT de fact-checker le texte ainsi généré. L’IA exécute généralement une analyse détaillée, et si vous avez de la chance, vous propose une synthèse des points inexacts ou imprécis.

image 32

Tableau récapitulatif des techniques

Tableau Fact-Checking IA
🤖 Nom de la technique 🤓 Explications 🏆 Conseils de prompting
Solliciter son mode ‘Expert’ avec un prompt dédié L’IA a tendance à produire des erreurs, mais en lui attribuant un rôle précis, on maximise ses capacités d’analyse et d’objectivité. Définis un rôle précis dans le prompt :
« Tu es HistorienGPT, spécialiste des conflits mondiaux. Vérifie ce texte et identifie toute inexactitude. »
Ajoute : « Si tu n’es pas sûr d’un fait, précise-le. »
Régénérer le même prompt plusieurs fois ChatGPT donne des réponses qui varient à chaque génération. Comparer plusieurs versions permet de repérer des incohérences et de croiser les informations. Pose la même question dans plusieurs conversations distinctes. Si les réponses sont cohérentes, elles ont plus de chances d’être exactes. Si elles diffèrent, vérifie avec des sources externes.
Connecter l’IA à la recherche en ligne (avec précaution) ChatGPT peut extraire des informations en ligne, mais parfois de manière partielle ou erronée. Il faut encadrer ses recherches et valider les sources. Demande-lui d’effectuer une recherche en ligne avec :
« Utilise la recherche pour trouver des sources fiables sur [sujet]. Cite précisément les références et vérifie leur cohérence. »
Ajoute : « Fais un double-checking des informations que tu as fournies. »
Utilise le principe de Génération / Vérification La première instance de ChatGPT génère une réponse. La seconde, utilisée comme vérificateur, analyse cette réponse pour détecter d’éventuelles erreurs, exagérations ou incohérences. Ouvrir deux fenêtres ChatGPT :
– La première génère la réponse.
– La seconde vérifie avec : « Peux-tu fact-checker ce texte avec rigueur et identifier des erreurs ? »

😮 Vous aimez ce que vous lisez ? 😮

Vous allez adorer l’aide-mémoire complet que j’ai créé, pour vous aider à bien prompter !

Vous trouverez les techniques de fact-checking avec l’IA présentées dans cet article, mais surtout de nombreuses autres bonnes pratiques pour structurer vos prompts et tirer le meilleur de ChatGPT.

Cette « cheatsheet » est entièrement gratuite, il vous suffit juste de me laisser votre adresse email ci-dessous. ⬇️

Bonus : un système complet pour automatiser votre fact-checking avec l’IA

Si vous avez réellement lu cet article, vous vous êtes aperçu qu’il manquait une technique de vérification, par rapport à la promesse de l’article. C’est tout à fait volontaire de ma part.

Voici pour conclure et en quelques mots, ma recommandation pour automatiser autant que possible votre fact-checking avec l’IA. Il s’agit ici d’une structure logique d’utilisation de l’IA à cette fin, plutôt qu’une technique en tant que tel.

Fact-checking avec l'IA : exemple de processus

  1. Commencez par utiliser l’IA pour réaliser une analyse critique des informations de votre texte, en lui définissant un rôle, et en lui demandant de recommander des sources fiables pour vérifier les informations « suspectes » qu’elle aura identifiées
  2. Mobilisez votre expertise et les sources ainsi proposées pour constituer une base de connaissances. L’objectif est de compiler des publications de référence dans un fichier local ou un Google Doc, afin de les partager à l’IA dans l’étape d’après
  3. Pour automatiser ce processus de fact-checking, créez un Custom GPT (ou un Gemini Gem si vous utilisez Google Gemini) en réfléchissant bien aux instructions de fonctionnement que vous allez lui donner en « back-office ».
    • Exemple :
      • Contexte,
      • Objectif global
      • Cas d’usage possibles
      • Workflow
      • Points de vigilance.
    • Cela vous demandera du temps, mais vous aurez finalement un assistant spécialisé et performant pour cette tâche. C’est donc intéressant s’il s’agit d’une tâche récurrente dans votre métier.
    • 🚨 Vous pouvez également commenter cet article ou m’envoyer un message pour que je vous envoie mon Custom GPT entièrement fonctionnel. 🚨
  4. Enfin, itérez avec le Custom GPT « fact-checkeur » :
    • Fournissez-lui votre texte à vérifier et l’analyse produite à l’étape 1
    • Cadrez-le encore davantage,
    • Faites-le « double-checker » ses réponses dans la base de connaissances
    • Demandez-lui de produire une version corrigée du texte, avec le détail des modifications apportées.

Voilà pour l’ensemble de ces techniques. Et vous, avez-vous expérimenté d’autres approches pour améliorer la fiabilité de ChatGPT ?

Pourquoi le fact-checking avec l’IA est toujours aussi compliqué ?

Pourquoi le fact-checking avec l’IA est toujours aussi compliqué ?

Que l’on exerce dans les médias ou que l’on soit simple lecteur, on partage le même constat : le web de 2025 déborde de contenus et d’actualités, et la vérité cherche à se frayer un chemin entre « mésinformation », désinformation et « infox ». Face à cela, le fact-checking est devenu une méthode indispensable pour faire un tri éclairé dans la masse.

Couplée à l’intelligence artificielle, cette discipline promet de gagner en efficacité et de soutenir le rythme effréné du flux de publications qui alimentent la confusion. Mais nous sommes encore loin du compte. Le potentiel est bien là, mais de gros problèmes persistent pour la rendre fiable à 100%.

Alors, pourquoi le fact-checking avec l’IA est toujours aussi compliqué en 2025 ? Explications dans cet article.

La complexité du travail de fact-checking

Un processus qui n’est pas systématisé

En 2023, 62 % des Français déclaraient se rendre sur internet au moins une fois par jour pour consulter de l’information. Et deux tiers d’entre eux le faisant sur les réseaux sociaux.

Sur ces plateformes sociales, tout le monde dispose d’un potentiel médiatique : le volume d’informations explose et les sources se multiplient. Chacun cherche sa vérité, et la rigueur face aux faits s’affaisse.

Dans ce contexte, le fact-checking, ou vérification des faits, est devenu un pilier essentiel du journalisme et de la communication.

La capacité à distinguer le vrai du faux de l’information qui circule en ligne est devenue un besoin vital. Cela permet de remonter à l’intangibilité des faits, et de mettre de côté le brouhaha des avis tranchés et du débat d’idée permanents. En témoignent les lancements successifs de cellules de fact-checking au sein de services de rédaction célèbres (Les Décodeurs du Monde, Checknews de Libération, Vrai ou Faux de France Info…).

Toutefois, le fact-checking n’est pas un processus rigide et systématique, mais une discipline complexe qui repose sur la rigueur, la méthode et le discernement du journaliste.

Fact-checker une information ne consiste pas à faire une recherche sur Google et à cliquer sur les deux premiers résultats pour contrôler qu’ils détiennent, eux aussi, cette même information. 

L’exigence de l’exactitude

Ainsi, un processus type de fact-checking peut inclure de nombreuses étapes pour atteindre l’exactitude. Il peut par exemple se résumer ainsi :

Processus de fact-checking

  1. Identification de l’information à vérifier : le processus commence par l’identification d’une information, d’une affirmation, d’une statistique ou d’un contenu qui suscite un doute ou une interrogation. Cela peut provenir d’un article de presse, d’un discours politique, d’une publication sur les réseaux sociaux, etc. Parfois, le doute naît d’une affirmation sensationnaliste ou qui semble aller à l’encontre de faits établis.
  2. Pré-évaluation de l’information : avant de se lancer dans une recherche approfondie, le journaliste s’appuie sur ses connaissances préexistantes et son expertise pour effectuer une première analyse. Une affirmation qui semble conforme à ce qui est déjà connu peut être acceptée avec un minimum de vérification, tandis qu’une information inhabituelle ou mal sourcée appelle une analyse plus poussée.
  3. Formulation de la question/Recherche contextuelle : le doute initial se traduit en une question précise qui guidera la recherche. Par exemple : « Cette photo est-elle authentique ? », « Cette statistique est-elle exacte ? », « Ce témoignage est-il crédible ? ». Avant de formuler cette question explicite, il faut collecter des éléments contextuels. Il s’agit de comprendre les implications de l’information, ses origines potentielles et sa pertinence. Dans le cas d’un contenu vidéo, plusieurs de ces contrôles doivent être combinés : retrouvez ici notre méthode pour vérifier la fiabilité d’une vidéo.
  4. Recherche et investigation : le « fact-checker » explore différentes sources d’information pour répondre à la question posée. Il peut s’agir de consulter des bases de données, des archives, des rapports officiels, des articles académiques, des sites web spécialisés, etc. Très souvent, il devra aussi contacter des experts, des témoins ou des personnes concernées par l’information.
  5. Evaluation des sources : toutes les sources ne se valent pas. Le journaliste en charge de la vérification doit évaluer la crédibilité, la fiabilité et la pertinence de chaque source en tenant compte de facteurs tels que l’auteur, la date de publication, la nature du site web, la présence de biais, etc.
  6. Vérification et recoupement : le journaliste compare les différentes sources, analyse les données, recherche des contradictions ou des incohérences.
  7. Conclusion et publication : enfin, il présente les résultats de sa vérification de manière claire et transparente. Il explique la méthodologie utilisée, cite les sources consultées et précise le degré de certitude de ses conclusions. Il identifie également les points à préciser ou les ambiguïtés à signaler.

Pour illustrer ce processus, prenons un exemple.

L’exemple d’un politicien qui affirmerait que « les exportations nationales ont augmenté de 30 % cette année » lors d’une interview en direct.

Le journaliste commencerait par une pré-évaluation (cette statistique est-elle plausible dans le contexte économique actuel ?) basée sur son expertise. Il chercherait ensuite des rapports d’organismes officiels (ministère de l’Économie, INSEE…), consulterait des experts en économie, puis synthétiserait les données pour vérifier si cette augmentation concerne toutes les exportations ou uniquement certains secteurs. Il préciserait également la période de référence pour cette augmentation et la comparerait avec les années précédentes.

Les possibilités de l’IA et leurs performances

Innovation de poids qui touche tous les secteurs d’activité, l’intelligence artificielle n’exempt pas les journalistes de ses superpouvoirs, et elle se positionne comme un outil puissant pour compléter le travail des fact-checkers.

Sur le sujet de la connaissance, les capacités de l’IA générative peuvent être regroupées en trois piliers :

  1. Connaissances intrinsèques : les modèles d’IA comme ChatGPT s’appuient sur une base de connaissances préexistante issue des données sur lesquelles ils ont été entraînés. Cette approche est efficace pour vérifier des faits bien établis ou intemporels, comme des événements historiques ou des données scientifiques éprouvées. Cependant, elle est limitée par le cadre temporel de l’entraînement : l’IA ne peut pas accéder à des informations postérieures à cette période.
  2. Recherche en ligne : certains modèles avancés, comme Perplexity, Gemini ou ChatGPT avec navigation Web, permettent de rechercher des informations en temps réel. Cette approche est particulièrement utile pour les sujets d’actualité ou les faits controversés. Toutefois, elle est vulnérable aux biais des sources en ligne et aux informations non vérifiées. Aussi et surtout, il existe une grande disparité sur la fiabilité des résultats « récupérés » par l’IA. Par exemple, ChatGPT Search, la fonctionnalité de recherche en ligne de ChatGPT (activée lorsqu’on clique sur l’icône en forme de mappemonde), se trompe dans plus de 75% des cas !
  3. Corpus de connaissances spécifiques : une troisième possibilité consiste à entraîner un modèle sur un corpus précis (rapports gouvernementaux, publications scientifiques, bases de données journalistiques…). Cette base de connaissance devient le champ de recherche et d’action de l’IA pour contrôler l’information et apporter une réponse à l’utilisateur. Plutôt que de travailler sur les données astronomiques qui constituent les connaissances « par défaut » d’un modèle de langage comme ChatGPT, cette technique favorise sa spécialisation dans un corpus défini, et améliore la fiabilité de ses réponses. C’est le principe du « RAG » (« Génération Augmentée de Récupération » en français dans le texte). Autre avantage, la base peut être actualisée par le journaliste au besoin, afin que l’IA travaille toujours sur de la donnée « fraîche ».

Exemple d’utilisation combinée pour le fact-checking avec l’IA

Pour vérifier une affirmation sur la réduction des émissions de CO2 d’une entreprise ou d’un pays donné, une IA pourrait :

  • Utiliser ses connaissances intrinsèques pour fournir un cadre contextuel.
  • Effectuer une recherche en ligne pour trouver des données actualisées.
  • Croiser les résultats avec un corpus scientifique spécifique pour valider les informations.

🔑 Cet exemple simple permet de se rendre compte à quel point le travail « besogneux » peut être délégué à l’IA, mais également à quel point un contrôle humain rigoureux reste de mise à toutes les étapes du processus.

Vous cherchez des conseils « opérationnels » pour réussir votre vérification d’information avec ChatGPT ? Découvrez mes 5 techniques préférées pour fact-checker de l’info avec l’IA.

Le problème des hallucinations

Qu’est-ce qu’une hallucination en intelligence artificielle ?

L' »hallucination » d’un modèle d’intelligence artificielle est un terme qui désigne la génération d’une réponse qui, bien que paraissant plausible, est factuellement incorrecte ou entièrement inventée.

Depuis la démocratisation de ChatGPT fin 2022, le sujet de ces hallucinations a rapidement émergé, pour se positionner comme une notion centrale dans la compréhension des modèles actuels d’IA générative. Sans surprise, son volume de recherche a explosé en conséquence sur la toile.

Voici les tendances de recherche autour du concept des hallucinations sur ces 5 dernières années (USA). Source : Google Trends

les hallucinations de l'IA : tendances de recherche de ce concept sur Google Trends

Un comportement de l’IA sujet à débat

Sujet complexe à appréhender si on veut tenter de le comprendre en profondeur, il fait l’objet de nombreuses discussions.

Une étude récente souligne l’absence de consensus sur la définition précise des « hallucinations » en IA, avec 333 définitions jugées pertinentes, sur la base d’une analyse de plus de 3500 documents. (AI Hallucinations : a misnomer worth clarifying)

Une autre étude, de septembre 2024, met l’emphase sur l’inévitabilité des hallucinations, car elles seraient inhérentes à la structure mathématique et logique des grands modèles de langage. Leur élimination intégrale serait pour l’instant impossible. (LLMs will always hallucinate, and we need to live with this).

Pourquoi les LLM ne peuvent pas s’empêcher d’halluciner ?

En premier lieu parce que les LLM (Large Language Models) sont des modèles basés sur :

  • L’apprentissage de grande ampleur : ils sont entraînés sur d’énormes quantités de données textuelles. C’est cet entraînement qui leur permet d’apprendre des relations complexes entre les mots, les phrases et les concepts.
  • L’inférence de grande ampleur : pour chaque demande de l’utilisateur, le modèle analyse la requête, explore un ensemble de réponses possibles et évalue la probabilité de chacune d’entre elles, pour finalement générer la réponse la plus probable, cohérente et informative.

Finalement, c’est leur capacité exceptionnelle à générer du texte en langage naturel qui nous induit nous, humains, en erreur.

Contrairement à une intelligence humaine, un LLM ne dispose pas de fonctions cognitives. Dit autrement, il ne comprend pas l’information qu’il traite, ni ne réfléchit à la cohérence de la réponse qu’il fournit.

Cependant, la conception technologique avancée de ces plateformes en fait des outils linguistiques très puissants, qui fournissent des résultats en langage naturel très convaincants, et font passer la qualité de leurs réponses pour de véritables capacités intellectuelles.

Prenons un exemple : lorsqu’on demande à un modèle d’IA combien de « R » il y a dans le mot Strawberry, celui-ci peut répondre qu’il y en a « deux » (au lieu de trois), tout en fournissant une justification convaincante, quoiqu’entièrement erronée.

Exemple d'une hallucination manifeste de ChatGPT : épeler le mot "strawberry"


Cet exemple, bête et méchant, a fait le tour des réseaux sociaux il y a quelques mois. Il souligne bien la « confiance » de ChatGPT dans la manière de présenter et défendre sa réponse, alors qu’il se fourvoie sur un problème extrêmement simple.

En conclusion : difficile de sous-traiter le fact-checking à une IA généraliste

On l’a vu plus haut dans l’article :

  • Lorsqu’elle se connecte au web, l’IA a une forte tendance à remonter des résultats partiellement corrects ou entièrement incorrects.
  • Lorsqu’elle est sollicitée sur son intelligence « intrinsèque », elle tend à générer des hallucinations difficiles à détecter, car elle soutient ses propos avec assurance et style, ce qui complexifie l’analyse humaine.

Si un journaliste décide de confier tout ou partie de sa vérification d’information à l’IA, il se voit dans l’obligation de vérifier le travail fourni. Et bien souvent, il passe plus de temps à vérifier les informations générées par l’IA qu’il n’en aurait mis à effectuer lui-même le fact-checking.

Et vous, quelle est votre expérience pour vérifier des faits à l’aide de l’IA ? Echec ou succès ? Partagez votre avis en commentaires !