Vérifiez les citations d'IA avant de leur faire confiance

Vérifiez les citations d'IA avant de leur faire confiance

Audience : Lecteurs intermédiaires qui utilisent l'IA pour la recherche, l'écriture, l'étude, les décisions techniques ou le travail basé sur des preuves.

Pour vérifier les citations d'IA, confirmez deux faits distincts : la source existe et la source soutient l'affirmation exacte. Une recherche DOI peut résoudre la première question. Seul le passage pertinent peut résoudre la seconde.

Le flux de travail le plus sûr comporte cinq étapes :

Ce processus prend quelques minutes pour une réponse courte. Il permet également de repérer les deux modes d'échec les plus dangereux : une référence plausible qui n'a jamais existé et une source réelle qui dit quelque chose de plus étroit ou de différent de la prose de l'IA.

Pourquoi une source liée n'est pas suffisante

Les produits d'IA actuels peuvent rechercher sur le web et attacher des citations. Leurs fournisseurs disent toujours aux utilisateurs de vérifier les affirmations importantes. Les directives de précision d'OpenAI listent les études, citations et références fabriquées parmi les erreurs possibles, puis conseillent aux lecteurs de visiter les sources directement.

Un lien source peut échouer à quatre niveaux :

Vérifier uniquement l'URL laisse les trois derniers niveaux non résolus. Vérifier uniquement le titre laisse encore le soutien et le champ d'application non résolus.

Les mêmes vérifications s'appliquent à plus que des articles. Un lien vers la documentation produit peut exister mais décrire une autre version. Un benchmark peut rapporter un score sous un matériel ou des invites différents. Une page de politique peut couvrir un autre endroit ou une autre date.

Ce que des recherches récentes ont trouvé sur les citations d'IA

Quatre études aident à séparer l'échec mesuré de l'inférence pratique. Aucune ne prouve que chaque réponse d'IA citée est peu fiable. Ensemble, elles montrent pourquoi l'identité de la source, le soutien du passage et le risque décisionnel nécessitent des vérifications distinctes.

Des références inexistantes ont atteint de vrais articles

L'article de mai 2026 LLM hallucinations in the wild a audité 111 millions de références à travers 2,5 millions d'articles dans arXiv, bioRxiv, SSRN et PubMed Central. Les auteurs ont estimé 146 932 citations hallucinées en 2025, en utilisant un pipeline qui a fait correspondre les titres avec des index académiques et a appliqué des étapes de nettoyage et de recherche supplémentaires.

Ce chiffre est une estimation conservatrice à l'intérieur des dépôts étudiés. La méthode peut manquer des travaux obscurs et mal classer des enregistrements lorsque les métadonnées diffèrent. Elle détecte les références inexistantes plus directement qu'elle ne détecte un vrai papier utilisé pour soutenir la mauvaise affirmation. La conclusion sûre est étroite : des citations fausses apparaissent maintenant dans la recherche réelle.

Les citations peuvent augmenter la dépendance erronée

Une étude publiée le 1er août 2026 a testé un assistant clinique lié à une source avec 46 médecins. Dans Large language models improve physician accuracy but lead to false reliance, la précision moyenne est passée de 70,8 % sans l'assistant à 82,6 % avec lui. Le soutien perçu des citations a augmenté l'adoption de conseils corrects de 34 % à 76,9 %.

Le même indice a créé un risque. Lorsque des conseils incorrects semblaient soutenus, la résistance est tombée de 92 % à 34,8 % dans les décisions observées. L'étude n'établit pas cet effet exact pour d'autres emplois ou recherches quotidiennes. Son cadre clinique, l'ordre des études et le petit ensemble de décisions nuisibles limitent l'étendue à laquelle les lecteurs peuvent étendre le résultat. L'écart mesuré avertit toujours contre le traitement d'une réponse citée comme un signal de confiance.

Les vérifications au niveau des affirmations fonctionnent mieux que l'inspection visuelle

VetScore, publié le 4 août, divise une longue réponse en affirmations, vérifie chaque affirmation contre des extraits cités, évalue le potentiel de préjudice séparément, puis calcule un résultat ajusté au risque. Les auteurs ont validé les composants contre des annotations d'experts vétérinaires et ont rapporté des corrélations allant jusqu'à 0,78 pour la vérification des faits et 0,76 pour l'évaluation des dommages à travers les modèles de juges testés.

L'article vérifie les extraits cités, pas les faits d'une recherche externe. Il ne teste pas les omissions, la médecine humaine, les entrées d'image ou les résultats du monde réel. Les lecteurs peuvent toujours utiliser sa méthode principale : diviser le texte en affirmations, vérifier chacune d'elles et passer plus de temps là où une erreur pourrait causer des dommages.

Des rapports soignés peuvent cacher des chaînes de preuves faibles

HiEviDR-Bench représente la recherche sous forme de graphique allant des preuves aux affirmations intermédiaires, puis à une conclusion. Ses 2 000 questions validées par des humains couvrent des preuves textuelles et multimodales. À travers 16 modèles multimodaux testés, les auteurs ont trouvé un écart entre la qualité du rapport et l'exactitude des citations, la construction des affirmations et la justesse des réponses.

Le benchmark utilise un corpus de test et des juges modèles aux côtés d'une révision humaine. Il ne mesure pas chaque outil de recherche ou flux de travail en direct. Il montre cependant que la prose soignée est une preuve faible. Retracez chaque affirmation jusqu'à sa source.

Le flux de travail en cinq étapes pour vérifier les citations d'IA

Utilisez un petit registre de preuves. Un tableur, une note ou un modèle de problème fonctionnent. Stockez une ligne par affirmation matérielle avec ces champs :

text claim | citation as given | stable identifier | source passage | status | risk | notes

Le registre garde chaque vérification liée à son affirmation. Il laisse également une trace d'audit lorsque le texte change.

1. Gel de l'affirmation et de la citation exactes

Copiez la phrase qui dépend des preuves. Préservez les qualifications, dates, chiffres, groupes de comparaison et langage causal. Ensuite, copiez la citation exactement comme l'a présentée l'IA.

Évitez de vérifier un paragraphe entier comme une seule unité. Divisez-le lorsque la phrase contient des propositions factuelles distinctes. Par exemple :

Cette phrase contient au moins deux affirmations : une baisse mesurée et une affirmation concernant tous les secteurs. Une source pourrait soutenir la première et ne fournir aucune preuve pour la seconde.

Marquez les déclarations qui n'ont pas besoin de preuves externes, telles qu'une opinion ou une recommandation clairement étiquetée. Passez du temps de vérification sur les affirmations factuelles qui changent une décision.

2. Confirmez l'identité de la source

Recherchez d'abord un ID stable : DOI, ID PubMed, ID arXiv, numéro de norme, numéro de cas ou URL de documents officiels. Faites correspondre le titre, les auteurs ou l'agence, la date, la revue et la version.

La documentation de l'API REST de Crossref décrit les enregistrements déposés par des membres de publication et complétés par des sources de confiance. Son API peut confirmer les métadonnées bibliographiques et exposer les corrections ou mises à jour post-publication lorsqu'elles sont présentes. OpenAlex fournit un catalogue ouvert d'œuvres académiques et de leurs connexions avec des auteurs, des sources, des institutions et des sujets.

Ces outils aident à répondre à la question : "S'agit-il du travail nommé ?" Ils ne répondent pas à la question : "Ce travail soutient-il la phrase ?" Leurs enregistrements peuvent être incomplets ou obsolètes. Si les enregistrements ne sont pas d'accord, préférez la version actuelle de l'éditeur, de la conférence, du tribunal, du régulateur ou des auteurs et notez le conflit.

Arrêtez-vous et rejetez la citation lorsque vous ne pouvez pas trouver le travail après avoir vérifié plusieurs champs stables. Ne le remplacez pas par le papier le plus plausible et ne prétendez pas que l'original était correct.

3. Ouvrez la source primaire

Suivez l'identifiant jusqu'à l'article, la norme, le jeu de données, la note de version, le statut ou la documentation officielle. Utilisez un article secondaire uniquement pour localiser ou contextualiser la source primaire.

Vérifiez la version et la date avant de lire le résultat. Un préprint peut changer après la révision par les pairs. La documentation produit peut décrire la version actuelle tandis que la réponse de l'IA discute d'une version plus ancienne. Un retrait, une correction ou un benchmark mis à jour peuvent inverser l'interprétation sûre.

Les paywalls peuvent bloquer la vérification complète. Étiquetez l'affirmation comme non vérifiée lorsque vous ne pouvez accéder qu'à un résumé et que l'affirmation dépend de méthodes, de résultats de sous-groupes ou de limitations en dehors de celui-ci. Un résumé est une preuve de ce que les auteurs ont choisi de résumer, pas un substitut à l'étude complète.

4. Faites correspondre l'affirmation à un passage et à son champ d'application

Trouvez le tableau, la figure, le paragraphe ou la section exacts qui devraient soutenir l'affirmation. Enregistrez suffisamment de contexte pour le retrouver à nouveau : page, section, tableau, figure ou titre de paragraphe.

Classifiez la relation :

Lisez autour de la phrase correspondante. Vérifiez la population, la taille de l'échantillon, la ligne de base, la comparaison, l'incertitude, la définition du résultat et la période de temps. Séparez la corrélation de la causalité. Confirmez si le nombre est absolu ou relatif et s'il provient d'un résultat primaire préenregistré, d'un sous-groupe exploratoire, d'une simulation de modèle ou d'un benchmark de fournisseur.

5. Décidez en fonction du risque

L'effort de vérification doit augmenter avec le coût d'une erreur. Un fait de fond à faible risque peut nécessiter une source autoritaire. Une affirmation médicale, juridique, financière, de sécurité ou de sûreté nécessite un examen par des experts, des vérifications de juridiction ou de version actuelles, et une corroboration indépendante.

Utilisez quatre actions :

Ne faites pas la moyenne d'une affirmation soutenue à faible risque avec une affirmation non soutenue à haut risque. L'idée de pondération des risques dans VetScore est utile ici même lorsque vous vérifiez manuellement : priorisez le dosage, le devoir légal, le contrôle de sécurité, l'exposition financière et d'autres affirmations qui peuvent causer des dommages matériels.

*Capturez l'affirmation, confirmez l'identité de la source, ouvrez la source primaire, faites correspondre le passage et routez le résultat par risque.*

Un exemple de travail reproductible

Prenez cette affirmation de la section de recherche précédente :

Effectuez les cinq vérifications :

La formulation finale porte la limite de preuve au lieu de copier le nombre le plus dramatique.

Ce que les vérificateurs de citations automatisés peuvent et ne peuvent pas faire

L'automatisation est forte pour les vérifications d'identité répétitives. Elle peut normaliser les titres, faire correspondre les auteurs et les années, résoudre les identifiants, signaler les travaux manquants, détecter les références en double et produire une file d'attente pour révision.

Le dépôt RefChecker open-source documente les vérifications contre Semantic Scholar, OpenAlex, Crossref, DBLP et ACL Anthology. Il combine des pré-filtres déterministes avec une extraction basée sur LLM optionnelle et des recherches plus approfondies. Le projet était actif lors de la vérification le 5 août 2026, avec des versions et des commits le jour précédent. Cette activité montre un travail d'ingénierie en cours, pas une preuve indépendante d'exactitude.

Gardez un humain dans l'étape de soutien. La correspondance des titres ne peut pas décider si le résultat d'une étude s'applique à une autre population. Un juge LLM peut répéter le même dépassement trouvé dans la réponse. L'extraction de texte intégral peut perdre des tableaux, des notes de bas de page ou des négations. Un vérificateur doit retourner des preuves et de l'incertitude, pas un badge vert qui met fin à la révision.

Une liste de vérification réutilisable pour la vérification des citations d'IA

Avant de citer, de publier ou d'agir sur une source générée par l'IA, confirmez chaque élément :

Le flux de travail ne peut garantir la vérité. Il crée une raison traçable pour faire confiance, restreindre ou rejeter chaque affirmation. C'est une norme plus forte que de faire confiance à une réponse fluide simplement parce qu'elle est arrivée avec des liens.

Vérifications des affirmations

Sources