NIST · EvidenT · Tow Center : trois approches de la vérification · Découverte d’un usage · sans annonce de nouveauté
Une réponse IA avec des liens est-elle vérifiée ?
Contre-vérification à compléter : La contre-vérification de cette version n’est pas établie. Lire la méthode
Pas nécessairement. Un lien aide à retrouver une source, sans prouver qu’elle soutient toute la réponse. Plusieurs liens peuvent aussi reprendre une seule origine. Vérifiez le passage exact, les conditions de l’observation et les preuves réellement distinctes.
Pour qui ? Les personnes qui utilisent une IA pour préparer une note, comparer des options ou résumer des documents avant une décision.
Documenté, pas testé par l’Observatoire. Sources lues le 30 septembre 2026. Réexamen prévu au plus tard le 30 octobre 2026. Une documentation décrit une possibilité ; elle ne prouve pas le résultat chez vous.
Trois questions au-delà du lien
Le NIST développe des outils expérimentaux qui comparent les affirmations d’un agent à un corpus choisi par des humains. Ses critères distinguent fidélité à la source, complétude du message et suffisance des preuves pour la conclusion. Il s’agit d’un projet de recherche en cours, pas d’une certification d’un assistant.
Lire ce que mesure réellement un score
Dans EvidenT, une étude de chercheurs de Bloomberg et de leurs coauteurs, le taux d’hallucination du §6.1 concerne les citations vers des URL absentes de la liste des documents récupérés. Son indicateur de groundedness vérifie qu’au moins une citation correspond à un document de référence annoté par des experts. Ces deux mesures ne vérifient donc pas chaque phrase. Les auteurs évaluent aussi l’alignement sémantique et la pertinence humaine ; leurs résultats restent liés au corpus d’entreprise et aux modèles étudiés.
Preuves : Kabra et coauteurs · EvidenT, version 1
Plusieurs liens, combien d’origines ?
Dans une étude publiée en mars 2025, le Tow Center a demandé à huit outils de recherche IA de retrouver des articles à partir d’extraits. Certaines réponses renvoyaient vers des republications plutôt que vers l’éditeur original. Cette observation concerne ce test et ces versions, pas les performances actuelles de tous les assistants. Conseil de l’Observatoire : remontez à l’auteur, à l’étude ou au communiqué repris. Trois pages qui racontent le même essai ne font pas trois essais indépendants. Une reprise peut être exacte et utile ; elle n’ajoute pas, à elle seule, une nouvelle vérification.
Preuves : Jaźwińska et Chandrasekar · Tow Center, AI Search Has a Citation Problem
Passer de la synthèse à une décision
Proposition pratique de l’Observatoire : prenez une affirmation décisive, ouvrez son lien et retrouvez le passage qui la soutient. Notez la date, les personnes ou situations concernées et les conditions de l’observation. Cherchez ensuite un passage qui restreint ou contredit votre conclusion. Si le document est inaccessible, gardez l’affirmation à confirmer ; la présence de son titre ne suffit pas.
Preuves : NIST · Building Evaluation Probes into Agentic AI · Kabra et coauteurs · EvidenT, version 1
Les mots de cette fiche
- Citation
- Renvoi vers un document ou un passage ; il aide à retrouver une information.
- Preuve
- Élément qui soutient une affirmation précise dans des conditions identifiées.
- Corpus
- Ensemble des documents utilisés pour produire ou vérifier une réponse.
- Origine de l’information
- Personne, document ou observation à l’origine d’une affirmation, même lorsque plusieurs sites la reprennent.
Un exemple pour comprendre
EXEMPLE FICTIF · SANS COMPTE NI INSTALLATION
Exemple fictif : un compte rendu indique que le temps de saisie a diminué dans deux équipes pendant un pilote de quatre semaines. Deux blogs reprennent ce compte rendu sans mesure supplémentaire. Une synthèse IA conclut : « Trois sources confirment que cet outil réduit de moitié le travail de toutes les PME », avec les trois liens.
Les trois liens suffisent-ils à rendre cette conclusion utilisable ?
Voir une réponse expliquée
Non. Les trois pages remontent au même pilote. Le compte rendu ne donne ni réduction de moitié, ni résultat pour toutes les PME, ni mesure de tout le travail. Reformulez : « Un pilote rapporte une baisse du temps de saisie dans deux équipes ; l’ampleur du gain et sa généralisation restent à établir. Les deux reprises n’apportent pas de mesure indépendante. » Cette correction illustre une méthode ; elle ne décrit aucun résultat client réel.
Votre prochain pas
Avant de diffuser votre prochaine synthèse, contrôlez une affirmation importante : passage exact, date, conditions, limite et origine des preuves. Regroupez les reprises d’une même origine. Conservez les points non établis comme questions ouvertes.
Conditions précises et sources
Le §6.2 et l’annexe F d’EvidenT complètent les mesures de citations par des analyses sémantiques et humaines. Son approche privilégie l’extraction traçable ; elle ne démontre pas une validité universelle pour les synthèses ouvertes. Un juge IA peut aider à repérer un écart, mais sa réponse reste à examiner avec les documents. Le choix et l’actualité du corpus font aussi partie du contrôle.
Sources primaires : elles décrivent leur propre dispositif. Plusieurs pages du même éditeur ne constituent pas plusieurs confirmations indépendantes.
- NIST · Building Evaluation Probes into Agentic AI
Description institutionnelle d’un projet expérimental ; critères de citation et corpus de référence humain. Aucun certificat ni test de notre part.
Document daté du 1 mai 2026 · consulté le 30 septembre 2026 - Kabra et coauteurs · EvidenT, version 1
Étude originale : définitions des métriques (§6.1), analyses complémentaires (§6.2 et annexe F), limites (§10). Résultats des auteurs, non reproduits.
Document daté du 18 septembre 2026 · consulté le 30 septembre 2026 - Jaźwińska et Chandrasekar · Tow Center, AI Search Has a Citation Problem
Étude originale de recherche d’articles à partir d’extraits, publiée en 2025. Méthode et cas de republication lus ; aucune mesure des versions actuelles ni reproduction par l’Observatoire.
Document daté du 6 mars 2025 · consulté le 30 septembre 2026