À quelle distance se trouve une affirmation d’IA des preuves ? — Distance aux preuves

Question

Deux réponses d'IA peuvent toutes deux citer des sources et différer néanmoins grandement dans la manière dont ces sources étayent directement les affirmations formulées. Comment décrire cette différence ?

Cet article utilise le terme Distance de preuve pour désigner la distance entre une affirmation et les preuves directement inspectables qui la soutiennent.

La Distance de preuve est le nombre et la force des transformations, hypothèses et étapes inférentielles qui séparent une affirmation des preuves pouvant la vérifier directement.— Définition de travail — un concept de raisonnement introduit ici, et non une métrique standardisée.

Ce que cela signifie vraiment

Une citation prouve qu'une source a été référencée. Elle ne prouve pas automatiquement que la source soutient directement la phrase située à côté de la citation.

Entre une observation originale et une réponse finale d'IA, il peut y avoir extraction, analyse syntaxique, découpage, récupération, résumé, interprétation, agrégation et inférence.

Primary evidence
   ↓
Extracted data
   ↓
Retrieved passage
   ↓
Summary
   ↓
Interpretation
   ↓
Inference
   ↓
Final claim

Chaque étape peut être légitime. Mais chaque étape peut aussi introduire une distorsion.

Exemple le plus simple

Supposons qu'un capteur de température indique 38,2 °C.

La valeur originale du capteur soutient directement la première affirmation. Elle ne prouve pas à elle seule la troisième.

Evidence exists
        ≠
Evidence directly supports every derived claim

Où l'exemple cesse de fonctionner

La Distance de preuve n'est pas simplement un décompte de phrases ou d'étapes de traitement.

Une transformation mathématiquement valide peut préserver les preuves presque parfaitement, tandis qu'une seule interprétation spéculative peut créer un saut épistémique bien plus grand.

Le concept inclut donc à la fois la distance par transformation et la distance par inférence.

Réponse directe

La distance de preuve augmente lorsqu'une affirmation dépend de plus de transformations, de plus d'hypothèses, d'une provenance plus faible ou d'une inférence plus forte que ce que les preuves sous-jacentes justifient directement.

Short distance:
source → claim

Longer distance:
source → extraction → summary → assumption → inference → claim

Une distance plus longue ne rend pas automatiquement une affirmation fausse. Cela signifie que la chaîne de raisonnement nécessite davantage de validation.

Pourquoi cela importe pour l'IA

Les LLM sont particulièrement doués pour produire des ponts fluides entre des éléments d'information. Cette capacité est utile, mais la fluidité peut masquer à quel point la conclusion s'est éloignée des preuves directement récupérées.

Une réponse peut donc sembler bien sourcée tout en contenant des affirmations dont le soutien n'existe qu'à travers plusieurs étapes inférentielles non explicitées.

Quatre composantes de la distance de preuve

1. Distance de transformation

Combien de fois les preuves originales ont-elles été converties, résumées, normalisées ou reformatées avant d'atteindre le modèle ?

2. Distance inférentielle

Combien d'étapes de raisonnement sont nécessaires avant que les preuves ne soutiennent la conclusion finale ?

3. Distance de provenance

L'énoncé récupéré peut-il encore être retracé jusqu'à une source originale identifiable, ou est-il passé par des résumés et des copies dont l'origine est incertaine ?

4. Distance d'applicabilité

Combien de raisonnement est nécessaire pour établir que les preuves s'appliquent à cette version exacte, à cet utilisateur, à cette juridiction, à cette période ou à cette situation ?

La distance de preuve dans le RAG

Le RAG peut raccourcir une distance importante : la distance entre un modèle et les connaissances externes.

Il ne raccourcit pas automatiquement la distance entre un passage récupéré et l'affirmation finale.

RAG solves:
model ↔ external information

RAG does not automatically solve:
evidence ↔ justified conclusion

Lien avec le déclencheur de récupération

Le déclencheur de récupération demande si les connaissances internes du modèle sont suffisantes.

La distance de preuve pose une question ultérieure : une fois les preuves récupérées, dans quelle mesure soutiennent-elles directement ce que le système veut affirmer ?

Need evidence?
   ↓
Retrieval Trigger
   ↓
Retrieve
   ↓
How directly does evidence support the claim?
   ↓
Evidence Distance

Un diagnostic pratique

Pour une affirmation importante générée par IA, reconstruisez la chaîne de soutien à rebours.

CLAIM
  ↑
Which inference produced it?
  ↑
Which retrieved evidence supports that inference?
  ↑
Which source produced that evidence?
  ↑
Can the original source still be inspected?

Si la chaîne se rompt, le système a rencontré un problème de traçabilité des preuves.

Si la chaîne reste intacte mais nécessite plusieurs hypothèses fortes, la distance de preuve reste élevée.

Exemple : données produit

Supposons qu'une spécification de fabricant indique qu'un ordinateur portable pèse 1,48 kg.

Manufacturer specification
→ 1.48 kg
→ "The laptop weighs 1.48 kg"

Low Evidence Distance

Considérons maintenant :

Manufacturer specification
→ 1.48 kg
→ comparison with three competitors
→ assumption about travel behavior
→ "This is the best laptop for frequent travelers"

Much higher Evidence Distance

La spécification est réelle. La recommandation est encore à plusieurs étapes de raisonnement de celle-ci.

Exemple : Preuve scientifique

Un article peut rapporter une association observée. Une réponse d'IA peut incorrectement la compresser en une déclaration causale.

Observed association
        ↓
Interpretation
        ↓
Unstated causal assumption
        ↓
"X causes Y"

Le problème n'est pas qu'aucune preuve n'existe. Le problème est que la déclaration finale franchit une distance probante plus grande que ce que l'étude soutient directement.

Connexion au contexte prêt pour les agents

Les objets d'information structurés peuvent réduire la distance probante évitable en préservant l'identité de la source, les unités, les horodatages, les conflits et la validité au lieu de forcer le modèle à les reconstruire à partir d'un texte aplati.

Une échelle de travail simple

Cette échelle est illustrative, pas une norme scientifique. Son but est de forcer une question explicite : Combien avons-nous dû ajouter entre la preuve et l'affirmation ?

Idées fausses

Une citation signifie que la distance probante est faible. Non. Une citation peut se trouver à côté d'une affirmation qui dépasse substantiellement ce que la source citée établit.

Une longue distance probante signifie que l'affirmation est fausse. Non. Des conclusions complexes peuvent être bien étayées, mais elles nécessitent une chaîne de raisonnement plus solide.

Les sources primaires éliminent l'inférence. Non. Les preuves primaires peuvent encore nécessiter une interprétation.

Plus de sources réduisent automatiquement la distance. Dix faibles répétitions de la même affirmation non étayée ne créent pas de preuve directe.

Cas limite : Données dérivées

Certaines valeurs dérivées sont plus fiables que les descriptions humaines brutes. Un total correctement calculé à partir de transactions vérifiées peut être hautement fiable, même s'il ne résulte que d'une seule transformation à partir des enregistrements originaux.

La Distance aux Preuves mesure donc la séparation épistémique, et non une préférence simpliste pour les données non modifiées.

Limites

La Distance aux Preuves est un outil de diagnostic conceptuel, et non un score quantitatif universel.

Différents domaines nécessitent un traitement différent de l'inférence. La preuve mathématique, les preuves cliniques, les journaux logiciels, l'analyse de marché et l'interprétation historique ne peuvent pas partager un seuil numérique universel unique.

Qu'est-ce qui changerait cette réponse ?

Les futurs systèmes d'IA pourraient générer des graphes de provenance explicites, des liens affirmation-preuve vérifiables par machine et des traces de raisonnement typées. Cela pourrait rendre certaines parties de la Distance aux Preuves mesurables automatiquement.

Le problème sous-jacent demeure : une affirmation peut s'éloigner de ses preuves même si chaque phrase intermédiaire semble plausible.

Conclusion

La distinction importante ne se limite pas à celle entre les réponses sourcées et non sourcées.

Elle se situe entre les affirmations qui restent proches de preuves directement inspectables et celles qui dépendent de chaînes d'interprétation et d'hypothèses de plus en plus longues.

Evidence
   ↓
Evidence Distance
   ↓
Reasoning
   ↓
Answer Validity Boundary

La Distance aux Preuves nous donne un langage pour décrire cet espace.

Sources primaires

Patrick Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020).

Nelson F. Liu et al., Lost in the Middle: How Language Models Use Long Contexts (2023).

W3C, PROV Overview. Un modèle standardisé pour représenter les relations de provenance.