Koliko je tvrdnja o AI udaljena od dokaza? — Udaljenost dokaza

Pitanje

Dva AI odgovora mogu oba citirati izvore i ipak se znatno razlikovati u tome koliko direktno ti izvori podržavaju tvrdnje koje se iznose. Kako možemo opisati tu razliku?

Ovaj članak koristi termin Distanca dokaza za udaljenost između tvrdnje i direktno proverljivih dokaza koji je podržavaju.

Distanca dokaza je broj i snaga transformacija, pretpostavki i inferencijalnih koraka koji razdvajaju tvrdnju od dokaza koji je mogu direktno verifikovati.— Radna definicija — koncept rezonovanja predstavljen ovde, a ne standardizovana metrika.

Šta to zapravo znači

Citiranje dokazuje da je izvor referenciran. Ono automatski ne dokazuje da izvor direktno podržava rečenicu pored citata.

Između originalnog opažanja i konačnog AI odgovora mogu postojati ekstrakcija, parsiranje, deljenje na delove, pronalaženje, sažimanje, interpretacija, agregacija i zaključivanje.

Primary evidence
   ↓
Extracted data
   ↓
Retrieved passage
   ↓
Summary
   ↓
Interpretation
   ↓
Inference
   ↓
Final claim

Svaki korak može biti legitiman. Ali svaki korak takođe može uneti izobličenje.

Najjednostavniji primer

Pretpostavimo da temperaturni senzor prijavljuje 38,2 °C.

Originalna vrednost senzora direktno podržava prvu tvrdnju. Ona sama po sebi ne dokazuje treću.

Evidence exists
        ≠
Evidence directly supports every derived claim

Gde primer prestaje da funkcioniše

Distanca dokaza nije jednostavno brojanje rečenica ili koraka obrade.

Jedna matematički validna transformacija može gotovo savršeno sačuvati dokaze, dok jedna spekulativna interpretacija može stvoriti mnogo veći epistemički skok.

Koncept stoga uključuje i distancu po transformaciji i distancu po zaključivanju.

Direktan odgovor

Distanca dokaza se povećava kada tvrdnja zavisi od više transformacija, više pretpostavki, slabijeg porekla ili jače inferencije nego što osnovni dokazi direktno opravdavaju.

Short distance:
source → claim

Longer distance:
source → extraction → summary → assumption → inference → claim

Duža distanca ne čini tvrdnju automatski netačnom. To znači da lanac zaključivanja zahteva više validacije.

Zašto je ovo važno za AI

LLM-ovi su posebno dobri u stvaranju tečnih veza između delova informacija. Ta sposobnost je korisna, ali tečnost može sakriti koliko se zaključak udaljio od direktno preuzetih dokaza.

Odgovor stoga može izgledati dobro potkrepljen dok sadrži tvrdnje čija podrška postoji samo kroz nekoliko neizrečenih inferencijskih koraka.

Četiri komponente distance dokaza

1. Transformaciona distanca

Koliko puta su originalni dokazi konvertovani, sažeti, normalizovani ili preformatirani pre nego što su stigli do modela?

2. Inferencijska distanca

Koliko je koraka zaključivanja potrebno pre nego što dokazi podrže konačni zaključak?

3. Distanca porekla

Može li se preuzeta izjava još uvek pratiti do prepoznatljivog originalnog izvora, ili je prošla kroz sažetke i kopije čije je poreklo nejasno?

4. Distanca primenljivosti

Koliko je zaključivanja potrebno da bi se utvrdilo da se dokazi odnose na ovu tačnu verziju, korisnika, jurisdikciju, vremenski period ili situaciju?

Distanca dokaza u RAG-u

RAG može skratiti jednu važnu distancu: distancu između modela i eksternog znanja.

Ne skraćuje automatski distancu između pronađenog odlomka i konačne tvrdnje.

RAG solves:
model ↔ external information

RAG does not automatically solve:
evidence ↔ justified conclusion

Veza sa okidačem za pretragu

Okidač za pretragu pita da li je interno znanje modela dovoljno.

Distanca dokaza postavlja kasnije pitanje: nakon što su dokazi pronađeni, koliko direktno podržavaju ono što sistem želi da tvrdi?

Need evidence?
   ↓
Retrieval Trigger
   ↓
Retrieve
   ↓
How directly does evidence support the claim?
   ↓
Evidence Distance

Praktična dijagnostika

Za važnu tvrdnju koju je generisao AI, rekonstruišite lanac podrške unazad.

CLAIM
  ↑
Which inference produced it?
  ↑
Which retrieved evidence supports that inference?
  ↑
Which source produced that evidence?
  ↑
Can the original source still be inspected?

Ako se lanac prekine, sistem se suočio sa problemom sledljivosti dokaza.

Ako lanac ostane netaknut ali zahteva nekoliko jakih pretpostavki, distanca dokaza je i dalje visoka.

Primer: Podaci o proizvodu

Pretpostavimo da specifikacija proizvođača kaže da laptop teži 1,48 kg.

Manufacturer specification
→ 1.48 kg
→ "The laptop weighs 1.48 kg"

Low Evidence Distance

Sada razmotrite:

Manufacturer specification
→ 1.48 kg
→ comparison with three competitors
→ assumption about travel behavior
→ "This is the best laptop for frequent travelers"

Much higher Evidence Distance

Specifikacija je stvarna. Preporuka je još uvek nekoliko koraka zaključivanja udaljena od nje.

Primer: Naučni dokazi

Rad može prijaviti uočenu asocijaciju. AI odgovor to može pogrešno sažeti u kauzalnu izjavu.

Observed association
        ↓
Interpretation
        ↓
Unstated causal assumption
        ↓
"X causes Y"

Problem nije u tome što ne postoje dokazi. Problem je u tome što konačna izjava prelazi veću dokaznu distancu nego što je studija direktno podržava.

Veza sa kontekstom spremnim za agente

Strukturirani informacioni objekti mogu smanjiti izbegljivu dokaznu distancu očuvanjem identiteta izvora, jedinica, vremenskih oznaka, konflikata i validnosti umesto prisiljavanja modela da ih rekonstruiše iz spljoštenog teksta.

Jednostavna radna skala

Ova skala je ilustrativna, a ne naučni standard. Njena svrha je da nametne eksplicitno pitanje: Koliko smo morali dodati između dokaza i tvrdnje?

Pogrešne predstave

Citiranje znači da je dokazna distanca niska. Ne. Citat može stajati pored tvrdnje koja znatno prevazilazi ono što citirani izvor utvrđuje.

Dugačka dokazna distanca znači da je tvrdnja pogrešna. Ne. Složeni zaključci mogu biti dobro potkrepljeni, ali zahtevaju jači lanac zaključivanja.

Primarni izvori eliminišu zaključivanje. Ne. Primarni dokazi i dalje mogu zahtevati interpretaciju.

Više izvora automatski smanjuje distancu. Deset slabih ponavljanja iste nepotkrepljene tvrdnje ne stvara direktne dokaze.

Granični slučaj: Izvedeni podaci

Neke izvedene vrednosti su pouzdanije od sirovih ljudskih opisa. Ispravno izračunat zbir iz verifikovanih transakcija može biti veoma pouzdan iako je samo jedna transformacija udaljen od originalnih zapisa.

Rastojanje dokaza stoga meri epistemičku razdvojenost, a ne pojednostavljenu sklonost ka netaknutim podacima.

Ograničenja

Rastojanje dokaza je konceptualni dijagnostički alat, a ne univerzalni kvantitativni rezultat.

Različite oblasti zahtevaju različit tretman zaključivanja. Matematički dokaz, klinički dokazi, softverski dnevnici, analiza tržišta i istorijska interpretacija ne mogu deliti jedan univerzalni numerički prag.

Šta bi promenilo ovaj odgovor?

Budući AI sistemi mogu generisati eksplicitne grafove porekla, mašinski proverljive veze tvrdnji i dokaza i tipizirane tragove zaključivanja. To bi moglo učiniti delove Rastojanja dokaza automatski merljivim.

Osnovni problem ostaje: tvrdnja može da se udalji od svojih dokaza čak i dok svaka međukoraka zvuči uverljivo.

Zaključak

Važna razlika nije samo između odgovora sa izvorima i onih bez izvora.

Ona je između tvrdnji koje ostaju blizu direktno proverljivih dokaza i tvrdnji koje zavise od sve dužih lanaca interpretacije i pretpostavki.

Evidence
   ↓
Evidence Distance
   ↓
Reasoning
   ↓
Answer Validity Boundary

Rastojanje dokaza nam daje jezik za opisivanje tog prostora.

Primarni izvori

Patrick Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020).

Nelson F. Liu et al., Lost in the Middle: How Language Models Use Long Contexts (2023).

W3C, PROV Overview. Standardizovani model za predstavljanje odnosa porekla.