Kada bi AI trebalo da prestane da veruje sopstvenom znanju? — Okidač za pretragu

Pitanje

Kada AI treba da prestane da se oslanja na ono što već zna i da pre odgovaranja pribavi spoljne informacije?

Ovo pitanje izgleda jednostavno, ali se nalazi u središtu jedne od najvažnijih dizajnerskih odluka u savremenim AI sistemima.

Veliki jezički modeli sadrže značajno znanje u svojim parametrima. Generisanje uz pomoć pretrage dodaje spoljne informacije u vreme izvršavanja. Ali nijedna krajnost nije idealna.

Stalno verovanje modelu može da proizvede zastarele ili nepotkrepljene odgovore. Stalno pribavljanje informacija dodaje latenciju, troškove, irelevantan kontekst i nove mogućnosti za greške u pretrazi.

Pravi problem stoga nastupa pre RAG-a: Kada uopšte treba da se izvrši pretraga?

Ovaj članak koristi termin okidač za pretragu za tu odluku. Okidač za pretragu ovde nije predstavljen kao standardizovan termin iz istraživačke literature. To je praktičan sistemski koncept koji objedinjuje ideje već vidljive u istraživanjima o aktivnoj, adaptivnoj i samorefleksivnoj pretrazi.

Okidač za pretragu je uslov koji ukazuje da AI sistem treba da prestane da se oslanja isključivo na znanje internog modela i da pribavi spoljne dokaze pre nego što proizvede ili finalizuje odgovor.— Radna definicija

Šta to zapravo znači

LLM ima dva suštinski različita načina dobijanja informacija.

Prvi je znanje modela. To su informacije predstavljene u naučenim parametrima modela. Nije potreban upit ka bazi podataka, veb pretraga niti pretraživanje dokumenata u vreme izvršavanja.

Drugi je znanje u vreme izvršavanja. To su informacije koje se pružaju dok model radi: rezultati pretrage, zapisi iz baze podataka, dokumenti, API-ji, korisnički fajlovi, izlazi alata ili drugi pribavljeni dokazi.

RAG povezuje ova dva sveta. Ali sam RAG ne odgovara na pitanje kada ta veza treba da se aktivira. Za to služi okidač za pretragu.

Question
   ↓
Model Knowledge
   ↓
Is internal knowledge sufficient?
   ↓
Retrieval Trigger
   ↓
External Retrieval, if required
   ↓
Evidence
   ↓
Reasoning
   ↓
Answer Validity Boundary
   ↓
Answer

Okidač za pretragu stoga nastupa pre pretrage. Granica valjanosti odgovora nastupa kasnije.

Prvi pita: Da li su mi potrebni spoljni dokazi?

Drugi pita: Da li sada imam dovoljno dokaza da potkrepim ovaj odgovor?

Ovo su povezane odluke, ali nisu ista odluka.

Najjednostavniji primer

Razmotrite tri pitanja.

Prvo pitanje se zasniva na veoma stabilnoj činjenici.

User
↓
"What is the capital of France?"

Model knowledge
↓
Paris

Fresh external evidence required?
↓
No

Answer
↓
Paris

Preuzimanje dokumenata pre odgovaranja obično bi dodalo malo vrednosti.

Sada razmotrite pitanje čiji se odgovor neprekidno menja.

User
↓
"What is the current NVIDIA stock price?"

Model knowledge
↓
Potentially outdated

Current information required?
↓
Yes

RETRIEVAL TRIGGER
↓
Market data / search / API
↓
Answer

Model može znati mnogo o NVIDIA. To ne znači da zna cenu sada.

Treći primer je još važniji.

User
↓
"Does this new scientific paper prove that X causes Y?"

Model knowledge
↓
Can reason about causality,
statistics and scientific methodology.

But:
the actual evidence is not available internally.

RETRIEVAL TRIGGER
↓
Retrieve the paper
↓
Inspect methodology
↓
Inspect results
↓
Compare claim with evidence
↓
Answer Validity Boundary
↓
Answer

Sposobnost zaključivanja modela može biti savršeno korisna. Nedostaje komponenta dokaza.

Ta razlika je fundamentalna.

Gde primer prestaje da funkcioniše

Gornji primeri čine da odluka izgleda binarno: preuzmi ili ne preuzimaj.

Stvarni sistemi su složeniji. Pitanje može sadržati nekoliko tvrdnji, neke stabilne, a neke aktuelne. Preuzeti dokumenti mogu se ne slagati. Pretraživač može vratiti irelevantne informacije. Relevantne informacije mogu postojati, ali ne uspeti da se rangiraju dovoljno visoko. Dokument može biti autoritativan, ali zastareo.

Sama pretraga takođe može uneti netačan kontekst u inače razuman odgovor.

Zbog toga pretragu ne treba tretirati kao automatski sinonim za istinu.

Istraživanje o adaptivnoj pretrazi sve se više udaljava od pretpostavke da svaki upit treba da dobije istu strategiju pretrage.

Self-RAG, na primer, eksplicitno istražuje pretragu na zahtev, umesto da neselektivno preuzima fiksni broj odlomaka za svaki unos. Autori raspravljaju o tome kako nepotrebna ili irelevantna pretraga može smanjiti kvalitet odgovora.

Adaptive-RAG na sličan način bira između pretrage bez pretrage, jednostepene pretrage i složenijih strategija pretrage u zavisnosti od složenosti pitanja.

Dakle, važno pitanje nije: Da li ovaj sistem ima RAG?

Već: Može li ovaj sistem da prepozna kada je pretraga neophodna i koja vrsta pretrage je odgovarajuća?

Direktan odgovor

AI treba da pokrene pretragu kada odgovaranje zahteva informacije koje njegovo interno znanje modela ne može bezbedno da pruži sa potrebnom svežinom, specifičnošću, poreklom ili dokaznom podrškom.

U praktičnim sistemima, okidač za pretragu može proizaći iz nekoliko uslova:

Need for current information
        OR
Need for exact source-specific information
        OR
Need for evidence or provenance
        OR
Need for private/user-specific information
        OR
Insufficient knowledge coverage
        OR
Conflicting evidence
        OR
High consequence of factual error

Ako nijedan od ovih uslova nije materijalno prisutan, pretraga može biti nepotrebna. Ako je jedan ili više njih prisutno, spoljni dokazi postaju deo procesa generisanja odgovora.

Zašto je to tako

Interno znanje jezičkog modela često se opisuje kao parametarsko znanje. Ono je naučeno tokom obuke i kodirano u parametre modela.

Originalni RAG rad Lewisa i saradnika predstavio je pretragu kao kombinaciju ove parametarske memorije sa spoljnom, neparametarskom memorijom. Spoljna memorija može se pretraživati i ažurirati bez ponovnog obučavanja celokupnog jezičkog modela.

Ova razlika stvara neizbežan sistemski problem.

Model može da zna stvari. Ali model ne može pretpostaviti da je sve što zna aktuelno, potpuno, dovoljno specifično i potkrepljeno potrebnim dokazima.

Model stoga može proizvesti lingvistički uverljiv odgovor, a da pritom posluje izvan tačke u kojoj je njegovo interno znanje dovoljno.

Ta tačka je mesto gde okidač za pretragu postaje koristan.

Kontekst

Tradicionalni RAG često izgleda ovako:

Question
↓
Retrieve documents
↓
Add documents to context
↓
Generate answer

Ova arhitektura pretpostavlja pretragu pre generisanja. To dobro funkcioniše za mnoge aplikacije intenzivne znanjem, ali može izvršiti i nepotrebnu pretragu.

Napredniji pristupi uvode adaptivni korak:

Question
↓
Evaluate information requirement
↓
        ┌───────────────┐
        │               │
   no retrieval      retrieval
        │               │
        ↓               ↓
 model knowledge    external evidence
        │               │
        └───────┬───────┘
                ↓
              answer

FLARE ide dalje razmatrajući pretragu tokom samog generisanja. Koristi predstojeće generisanje i tokene niske pouzdanosti kao signale za preuzimanje dodatnih informacija.

Self-RAG na sličan način uvodi mehanizme koji omogućavaju pretrazi, generisanju i kritici da interaguju umesto da se pretraga tretira kao bezuslovni korak predobrade.

Adaptive-RAG pristupa istom širem problemu iz ugla složenosti upita: različita pitanja mogu zahtevati različite strategije pretrage.

Ovi pristupi se tehnički razlikuju. Ali otkrivaju isti arhitektonski uvid: Pretraga bi trebalo da bude odluka, a ne samo trajni prekidač.

Pretpostavke

Okvir Retrieval Trigger pretpostavlja da sistem ima pristup najmanje jednom eksternom izvoru informacija kada je pretraga potrebna.

Taj izvor može biti web pretraga, skladište dokumenata, vektorska baza podataka, SQL baza podataka, graf znanja, API, poslovni sistem, dokument koji je otpremio korisnik ili izlaz alata.

Takođe pretpostavlja da pretraga ima cenu. Ta cena ne mora biti finansijska.

Pretraga uvodi latenciju, potrošnju tokena, korišćenje konteksta, složenost infrastrukture i mogućnost preuzimanja obmanjujućih informacija.

Optimalni sistem stoga ne maksimizuje pretragu. On maksimizuje odgovarajuću pretragu.

Promenljive

Praktični Retrieval Trigger može razmotriti pet primarnih promenljivih.

Svežina

Kolika je verovatnoća da su tražene informacije promenjene? Glavni grad Francuske ima veoma nisku volatilnost. Cena akcija ima izuzetno visoku volatilnost.

Specifičnost

Da li pitanje zahteva informacije iz određenog izvora, dokumenta, organizacije, naloga ili skupa podataka? Ako korisnik pita šta piše u konkretnom ugovoru, opšte znanje modela je irelevantno. Ugovor mora biti pronađen.

Zahtev za dokazima

Da li odgovor zahteva poreklo? Model može znati da je tvrdnja opšteprihvaćena, ali i dalje može biti potreban izvor kada zadatak zahteva verifikaciju.

Pokrivenost znanja

Da li je verovatno da je tema adekvatno zastupljena u internom znanju modela? Retke, vlasničke, visoko lokalne ili novoobjavljene informacije stvaraju veći pritisak za pretragu.

Posledica greške

Nema svaki netačan odgovor isti uticaj. Kada faktografska tačnost materijalno utiče na odluku, prihvatljiv prag dokaza može biti viši.

Ove promenljive ne moraju biti implementirane kao doslovne numeričke ocene. One opisuju površinu odlučivanja.

Dijagnostička / metoda odlučivanja

Vrlo jednostavan okidač za pretragu može se implementirati bez mašinskog učenja.

def should_retrieve(
    time_sensitive=False,
    source_specific=False,
    evidence_required=False,
    private_context=False,
    knowledge_uncertain=False,
    conflicting_information=False
):
    return any([
        time_sensitive,
        source_specific,
        evidence_required,
        private_context,
        knowledge_uncertain,
        conflicting_information,
    ])

Za stabilno faktografsko pitanje:

should_retrieve()
# False

Za trenutnu cenu akcija:

should_retrieve(
    time_sensitive=True
)
# True

Za naučnu tvrdnju:

should_retrieve(
    source_specific=True,
    evidence_required=True
)
# True

Proizvodni sistemi mogu ovu odluku učiniti daleko sofisticiranijom. Klasifikator bi mogao da predvidi zahteve za pretragu. Model bi mogao da emituje specijalne kontrolne tokene. Ruter bi mogao da klasifikuje složenost upita. Pretraga bi takođe mogla biti pokrenuta više puta tokom generisanja.

Implementacija se može promeniti. Arhitektonsko pitanje ostaje isto:

Da li su dokazi trenutno dostupni modelu dovoljni za odgovor koji će proizvesti?

Dokazi

Koncept predložen ovde je u skladu sa nekoliko pravaca istraživanja pretrage.

Originalna RAG arhitektura pokazala je korisnost kombinovanja parametarskog znanja modela sa eksternim neparametarskim znanjem, posebno za zadatke intenzivne znanjem.

FLARE eksplicitno istražuje aktivnu pretragu tokom generisanja, uključujući pretragu podstaknutu sadržajem koji sledi sa niskom pouzdanošću.

Self-RAG demonstrira arhitekturu u kojoj se pretraga može obaviti na zahtev i nakon koje sledi refleksija o pronađenim odlomcima i generisanom sadržaju.

Adaptive-RAG dinamički bira između različitih strategija u zavisnosti od složenosti pitanja, uključujući situacije kada pretraga nije potrebna.

Termin Retrieval Trigger se ovde koristi kao apstrakcija na nivou sistema nad ovom širom familijom odluka.

Ne tvrdi se da ovi radovi koriste istu terminologiju. Umesto toga, identifikuje se zajednički arhitektonski problem: Šta uzrokuje da AI sistem pređe sa internog znanja na eksterne dokaze?

Stvarni primeri

Razmotrite asistenta za podršku povezanog sa dokumentacijom kompanije.

"How do I reset my password?"

Ako je procedura stabilna i pouzdano predstavljena u trenutnim instrukcijama asistenta, direktno odgovaranje može biti prikladno.

"What permissions does my account currently have?"

Ta informacija je specifična za korisnika i dinamična. Okidač za preuzimanje se aktivira. Sistem mora da pregleda stvarne podatke o nalogu ili autorizaciji.

"Why was my production deployment rejected yesterday?"

Model može da razume sisteme za raspoređivanje i objasni uobičajene razloge. Ali pitanje se odnosi na konkretan događaj. Potrebni su dnevnici, CI/CD izlaz ili zapisi o incidentima.

Ista logika važi i za web pretragu.

"What is RAG?"

Opšte objašnjenje možda ne zahteva preuzimanje.

"What did the authors of Self-RAG specifically conclude about unnecessary retrieval?"

Sada su potrebni dokazi specifični za izvor.

"What is the latest research on adaptive retrieval?"

Ovo uvodi i zahtev za svežinom. Osnovna tema se nije promenila. Zahtev za informacijom jeste.

Uobičajene zablude i načini neuspeha

Više preuzimanja automatski proizvodi bolji odgovor. Ne. Irelevantni dokumenti troše kontekst i mogu da odvrate generisanje.

Visoka pouzdanost modela znači da preuzimanje nije potrebno. Model može samouvereno da proizvede netačan odgovor. Samoprijavljena pouzdanost stoga ne treba da se tretira kao jedini okidač.

Uspešno preuzimanje znači da je odgovor verifikovan. Preuzimanje samo pruža kandidatske dokaze. Dokazi i dalje moraju biti relevantni, dovoljno autoritativni i ispravno interpretirani.

RAG automatski rešava zastarelo znanje. To čini samo ako sam korpus za preuzimanje sadrži ažurne informacije. Preuzimanje zastarelog dokumenta ne stvara ažuran odgovor.

Jedan korak preuzimanja je uvek dovoljan. Složena pitanja mogu zahtevati nekoliko dokaza ili iterativno preuzimanje.

Rubni slučajevi

Neka pitanja sadrže i stabilne i nestabilne informacije.

"Who founded NVIDIA, and what is its market capitalization today?"

Prvi deo možda može da se odgovori na osnovu stabilnog znanja modela. Drugi deo zahteva aktuelne informacije.

Dovoljno sposoban sistem ne bi trebalo nužno da tretira ceo upit kao jednu odluku o pretraživanju. Može da pokrene pretraživanje samo tamo gde je potrebno.

Još jedan granični slučaj je neslaganje između izvora. Pretpostavimo da pretraživanje vrati tri dokumenta koji daju nekompatibilne tvrdnje.

Okidač za pretraživanje je već uspeo: sistem je prepoznao da su spoljni dokazi bili potrebni. Ali zadatak nije završen.

Sistem je sada došao do problema procene dokaza. Tu granica valjanosti odgovora postaje važna.

Sistem je možda preuzeo informacije i još uvek ne poseduje dovoljno dokaza da donese čvrst zaključak.

Retrieval Trigger
≠
permission to answer

Okidač pribavlja dokaze. Granica valjanosti određuje da li su ti dokazi dovoljni.

Ograničenja

Okidač za pretraživanje je konceptualni okvir, a ne univerzalni algoritam.

Različiti sistemi će zahtevati različita pravila okidanja. Bot za korisničku podršku, asistent za naučna istraživanja, pretraživač i autonomni softverski agent nemaju identične zahteve za dokazima.

Pragovi okidanja takođe mogu da stvore sopstvene načine neuspeha. Prag koji je prenizak izaziva prekomerno pretraživanje. Prag koji je previsok izaziva nepotkrepljeno odgovaranje.

Sama infrastruktura za pretraživanje je takođe važna. Savršen okidač povezan sa lošom kolekcijom izvora i dalje proizvodi loše dokaze.

Slično tome, odlična baza znanja pruža malu vrednost ako se okidač nikada ne aktivira kada je potreban.

Okidač za pretraživanje stoga rešava samo jedan deo veće arhitekture.

Šta bi promenilo ovaj odgovor?

Budući modeli mogu da sadrže bolje mehanizme za identifikovanje sopstvenih ograničenja znanja. Pretraživači mogu postati jeftiniji i brži. Sistemi sa dugim kontekstom mogu neprekidno da nose mnogo više izvornog materijala.

Modeli takođe mogu sve više kombinovati pretragu, baze podataka, alate i strukturisano znanje bez izlaganja posebne RAG faze programeru aplikacije.

Ove promene mogu izmeniti način na koji se trigger implementira. One ne uklanjaju nužno osnovnu odluku.

Sve dok postoji razlika između informacija koje su modelu već dostupne i informacija koje se moraju pribaviti spolja, sistemu je i dalje potreban neki mehanizam za određivanje kada da pređe tu granicu.

Implementacija može nestati iz vida. Arhitektonsko pitanje ostaje.

Zaključak

RAG počinje previše kasno da bi objasnio ceo problem.

Pre nego što pretraga može da se dogodi, AI sistem mora da utvrdi da li je pretraga neophodna. Ta odluka je Retrieval Trigger.

Stable known fact
→ answer from model knowledge

Current fact
→ retrieve

Source-specific or evidence-dependent claim
→ retrieve and verify

Ali šira implikacija je važnija. Pouzdan AI ne zahteva samo pristup znanju. Potreban mu je metod za određivanje kada je njegovo trenutno znanje nedovoljno.

Model Knowledge
        ↓
Retrieval Trigger
        ↓
Runtime Knowledge / RAG
        ↓
Evidence
        ↓
Reasoning
        ↓
Answer Validity Boundary
        ↓
Answer

Retrieval Trigger određuje kada sistem treba da traži dokaze. Answer Validity Boundary određuje da li su ti dokazi dovoljni.

Zajedno opisuju nešto korisnije od samog RAG-a: proces odlučivanja za prelazak od onoga što AI izgleda da zna ka onome što zaista može da podrži.

Primarni izvori

Patrick Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020). Temeljni RAG rad koji opisuje kombinaciju parametarske memorije modela sa spoljašnjom neparametarskom memorijom.

Zhengbao Jiang et al., Active Retrieval Augmented Generation (2023). Uvodi FLARE i aktivnu pretragu tokom generisanja, uključujući pretragu zasnovanu na predviđenom sadržaju niske pouzdanosti.

Akari Asai et al., Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection (2023). Istražuje adaptivnu pretragu na zahtev i samorefleksiju umesto bezuslovne fiksne pretrage.

Soyeong Jeong et al., Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity (2024). Dinamički bira između bez pretrage, jednostepene pretrage i složenijih strategija pretrage u skladu sa pristiglim pitanjem.