Šta je RAG? Najjednostavnije objašnjenje kako funkcioniše

RAG zvuči komplikovano jer je ime komplikovano. Ideja nije. RAG jednostavno znači: pre nego što AI odgovori, prvo pronađe relevantne informacije iz izvora znanja i daje te informacije jezičkom modelu.

Zamislite LLM kao pametnu osobu koja sedi za stolom. RAG je bibliotekar koji donosi pravu stranicu iz prave knjige. LLM zatim čita tu stranicu i odgovara vam.

Prvo: šta radi LLM?

LLM je deo koji razume jezik i proizvodi jezik. Može da pročita vaše pitanje, razume instrukcije, uporedi informacije, objasni nešto i napiše odgovor.

Ali LLM ne zna automatski šta se trenutno nalazi u bazi podataka vaše kompanije, vašoj igračkoj sesiji, vašim privatnim dokumentima ili datoteci koju ste kreirali pre pet minuta.

Zna samo ono što je već unutar modela plus sve informacije koje mu aplikacija pruži u trenutnom zahtevu.

Zatim: šta je baza znanja?

Baza znanja je jednostavno informacija koju aplikacija može da pretražuje.

Može da sadrži PDF-ove, priručnike, dokumentaciju proizvoda, članke podrške, ugovore, pravila igre, podatke o oružju, interne dokumente kompanije, zapise baze podataka ili drugi tekst.

Baza znanja može biti lokalna na vašem računaru. Može biti na serveru. Može biti u vektorskoj bazi podataka. Takođe može biti izgrađena od običnih datoteka. RAG ne znači Internet.

Dakle, šta RAG zapravo radi?

To je RAG.

Puno ime je Retrieval-Augmented Generation. Retrieval znači pronalaženje relevantnih informacija. Augmented znači dodavanje tih informacija u kontekst modela. Generation znači da LLM piše konačni odgovor.

Vrlo jednostavan primer

Zamislite da imate lokalnu bazu znanja o igri.

Pitate: „Koju municiju koristi AKM?“

RAG pretražuje bazu znanja i pronalazi unos o AKM. Taj mali deo informacije daje LLM-u. LLM zatim odgovara: „AKM koristi municiju 7.62 mm.“

LLM nije bio potreban cela baza podataka. RAG je doneo samo koristan deo.

Sada važan deo: RAG nije trenutno stanje

Ovde mnoga objašnjenja postaju zbunjujuća.

RAG obično daje AI znanje. Sistem stanja daje AI činjenice o tome šta je istinito upravo sada.

Šta je baza podataka stanja?

Baza podataka stanja ili skladište stanja je jednostavno mesto gde aplikacija čuva trenutne činjenice.

U igri, engine već zna stvari kao što su vaše zdravlje, pozicija, inventar, municija, trenutna misija, obližnji objekti i status neprijatelja. AI sistem može izložiti odabrane delove tog stanja modelu.

U poslovnoj aplikaciji, ista ideja može biti baza podataka narudžbina, zapis o kupcu, status projekta ili trenutna vrednost senzora.

Stanje kreira sama aplikacija dok se stvari dešavaju. Ako izgubite zdravlje, igra ažurira vrednost zdravlja. Ako pokupite municiju, inventar se menja. Ako je narudžbina plaćena, poslovni sistem menja status narudžbine.

Kako tri dela rade zajedno

Dakle, osnovna arhitektura je:

Da li RAG uvek koristi vektorsku bazu podataka?

Ne.

Vektorska baza podataka je uobičajen način za izgradnju semantičke pretrage, ali to nije definicija RAG-a.

Važan deo je pronalaženje: sistem pronalazi relevantne spoljne informacije i dodaje ih u kontekst LLM-a pre nego što se odgovor generiše.

OpenAI-jev File Search, na primer, može da radi sa fajlovima sačuvanim u vektorskim skladištima. Fajlovi se dele na manje delove kako bi sistem mogao da pronađe delove koji su relevantni za pitanje. To je jedna implementacija iste osnovne ideje.

Šta je embedding, jednostavno rečeno?

Ne morate da razumete embedding-e da biste razumeli RAG.

Ali jednostavna verzija je ovo: embedding je numerička reprezentacija značenja. Pomaže sistemu za pretragu da pronađe tekst koji je konceptualno sličan čak i kada reči nisu potpuno iste.

Na primer, obična pretraga po ključnim rečima može da traži tačne reči „popravka automobila“. Semantička pretraga takođe može da razume da se „popravi moje vozilo“ odnosi na sličnu temu.

To čini embedding-e korisnim za RAG, ali RAG takođe može da koristi pretragu po ključnim rečima, upite baze podataka ili hibrid nekoliko metoda.

RAG takođe nije memorija

Memorija je još jedan koncept koji se često meša sa RAG-om.

Memorija je obično informacija koju sistem čuva o prethodnim interakcijama ili prethodnim događajima. RAG je mehanizam koji se koristi za pronalaženje relevantnog znanja kada je potrebno.

Pravi primer iz igre: PUBG Ally

PUBG Ally je koristan primer jer čini razliku vidljivom.

KRAFTON opisuje stanje meča uživo kao poseban izvor istine. Igra izlaže trenutne činjenice kroz alate za posmatranje: trenutno oružje, municiju, zdravlje, status sigurne zone, obližnje predmete i borbenu situaciju.

Pretraga znanja je drugačiji posao. Sistem može da koristi pripremljeno znanje o oružju, dodacima, predmetima i pravilima. NVIDIA ACE Game Agent SDK takođe izlaže poseban RAG API za pronalaženje znanja iz baza koje su napravili programeri.

To nam daje jasnu podelu: game engine kaže šta se sada dešava, pretraga obezbeđuje relevantno znanje, a jezički model odlučuje šta informacije znače.

Jedan kompletan primer

Zamislite da kažete AI saigraču: „Nisko mi je zdravlje. Treba li da napadnemo?“

RAG nije kontrolisao lika. Baza podataka o stanju nije rezonovala. LLM nije direktno menjao igru. Svaki deo je imao jedan zadatak.

Zašto uopšte koristiti RAG?

Zato što bi stavljanje svakog dokumenta, pravila i zapisa iz baze u svaki prompt bilo sporo, skupo i često zbunjujuće.

RAG omogućava sistemu da izabere samo informacije koje su korisne za trenutno pitanje.

Takođe vam omogućava da ažurirate bazu znanja bez ponovnog treniranja celog jezičkog modela. Promenite dokument ili bazu podataka, ponovo izgradite ili osvežite indeks kada je potrebno, i sledeća pretraga može da koristi novije informacije.

Šta RAG ne garantuje

RAG može da poboljša utemeljenje, ali ne čini odgovor automatski tačnim.

Korak pretrage može da pronađe pogrešan dokument. Tačan dokument može biti zastareo. LLM može da pogrešno razume dobre dokaze. Ili se trenutno stanje može promeniti.

Pouzdan sistem stoga mora odvojeno da validira pretragu, svežinu stanja i konačno rezonovanje modela.

Najlakši mentalni model za pamćenje

Zaključak

RAG je mnogo manje misteriozan kada se delovi razdvoje.

LLM razume i generiše jezik. Aplikacija održava trenutno stanje. Baza znanja čuva informacije. RAG pronalazi korisni deo tih informacija i stavlja ga u kontekst LLM-a. Alati ili aplikacija obavljaju stvarne radnje.

To je osnovna arhitektura koja stoji iza mnogih modernih AI asistenata i agenata.

Često postavljana pitanja

Pojmovnik

Primarni izvori