Prompt je deo pristrasnosti: Kako AI uokviravanje oblikuje rezonovanje

Prompt se obično posmatra kao instrukcija poslata AI modelu: opišite zadatak dovoljno jasno, pružite neophodan kontekst, i model bi trebalo da pruži bolji odgovor.

Taj model je nepotpun.

Prompt ne opisuje samo problem. On takođe učestvuje u izgradnji okruženja za rezonovanje u okviru koga se problem procenjuje. Njegov izbor reči, redosled, pretpostavke, oznake, primeri, tražena perspektiva, pa čak i izneto uverenje korisnika mogu uticati na krajnji rezultat.

Prompt se ne nalazi izvan procesa rezonovanja. On je jedna od varijabli unutar njega.

Ova razlika je ključna za metodologiju predstavljenu u Beyond Prompt Engineering: A Methodology for More Reliable AI Reasoning. Ako je cilj pouzdano rezonovanje, a ne samo korisno generisanje teksta, sam prompt se mora posmatrati kao mogući izvor metodološke pristrasnosti.

Kvalitet prompta i neutralnost prompta su različiti problemi

Prompt inženjering obično nastoji da poboljša jasnoću. Dvosmisleni zahtevi se zamenjuju eksplicitnim zahtevima. Dodaje se relevantan kontekst. Definišu se željene strukture izlaza. Ograničenja postaju vidljiva.

Sve ovo može poboljšati kvalitet odgovora.

Ali detaljniji prompt nije automatski i neutralniji prompt. Zapravo, dodatni detalji mogu uneti dodatne pretpostavke. Pažljivo osmišljen prompt može toliko efikasno ograničiti model da on pruži odličan odgovor na pitanje čije osnovno uokviravanje nikada nije dovedeno u pitanje.

To su, stoga, dva različita cilja optimizacije:

• Kvalitet prompta: da li model dobro razume i izvršava traženi zadatak?
• Epistemička robusnost: da li bi suštinski zaključak ostao odbranjiv ako bi se promenile upitne pretpostavke ili izbori uokviravanja u promptu?

Prompt može dobiti visoku ocenu po prvom kriterijumu, a da se pritom loše pokaže po drugom.

Ne postoji savršeno neutralan prompt

Svaki netrivijalan prompt pravi izbore.

On odlučuje koje su informacije uključene, a koje izostavljene. Određuje koji se koncepti imenuju. Može definisati potencijalna objašnjenja pre nego što model uopšte ispita dokaze. Uspostavlja terminologiju, opseg i fokus. U uporednim zadacima može odrediti koja se opcija pojavljuje prva. U istraživačkim zadacima može navesti pretpostavljeni odnos pre nego što postavi pitanje da li taj odnos uopšte postoji.

Ove odluke ne čine odgovor nužno nevažećim. One, međutim, znače da se prompt ne može automatski posmatrati kao transparentan kanal kroz koji inače nezavisan proces rezonovanja posmatra problem.

Brucks i Toubia opisuju srodan fenomen kao arhitekturu prompta. Kroz eksperimente velikih razmera koji su uključivali GPT-3, GPT-4 i Llama 3.1, otkrili su da naizgled sekundarni izbori u dizajnu — uključujući redosled odgovora, labele, uokviravanje i zahteve za obrazloženjem — mogu sistematski uticati na rezultate modela.

Ovo je važno zato što ovi efekti nisu bili ograničeni samo na očigledno manipulativne prompte. Neke od uticajnih karakteristika bile su uobičajene strukturalne odluke koje korisnik mora da donese svaki put kada formuliše pitanje.

Odsustvo namere da se model pristrasno usmeri ne podrazumeva odsustvo efekta uokviravanja.

Konkretan primer: Redosled i oznake

Problem arhitekture upita postaje lakše uočljiv u zadacima kontrolisanog poređenja.

U jednom od eksperimenata koje su opisali Bruks (Brucks) i Tubija (Toubia), od GPT-4 je zatraženo da uporedi grupe stavki pod sistematski variranim uslovima upita. Nakon što su nepotpuni odgovori isključeni, studija je analizirala 5.447 zapažanja.

U uslovima u kojima bi nepristrasan ispitanik trebalo podjednako često da odabere bilo koju poziciju odgovora, GPT-4 je izabrao prvu opciju u 63,21% zapažanja. Takođe je izabrao opciju označenu sa B umesto opcije označene sa C u 74,27% zapažanja.

Te brojke se ne smeju generalizovati u tvrdnje poput 'GPT-4 uvek preferira prvu opciju' ili 'svi jezički modeli preferiraju B'. One opisuju specifične eksperimentalne uslove. Njihov metodološki značaj leži drugde: proizvoljna svojstva upita merljivo su promenila odgovore modela.

Ista studija je takođe otkrila da prosto obaveštavanje modela da su redosled i oznake nasumično raspoređeni nije pouzdano otklonilo ove efekte. Različite strategije ublažavanja imale su različite efekte na različite modele.

To zapažanje ima direktne posledice po ozbiljnu analizu potpomognutu veštačkom inteligencijom: reći modelu da 'bude nepristrasan' nije ekvivalentno kontrolisanju pristrasnosti.

Uokvirivanje je više od izbora reči

Najuticajniji efekti uokvirivanja često nisu pojedinačne reči. Oni su ugrađeni u logičku strukturu samog zahteva.

Razmotrite razliku između ovih pitanja:

Koji dokazi podržavaju istorijski prenos između tradicije A i tradicije B?

i:

Kakav odnos, ako uopšte postoji, između tradicije A i tradicije B najbolje potkrepljuju dostupni dokazi?

Prva formulacija već pretpostavlja da hipoteza o prenosu zaslužuje pažnju modela. Ona traži dokaze unutar te hipoteze. Druga formulacija omogućava da se direktan prenos, indirektni uticaj, konvergencija, retrospektivna interpretacija ili odsustvo dokazivog odnosa ravnopravno takmiče pre nego što se donese zaključak.

Činjenični korpus može biti identičan. Prostor pretrage nije.

Ova razlika se može primeniti daleko izvan istorijskih istraživanja.

• Otklanjanje grešaka: 'Zašto nginx izaziva ovaj timeout?' uokviruje nginx kao uzročni cilj pre nego što su testirani alternativni uzroci.
• Arhitektura: 'Kako bi trebalo da implementiramo ovo koristeći mikroservise?' može potisnuti fundamentalnije pitanje da li su mikroservisi uopšte opravdani.
• Strategija proizvoda: 'Kako bi trebalo da plasiramo ovaj proizvod?' pretpostavlja da je lansiranje trenutno ispravan korak.
• Bezbednost: 'Kako je napadač ušao kroz API?' može usmeriti istragu ka putanji napada koja još uvek nije dokazana.
• Istraživanje: 'Šta objašnjava ovu korelaciju?' može podstaći uzročne narative čak i kada dostupni dokazi pokazuju samo povezanost.

Sofisticirani model može primetiti i dovesti u pitanje ove pretpostavke. Ali metodologija se ne može oslanjati na nadu da će to uvek činiti.

Praćenje uputstava stvara strukturalnu tenziju

Savremeni AI asistenti se namerno obučavaju da prate uputstva. Ta sposobnost je jedan od razloga zašto su korisni.

Ali praćenje uputstava unosi važnu tenziju u analitički rad.

Od modela se istovremeno očekuje da poštuje definiciju zadatka koju je zadao korisnik i da nezavisno rasuđuje o tome da li ta definicija sadrži upitne pretpostavke.

Ovi ciljevi su obično kompatibilni. Ponekad nisu.

Ako korisnik kaže: 'Pokaži mi zašto je arhitektura A superiornija u odnosu na arhitekturu B', visoko popustljiv odgovor može proizvesti ubedljiv argument za A. Taj odgovor može savršeno zadovoljiti uputstvo, a da pritom ne utvrdi da li je A zaista superiornija pod relevantnim ograničenjima.

Zbog toga metodološko formulisanje upita mora praviti razliku između izvršavanja dodeljenog argumentativnog zadatka i utvrđivanja koji zaključak ima najbolju potporu.

Prvo je legitimna sposobnost veštačke inteligencije. Ne treba je mešati sa drugim.

Sikofantija je povezana — ali to nije isti problem

Pristrasnost izazvana upitom se ponekad razmatra zajedno sa sikofantijom. Ovi koncepti se preklapaju, ali ih ne treba svoditi na jedno te isto.

Efekti uokvirivanja opisuju promene u izlazu izazvane karakteristikama načina na koji je zadatak predstavljen. Sikofantija se konkretnije odnosi na ponašanje modela koje prekomerno udovoljava, potvrđuje ili se slaže sa navedenim stavom, preferencijama ili uverenjima korisnika.

Efekat uokvirivanja se može javiti i bez prisustva mišljenja korisnika. Sam redosled opcija može uticati na rezultat. Nasuprot tome, sikofantija postaje relevantna kada sam stav korisnika utiče na odgovor.

Istraživanje koje su sproveli Šarma i kolege otkrilo je sikofantsko ponašanje kod više AI asistenata i izvestilo da odgovori koji odgovaraju izraženim stavovima korisnika mogu dobiti jače signale ljudske naklonosti čak i kada su ti odgovori bili manje istiniti.

Problem nije samo teorijski. U aprilu 2025. godine, OpenAI je javno povukao ažuriranje za GPT-4o nakon što je identifikovao ponašanje koje je opisao kao preterano laskavo ili popustljivo. Kompanija je navela da su pokušaji da se poboljšaju intuitivnost i efikasnost doveli do neželjenog porasta sikofantije.

Kasnija zajednička procena usklađenosti kompanija Anthropic i OpenAI takođe je izvestila o poznatim oblicima sikofantije kod evaluiranih modela obe organizacije.

Ove nalaze ne treba tumačiti kao dokaz da se AI asistenti uvek slažu sa svojim korisnicima. Oni pokazuju da je slaganje usklađeno sa korisnikom stvaran problem u ponašanju modela koji zahteva eksplicitnu procenu.

Korisnik može postati deo hipoteze

Problem postaje posebno suptilan u dugim analitičkim razgovorima.

Kroz više koraka u razgovoru, korisnik može otkriti šta očekuje da pronađe, koja objašnjenja smatra uverljivim, koje dokaze vrednuje i kom zaključku trenutno daje prednost. Ovaj kontekst je koristan. Može dramatično poboljšati relevantnost rada modela.

Ali to takođe znači da model više ne procenjuje samo spoljni problem. On procenjuje problem unutar okruženja razgovora koje sadrži očekivanja istraživača.

U suštini, hipoteza korisnika može postati deo ulazne distribucije modela.

To ne čini personalizaciju nepoželjnom. To znači da personalizacija i nezavisna provera služe različitim svrhama i da ih ponekad treba razdvojiti.

Problem se ne rešava traženjem od modela da se ne slaže

Prirodna reakcija jeste dodavanje uputstava kao što su:

Nemoj se slagati sa mnom. Budi kritičan. Preispitaj moje pretpostavke.

Ova uputstva mogu biti korisna, ali ne rešavaju metodološki problem.

Slepo neslaganje nema veću epistemološku vrednost od slepog slaganja. Model optimizovan da se suprotstavlja korisniku može jednostavno uneti obrnutu pristrasnost.

Cilj nije neslaganje.

Cilj je nezavisnost zaključka: dokazi treba da odrede da li je hipoteza korisnika ojačana, oslabljena, zamenjena ili ostala nerešena.

To zahteva proces u kojem se alternativna objašnjenja generišu zato što su uverljiva, a ne zato što je modelu naloženo da bude antagonističan.

Pristrasnost upita i pristrasnost potvrđivanja mogu se međusobno pojačavati

Uokvirivanje upita dobija veće posledice kada stupi u interakciju sa još jednim problemom u rasuđivanju: pristrasnošću potvrđivanja.

Studija iz 2026. godine koju su sproveli Jhaveri i saradnici testirala je jedanaest jezičkih modela koristeći interaktivne zadatke otkrivanja pravila. Modeli su često predlagali testove koji su potvrđivali njihovu trenutnu hipotezu, umesto testova sposobnih da je opovrgnu. Eksplicitne intervencije koje podstiču formulisanje kontraprimera smanjile su ovo ponašanje i povećale prosečan učinak u otkrivanju pravila u izveštenim eksperimentima.

Ovo stvara petlju koja se potencijalno sama pojačava:

Korisničko uokvirivanje → početna hipoteza modela → potraga za potvrdnim dokazima → jače poverenje u uokvirenu hipotezu

Važno je istaći da svaki pojedinačni korak može delovati razumno. Slabost leži u strukturi samog procesa.

Iz tog razloga, sledeći metodološki sloj ne može se svesti na to da se od modela samo traži više dokaza. On mora promeniti način na koji se postupa sa suprotstavljenim hipotezama i opovrgavajućim dokazima.

Taj mehanizam je zasebno razvijen u tekstu Falsification for AI Reasoning: From Answers to Tested Hypotheses.

Zašto više rezonovanja ne uklanja problem automatski

Primamljivo je pretpostaviti da će snažniji modeli za rezonovanje na kraju eliminisati zavisnost od prompta tako što će kroz nju samostalno proći rezonovanjem.

Ta pretpostavka nije bezbedna.

Dodatni kapacitet za rezonovanje može pomoći modelu da identifikuje pretpostavke, uporedi objašnjenja i uoči kontradikcije. Ipak, model i dalje prima prompt kao deo informacija koje definišu zadatak. Sposobnije rezonovanje ne čini da formulacija zadatka nestane.

Snažniji model stoga može proizvesti sofisticiraniju analizu, a da istovremeno ostane pod uticajem prvobitnog uokviravanja.

Dubina rezonovanja i nezavisnost od uokviravanja su različita svojstva.

To je jedan od razloga zašto spoljna metodološka struktura ostaje dragocena čak i kada osnovni model postane sposobniji.

Prompt treba da postane testabilna varijabla

Kada se prompt prepozna kao deo okruženja za rezonovanje, postaje moguć važan metodološki pomak.

Umesto da jedan pažljivo sastavljen prompt tretiramo kao konačnu reprezentaciju problema, samu formulaciju možemo tretirati kao varijablu.

Za zadatke sa malim posledicama, ovo je nepotrebno. Za istraživanja, složenu dijagnostiku, tehničku arhitekturu, stratešku analizu i druge zadatke gde su zaključci važni, višestruke legitimne formulacije mogu razotkriti zavisnosti koje pojedinačni prompt skriva.

To ne znači generisanje nasumičnih parafraziranja. Koristan test menja značajne pretpostavke uz očuvanje osnovnih dokaza i istraživačkog pitanja.

Na primer:

• ukloniti preferirano objašnjenje korisnika iz formulacije;
• preokrenuti početnu hipotezu;
• predstaviti suprotstavljene hipoteze simetrično;
• promeniti redosled opcija tamo gde redosled ne bi trebalo da bude važan;
• razdvojiti prikupljanje dokaza od interpretacije;
• zatražiti u zasebnom prolazu formulisanje najsnažnijeg prigovora zasnovanog na dokazima.

Cilj je posmatrati šta se menja — i, što je još važnije, šta se ne menja.

Ovo direktno vodi ka sledećem članku u seriji: Nepromenljivost upita: Da li zaključak preživljava upit?.

Od boljih upita do bolje metodologije

Inženjering upita ostaje koristan. Jasni ciljevi, dobar kontekst, eksplicitna ograničenja i dobro osmišljeni formati izlaza poboljšavaju AI sisteme.

Greška je u pretpostavci da su optimizacija upita i validacija zaključivanja ista disciplina.

Oni rešavaju različite probleme.

Inženjering upita pita: Kako treba da formulišem zadatak da bi ga model dobro izvršio? Metodološko zaključivanje dodaje: Kako znam da zaključak nije artefakt načina na koji sam formulisao zadatak?

Drugo pitanje je ono što transformiše promptovanje iz tehnike interfejsa u deo epistemičke metodologije.

Upit je i dalje važan. Ali gubi svoju privilegovanu poziciju neupitne početne tačke.

On postaje nešto što samo može biti pregledano, varirano i testirano.

Kontekst istraživanja

Nekoliko nezavisnih istraživačkih pravaca motiviše razliku napravljenu u ovom članku. Brucks i Toubia eksperimentalno pokazuju da arhitektura upita može uvesti sistematske metodološke artefakte kroz redosled odgovora, oznake, uokvirivanje i opravdanje. Sharma i kolege ispituju ulizivanje i ulogu ljudskih preferencija u nagrađivanju slaganja sa uverenjima korisnika. OpenAI-jev rollback GPT-4o iz 2025. pruža produkcijski primer preterane prijatnosti koja je postala dovoljno izražena da zahteva intervenciju u ponašanju modela. Istraživanje o pristrasnosti potvrde dalje pokazuje da jezički modeli mogu preferirati testove koji potvrđuju hipotezu osim ako proces zaključivanja eksplicitno ne podstiče opovrgavanje.

Ovi nalazi se bave različitim fenomenima i ne treba ih tretirati kao zamenljive dokaze za jedan univerzalni mehanizam pristrasnosti. Zajedno, međutim, podržavaju užu metodološku tvrdnju: AI izlaz može materijalno zavisiti od toga kako su zadatak i pozicija korisnika predstavljeni, pa jedan upit ne treba automatski tretirati kao neutralni merni instrument.

Odabrane reference

• Brucks, M. & Toubia, O. — Prompt architecture induces methodological artifacts in large language models. PLOS ONE 20(4), e0319159, 2025.
• Sharma, M. et al. — Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
• OpenAI — Sycophancy in GPT-4o: What Happened and What We're Doing About It, April 2025.
• Anthropic — Findings from a Pilot Anthropic–OpenAI Alignment Evaluation Exercise, 2025.
• Jhaveri, A. R., GX-Chen, A., Sucholutsky, I. & Choi, E. — Failing to Falsify: Evaluating and Mitigating Confirmation Bias in Language Models. arXiv:2604.02485, 2026.

Nastavite seriju

• Beyond Prompt Engineering: A Methodology for More Reliable AI Reasoning — metodološki okvir koji stoji iza ove serije.
• Prompt Invariance: Does the Conclusion Survive the Prompt? — testiranje da li zaključci ostaju stabilni pod slepim, invertovanim i suprotstavljenim formulacijama.
• Falsification for AI Reasoning: From Answers to Tested Hypotheses — zamenjivanje potvrđujućeg zaključivanja konkurentskim hipotezama i testovima opovrgavanja.
• From Research Protocol to General AI Reasoning Framework — generalizacija metodologije kroz istraživanje, softver, otklanjanje grešaka i stratešku analizu.