Agentna AI objašnjena: Kada AI sistem može da planira, koristi alate i deluje

Agentna AI je AI sistem u kojem model može da teži cilju kroz više koraka tako što odlučuje šta će sledeće uraditi, koristeći alate ili druge sposobnosti, posmatrajući rezultate, ažurirajući svoje radno stanje i nastavljajući dok ne dostigne uslov za zaustavljanje. Sam model nije agent. Upotrebljiv agent takođe zahteva izvršno okruženje ili okvir koji upravlja kontekstom, izvršavanjem alata, stanjem, dozvolama, odobrenjima, greškama i petljom između odluka i posmatranja.

Šta agentna AI zaista znači

Važan pomak od obične generativne AI ka agentnoj AI je kontrola nad procesom. Normalan asistent može da odgovori na pitanje koristeći kontekst koji dobije. Agent može da odluči da odgovaranje zahteva dodatne korake: pregledanje datoteke, pretragu repozitorijuma, upit ka API-ju, traženje pojašnjenja, pokretanje testa, ažuriranje tiketa, delegiranje podzadatka ili ponovni pokušaj nakon neuspele akcije.

To ne zahteva neograničenu autonomiju. Agent može da radi unutar uskog sandbox-a, pod strogim dozvolama, uz odobrenje potrebno pre svake konsekventne akcije. Sistem je i dalje agentan ako model dinamički bira među dozvoljenim sledećim koracima.

Arhitektura je stoga važnija od etikete. „Agent“ treba da opisuje ponašanje sistema: iterativno odlučivanje vođeno modelom nad alatima, stanjem i povratnim informacijama — a ne samo chatbot sa većim promptom.

Najjednostavniji primer

Pretpostavimo da programer pita AI sistem: „Pronađi zašto test suite ne prolazi i ispravi grešku.“ Jedan poziv modela mogao bi samo da predloži verovatne uzroke na osnovu teksta koji je dobio.

Agentni sistem za kodiranje može da pregleda repozitorijum, pronađe test koji ne prolazi, pročita relevantne datoteke, predloži izmenu, uredi kod, pokrene test, posmatra neuspeh, revidira implementaciju i ponovo pokrene test.

Agentni deo nije samo to što postoje shell i datotečni alati. Već to što model može da koristi povratne informacije iz okruženja da izabere sledeći korak umesto da prati jedan potpuno unapred definisan niz.

Gde se jednostavan primer zaustavlja

Nije svaki višekorakni AI sistem jednako agentan. Radni tok može da koristi nekoliko LLM poziva i alata, dok je svaki korak unapred određen u kodu. Drugi sistem može da dozvoli modelu da odluči koji alat će pozvati, kojim redosledom, koliko puta i kada će se zaustaviti.

Oba mogu biti korisna. Razlika je u tome gde se nalazi kontrola. Unapred definisani radni tokovi stavljaju više kontrole u aplikacijski kod. Agenti premeštaju više taktičkih odluka o procesu u petlju model/izvršno okruženje.

Agent naspram radnog toka

Anthropic eksplicitno razdvaja ova dva obrasca: tokovi rada orkestriraju modele i alate kroz predefinisane putanje koda, dok agenti dozvoljavaju modelima da dinamički usmeravaju sopstvene procese i korišćenje alata. Ovo nije jedina moguća terminologija, ali predstavlja korisnu arhitektonsku granicu.

Agentsko ponašanje je spektar, a ne binarna oznaka

Nazivanje svakog sistema iznad „agentom“ može prikriti važne operativne razlike. Što je jača kontrola modela nad sekvencom, trajanjem i radnjama, to su važniji izolacija izvršnog okruženja, dozvole, praćenje, uslovi zaustavljanja i evaluacija trajektorije.

Minimalna arhitektura agentskog sistema

Model nije agent

Jezički model proizvodi izlaze na osnovu ulaza. On sam po sebi ne poseduje fajl sistem, ne izvršava shell komandu, ne održava trajno stanje zadatka, ne sprovodi dozvole niti se automatski ponovo poziva.

Te sposobnosti dolaze iz okolnog izvršnog okruženja. Isti model može se ponašati kao jednostavan chat model u jednoj aplikaciji i kao motor za odlučivanje unutar agentske petlje u drugoj.

Korišćenje alata je centralno — ali samo korišćenje alata ne čini agenta

Alati omogućavaju modelu da pribavi informacije i utiče na spoljne sisteme. Primeri uključuju čitanje baze podataka, operacije sa fajlovima, izvršavanje shell komandi, web pretragu, kontrolu pregledača, API pozive, ažuriranje tiketa ili delegiranje specijalizovanim agentima.

Poziv jednog modela može koristiti jedan alat i dalje ostati ograničen odgovor uz pomoć alata, a ne dugotrajni agent. Agentsko ponašanje se pojavljuje kada zapažanja alata hrane adaptivnu petlju u kojoj model bira šta će sledeće uraditi.

Dizajn alata je važan jer su alati ugovor između rezonovanja modela i spoljne stvarnosti. Dvosmisleni ili preklapajući alati stvaraju greške u rutiranju; veliki nestrukturirani izlazi zagađuju kontekst; alati sa širokim sporednim efektima povećavaju obim štete.

Sposobnost alata, dozvola i ovlašćenje su različiti

Ovi slojevi se često spajaju u prototipovima. Model vidi alat za refundaciju i stoga izgleda da može izvršiti refundacije. U produkciji, alat bi ipak trebalo da validira nalog, korisnika, transakciju, iznos, politiku i uslove odobrenja nezavisno od zahteva modela.

Izvršno okruženje ili okvir je stvarni sistem za izvršavanje

OpenAI-jeva trenutna dokumentacija o agentima eksplicitno pravi razliku između izvršnih okruženja. Različita izvršna okruženja mogu upravljati orkestracijom, stanjem, alatima, sandbox-ovima i izvršavanjem na različitim mestima, dok model ostaje samo jedan deo sistema.

Agents SDK opisuje petlju koja više puta poziva trenutni model, pregleda izlaz, izvršava tražene alate ili predaje, i nastavlja dok model ne vrati konačan odgovor ili drugu stvarnu tačku zaustavljanja.

To znači da odluke o arhitekturi agenta uključuju gde se izvršava orkestracija, gde se čuva stanje, ko izvršava alate, koji sandbox sadrži neželjene efekte i ko upravlja ponovnim pokušajima, vremenskim ograničenjima i mogućnošću nastavljanja.

Planiranje je korisno, ali eksplicitni plan nije neophodan

Agenti se često opisuju kao sistemi koji „planiraju“. U praksi, planiranje može biti eksplicitno ili implicitno. Agent može prvo da proizvede vidljiv višekoračni plan, ili može da bira jednu sledeću akciju po jednu i revidira nakon svakog zapažanja.

Za veoma neizvesne zadatke, planiranje kratkog horizonta može biti sigurnije jer okruženje može poništiti dugoročni plan. Arhitektonski zahtev je sposobnost izbora i revizije akcija na osnovu cilja, trenutnog stanja i novih dokaza.

Povratne informacije iz okruženja čine petlju korisnom

Agent postaje operativno značajan kada može da primeti da li je njegova akcija uspela. Izlaz alata, rezultati testova, odgovori API-ja, stanje fajl sistema, stanje pregledača i zapisi aplikacija pružaju spoljne dokaze koje sistem može da koristi za reviziju sledeće odluke.

Anthropic-ove smernice za agente naglašavaju ovu povratnu petlju: agenti koriste alate, dobijaju osnovnu istinu iz okruženja, procenjuju napredak i nastavljaju ili traže ljudski unos.

Stanje agenta nije isto kao kontekst modela

Dugotrajan zadatak može zahtevati stanje koje ne može ili ne bi trebalo da ostane u kontekstu modela: ID-ovi zadataka, kontrolne tačke, artefakti, odobrenja, identifikatori spoljnih objekata, brojači ponovnih pokušaja i status radnog toka.

Izvršno okruženje može da sačuva ovo trajno stanje izvan prozora modela i rekonstruiše kontekst potreban za sledeći korak. To održava kontekst vidljiv modelu fokusiranim dok se održava kontinuitet i mogućnost nastavljanja.

Memorija je opciona, nije definicija agenta

Agent može uspešno da radi bez dugoročne memorije ako kompletan zadatak staje unutar jednog ograničenog izvršavanja. Memorija postaje korisna kada informacije moraju da se zadrže kroz sesije, zadatke ili duge horizonte izvršavanja.

RAG, memorija, stanje i kontekst rešavaju različite probleme. Tretiranje vektorske baze podataka kao „memorije agenta“ ili istorije razgovora kao „mašine stanja“ obično skriva važne granice životnog ciklusa i autoriteta.

Inženjering konteksta postaje dinamičan u agentima

Svaki poziv alata može da proizvede novi kontekst. Svaki korak takođe može da učini ranije informacije zastarelim. Snažno izvršno okruženje agenta zato ponovo gradi ili oblikuje kontekst kako izvršavanje napreduje, umesto da iznova prikazuje sve neograničeno.

Definicije alata, stanje zadatka, preuzeti dokazi, zapažanja i memorija svi se takmiče za pažnju modela. Dugotrajni agenti zahtevaju skraćivanje, sažimanje ili učitavanje na vreme kako bi kontekst ostao relevantan za trenutnu odluku.

Alati za čitanje i alati sa sporednim efektima imaju različit rizik

Čovek u petlji je kontrolni mehanizam, a ne suprotnost agentnoj AI

Agent ne prestaje da bude agentan zato što čovek odobrava konsekventne korake. Model i dalje može autonomno da pregleda, zaključuje, pretražuje i priprema akciju dok izvršno okruženje zahteva ljudsku potvrdu pre izvršenja.

OpenAI-ove trenutne smernice za bezbednost agenata eksplicitno preporučuju odobrenja za operacije alata u rizičnijim radnim tokovima. Anthropic takođe naglašava kontrolne tačke i ljudsku procenu tamo gde agenti naiđu na prepreke ili konsekventne odluke.

Korisno arhitektonsko pitanje nije „čovek ili autonomno?“ već koje odluke mogu da se delegiraju, koje zahtevaju pregled i koje moraju da ostanu determinističke?

Agenti zahtevaju eksplicitne uslove zaustavljanja

Oporavak je deo ponašanja agenta

Agenti rade u okruženjima koja otkazuju: API-ji isteknu, datoteke se promene, akreditivi isteknu, web stranice se premeste i alati vraćaju neispravan izlaz. Koristan agentni sistem zato zahteva ponašanje oporavka, a ne samo petlju alata za idealan scenario.

Oporavak može da uključi ponovni pokušaj sa ograničenjima, izbor drugog alata, ponovno čitanje trenutnog stanja, pitanje korisniku, vraćanje delimične akcije ili eskalaciju ka čoveku.

Ponovni pokušaji takođe zahtevaju svest o idempotentnosti. Ponavljanje čitanja je obično niskog rizika; ponavljanje plaćanja ili slanja poruke može da stvori duplikate sporednih efekata.

Agentna AI ne zahteva više agenata

Jedan agent sa jasnim skupom alata je često jednostavniji i lakši za evaluaciju od multi-agent arhitekture. Više agenata je korisno kada specijalizacija materijalno poboljšava izolaciju alata, izolaciju politika, jasnoću upita, vlasništvo ili čitljivost traga.

OpenAI-ove trenutne smernice za orkestraciju eksplicitno preporučuju početak sa jednim agentom gde je to moguće i dodavanje specijalista samo kada se ugovor ili granica vlasništva materijalno promene.

Multi-agentni sistemi dodaju nove probleme: kvalitet delegiranja, duplirani kontekst, konfliktno stanje, semantiku predaje, identitet, troškove i distribuirano rukovanje greškama.

Agent protokoli su slojevi interoperabilnosti, a ne sam agent

Protokoli kao što su MCP i A2A mogu učiniti arhitekturu agenta interoperabilnom, ali sami po sebi ne stvaraju petlju agenta. MCP može izložiti alate i resurse. A2A može povezati nezavisno implementirane agente. Aplikaciji je i dalje potrebno izvršno okruženje, autorizacija, stanje, evaluacija i domenska logika.

Zato sposobnost protokola mora ostati odvojena od poslovnog ovlašćenja. Otkrivanje alata putem MCP-a ne dokazuje da trenutni principal sme da ga koristi. Prijem zadatka putem A2A ne dokazuje da udaljeni agent sme da izvrši svaku traženu radnju.

Trajektorija je deo pouzdanosti agenta

Konačan odgovor je nedovoljan dokaz za agentni sistem jer agent može doći do ispravnog rezultata preko nesigurne ili nevalidne putanje. Može koristiti neovlašćeni alat, preskočiti obaveznu proveru, ponoviti sporedni efekat, osloniti se na zastarelo stanje ili slučajno uspeti.

Evaluacija zato zahteva tragove izvršavanja: odluke, pozive alata, odobrenja, opservacije, promene stanja i konačan ishod. Trenutne OpenAI smernice za bezbednost preporučuju ocenjivače tragova i evaluacije; Anthropic-ove smernice za evaluaciju agenata iz 2026. takođe tretiraju višekratne trajektorije alata kao evaluacione objekte prvog reda.

Jače pitanje pouzdanosti je: Da li je agent postigao prihvatljiv ishod kroz prihvatljivu, obnovljivu i revizibilnu trajektoriju?

Agentni sistemi povećavaju bezbednosnu površinu

Opservabilnost agenta mora pratiti petlju

Tradicionalna opservabilnost servisa beleži zahteve, latenciju i greške. Opservabilnost agenta zahteva dodatni model izvršavanja: koji agent je bio aktivan, koja verzija modela je donela odluku, koji kontekst je bio dostupan, koji alat je izabran, koji argumenti su poslati, koji rezultat je vraćen i zašto je izvršavanje zaustavljeno.

Za osetljive sisteme, sami tragovi zahtevaju kontrolu pristupa i politiku zadržavanja jer upiti, izlazi alata i artefakti mogu sadržati poverljive podatke.

Kako evaluirati agentni sistem

Kada je agent prikladan

Snažan podrazumevani pristup je započeti sa najjednostavnijim rešenjem koje funkcioniše i povećavati agentsku složenost samo kada fleksibilnost proizvodi merljivu vrednost. Agenti razmenjuju predvidivost, latenciju i trošak za adaptivno izvršavanje.

Dokazi iz originalne implementacije

Aaasaasa AI Client: model, izvršno okruženje i dozvole su odvojeni

Aaasaasa AI Client eksplicitno razdvaja agenta/klijenta, provajdera, model, lokaciju izvršnog okruženja i dozvole. Njegova arhitektonska dokumentacija tretira dozvole kao centralnu politiku alata/radnog prostora, a ne kao osobinu modela.

Ista aplikacija može da izloži Direct Chat bez alata za fajl sistem ili ljusku, dok Codex izvršno okruženje radi pod izabranim radnim prostorom i profilom dozvola. Ovo demonstrira ključnu granicu agentske arhitekture: promena površine izvršnog okruženja/alata menja šta sistem može da uradi čak i kada pristup modelu ostaje dostupan.

Repozitorijum takođe razlikuje lokalno Codex izvršno okruženje od lokacije modela: lokalno izvršno okruženje može pozvati model u oblaku. Ovo sprečava uobičajenu grešku izjednačavanja „agent se izvršava lokalno“ sa „inferencija je lokalna“.

Implementacija onemogućava ugrađene putanje izvršavanja čija semantika odobravanja ne zadovoljava zahtevani model dozvola. Ovo podržava princip da sposobnost agenta ne treba da zaobiđe autorizaciju izvršnog okruženja samo zato što osnovni okvir može da izvršava alate.

Source of Truth Research Engine: ograničene agentske faze istraživanja

Source of Truth Research Engine koristi ograničen istraživački tok: otkrij → pribavi → izvuci → verifikuj → protivreči → sintetiši. Istraživački poslovi mogu se izvršavati kroz AI izvršno okruženje dok dokazi, izvori, tvrdnje i protivrečnosti ostaju u eksternom trajnom skladištu.

Ovo je namerno kontrolisanije od neograničenog autonomnog istraživačkog agenta. Faze pružaju zaštitne ograde oko toga koja vrsta posla treba sledeće da se obavi, dok i dalje dozvoljavaju istraživanje vođeno modelom unutar svakog ograničenog zadatka.

Ta razlika je koristan dokaz za dizajn agenata: autonomija može biti smeštena unutar strukturisanog okvira isporuke, umesto da se primenjuje uniformno na ceo proces.

Uobičajeni načini neuspeha agentske AI

Uobičajene zablude

Praktičan redosled dizajna agenta

Kontrolna lista arhitekture agentne AI

Rubni slučajevi i ograničenja

Neki sistemi su „agentni“ samo u uskom smislu rutiranja: model izabere jednog specijalistu ili alat, a zatim je ostatak toka rada deterministički. To i dalje može biti korisno, ali ne treba ga opisivati kao ekvivalent dugotrajnom autonomnom agentu.

Domeni sa visokim posledicama mogu namerno da ograniče autonomiju agenta. AI sistem može da pregleda dokaze, pripremi preporuke i popuni strukturirane obrasce, dok čovek ostaje jedini akter koji sme da izvrši konačnu transakciju.

Neka okruženja su dobro prilagođena agentima jer je povratna informacija objektivna. Agenti za kodiranje mogu da pokreću testove; infrastrukturni agenti mogu da pregledaju metrike; agenti za podatke mogu da validiraju rezultate upita. Otvoreni domeni sa slabom povratnom informacijom zahtevaju oprezniju evaluaciju.

Agent može da radi potpuno lokalno, potpuno kroz upravljane cloud usluge ili u hibridnoj arhitekturi. Agentno ponašanje opisuje tok kontrole, a ne lokaciju hostovanja.

Termin „rezonovanje“ ne treba koristiti kao dokaz da je unutrašnji proces agenta ispravan. Produkcijsko osiguranje treba da se oslanja na uočljive ulaze, radnje, izlaze, stanje i evaluaciju, a ne na neproverljive tvrdnje o skrivenom rezonovanju.

Šta bi promenilo ovaj odgovor?

API-ji dobavljača i agentni okviri će nastaviti da se razvijaju, ali granica arhitekture je stabilna: model predlaže odluke, runtime upravlja petljom, alati se povezuju sa okruženjem, dozvole ograničavaju radnje, a spoljna zapažanja određuju šta se zaista dogodilo.

Kako modeli postaju pouzdaniji, sistemi mogu bezbedno da delegiraju duže horizonte ili složenije ponašanje oporavka. Kako se verifikacija i autorizacija u runtime-u poboljšavaju, neki koraci odobrenja mogu postati automatizovani. To su promene u nivou autonomije, a ne promene u osnovnim slojevima odgovornosti.

Preporučena arhitektura se takođe menja u zavisnosti od posledica. Istraživački agent koji samo čita javne izvore može da toleriše drugačije kontrole od agenta koji piše produkcijsku konfiguraciju ili prenosi novac.

Povezano kanonsko znanje

Agentna AI se nalazi iznad nekoliko preduslovnih slojeva: inženjering konteksta određuje šta model vidi; arhitektura izvora istine određuje koje informacije su autoritativne; pretraga obezbeđuje spoljne dokaze; runtime arhitektura određuje šta može da se izvrši.

Nizvodni čvorovi uključuju pozivanje alata, MCP, A2A, identitet agenta, dozvole, revizibilnost, čoveka u petlji, orkestraciju, memoriju i multi-agent sisteme.

Članak o protokolarnom steku stoga treba čitati nakon osnovnog koncepta agenta: protokoli standardizuju granice oko agenata; oni ne definišu samo agentno ponašanje.

Često postavljana pitanja

Pojmovnik

Zaključak

Agentna veštačka inteligencija nije samo pametniji model ili chatbot sa više alata. To je sistemska arhitektura u kojoj model učestvuje u iterativnoj kontrolnoj petlji: odluči, deluj, posmatraj, ažuriraj i nastavi.

Model obezbeđuje fleksibilno donošenje odluka, ali okolno izvršno okruženje mora da poseduje stvarnost izvršavanja: dozvole, pristup alatima, stanje, odobrenja, ponovne pokušaje, budžete, uslove za zaustavljanje, praćenje i verifikaciju.

Najkorisniji princip dizajna je stoga: prepustite taktički izbor modelu samo unutar eksplicitnih tehničkih i poslovnih granica. Agentna sposobnost postaje proizvodna sposobnost samo kada autonomija, ovlašćenje i dokaz ostanu razdvojivi.

Primarni izvori i aktuelne smernice

Izvori u nastavku podržavaju aktuelne arhitektonske razlike oko agenata, radnih tokova, petlji, alata, orkestracije, bezbednosti i evaluacije. Sekcije projekta su originalni dokazi implementacije i eksplicitno su ograničene na ono što repozitorijumi pokazuju.