AI agent u firmi, 7 kontrola koje treba preduzeti prije nego pustite agente u rad!
Agent koji radi sam dvadeset četiri sata je san, dok ne pošalje pogrešnu poruku kupcu ili obriše nešto što se ne vraća. Po istraživanjima, 74 posto firmi uvodi agente, a tek 21 posto ima nadzor. Sedam kontrola koje postaviš prije nego mu daš ključeve firme.
Agent koji radi sam dvadeset četiri sata je san dok ne pošalje pogrešnu poruku kupcu ili obriše nešto što se ne vraća. Evo šta postaviš prije nego mu daš ključeve.
Razlika između chatbota i AI agenta je u jednoj riječi, akcija. Chatbot odgovara na pitanja. Agent radi stvari. Šalje mejlove, mijenja podatke u sistemu, naručuje, plaća, otkazuje, piše kupcima u tvoje ime. Kad mu kažeš "sredi ovo", on to stvarno uradi, bez da te pita za svaki korak.
To je tačno ono što ga čini moćnim i tačno ono što ga čini opasnim. Agent koji radi sam je kao novi zaposleni kojem si prvog dana dao administratorski pristup svemu, ključeve od kase i pravo da piše kupcima, a niko ne gleda šta radi. Nijedan razuman vlasnik to ne bi uradio sa čovjekom. Mnogi to rade sa AI agentom jer im niko nije rekao šta da postave prije.
U ovom vodiču dobićeš sedam konkretnih kontrola koje postaviš prije nego pustiš AI agenta da radi samostalno u firmi. Nije teorija, nije strah od tehnologije. Ovo je ono što razdvaja firme koje od agenata izvuku korist od firmi koje za pola godine ugase agenta jer je napravio štetu.
Zašto je ovo bitno baš sad
Jedna brojka govori sve. Po istraživanjima iz 2025. godine, oko 74 posto firmi planira da uvede AI agente u naredne dvije godine, a samo oko 21 posto ima ozbiljan sistem nadzora nad njima. To znači da ogromna većina pušta agente u rad bez ikakvih kočnica.
Gartner ide korak dalje sa predviđanjem. Procjenjuju da će do 2027. godine oko 40 posto firmi ugasiti ili degradirati svoje autonomne AI agente upravo zbog problema sa nadzorom, i to nakon što se incident već desio u produkciji. Drugim riječima, većina firmi će naučiti ove lekcije na teži način, kroz štetu, umjesto da postave kontrole unaprijed.
Postoji čak i formalna lista rizika. OWASP, organizacija koja godinama pravi standarde za sigurnost softvera, objavila je listu deset najvećih rizika specifičnih za AI agente. Na njoj su stvari poput preuzimanja cilja agenta, zloupotrebe alata kojima agent ima pristup, i agenta koji pobjegne kontroli. To nisu izmišljeni strahovi, to su zabilježeni obrasci.
Poenta nije da te uplašim od agenata. Agenti su jedna od najkorisnijih primjena AI-a za firme i vrijedi ih uvoditi. Poenta je da ih uvodiš kao odrastao čovjek koji prvo postavi kočnice, a ne kao neko ko sjedne u auto bez kočnica jer "ide samo naprijed".
Kontrola 1: Tačno definiši šta agent smije, a šta ne
Najveća greška je dati agentu pristup svemu "za svaki slučaj". Pravilo koje koriste ozbiljne firme zove se princip najmanje privilegije, a u prevodu znači sljedeće agent dobija pristup samo onome što mu treba za tačno taj posao, i ništa više.
Ako agent treba da odgovara na pitanja kupaca o statusu narudžbe, treba mu pristup sistemu narudžbi, i to samo da čita, ne i da mijenja. Ne treba mu pristup finansijama, ne treba mu pristup bazi svih kupaca, ne treba mu mogućnost da briše. Svaki dodatni pristup koji mu daš je dodatna stvar koja može poći naopako.
Praktično pravilo je "sve je zabranjeno osim onoga što izričito dozvolim". Krećeš od nule dozvola i dodaješ samo ono što je neophodno da agent obavi svoj zadatak. Ovo zvuči restriktivno, ali je upravo suprotno od onoga što većina radi, a većina kreće od "ima pristup svemu" pa onda nikad ne stigne da suzi.
Kad razmišljaš o opsegu, zapiši na papir tri stvari kojim sistemima agent pristupa, da li samo čita ili i mijenja, i koje konkretne akcije smije da izvrši. Ako ne možeš to da napišeš u tri rečenice, agentu si dao previše. Uži opseg znači manju štetu kad nešto pođe naopako, a poći će naopako bar jednom.
