Trošak AI agenata može pasti 50 odsto, tvrdi Writer
Writer je pustio model Palmyra X6 i tvrdi da uz izmjene u sistemu koji upravlja agentima trošak pada do 50 odsto. Njihovo istraživanje pokazuje da promjena organizacije posla štedi više od promjene modela. Za firme koje su AI ugradile u proces ovo je brži put do uštede.
Nije stvar u tome koji model biraš nego kako je posao oko njega organizovan, pokazuje istraživanje firme koja prodaje AI alate marketarima.
Trošak AI agenata ne zavisi samo od cijene modela nego i od toga kako je posao oko modela organizovan. Američka firma Writer pustila je novi model Palmyra X6 i tvrdi da uz izmjene u sistemu koji upravlja agentima, klijentima može spustiti trošak za do 50 odsto na jednostavnijim zadacima. Za firme koje su AI ugradile u svoje procese, ovo je konkretniji put do uštede od čekanja da modeli pojeftine.
- Writer pustio model Palmyra X6, građen na kineskom modelu otvorenog koda GLM-5.2 firme Z.ai
- Firma tvrdi da model uz izmjene u sistemu upravljanja agentima smanjuje trošak do 50 odsto na jednostavnijim zadacima
- Njihovo istraživanje pokazuje prosječan pad troška od 40 odsto samo kroz promjene u organizaciji posla, bez mijenjanja modela
- Jedan zadatak AI agenta može značiti desetine poziva prema modelu, pa se potrošnja brzo množi
- Klijenti mogu i dalje koristiti druge modele pored ovog
Šta se tačno desilo
Writer proizvodi AI alate i agente za marketing timove. U četvrtak je predstavio model Palmyra X6 i nadogradnju onoga što u struci zovu harness, sistema koji upravlja agentom dok radi.
Model nije građen od nule. Riječ je o dorađenoj verziji modela GLM-5.2 kineske firme Z.ai, koji je otvorenog koda. To je i poenta, otvoreni modeli imaju znatno nižu cijenu po tokenu, ali je teško pogoditi koji je pravi za koji posao.
Zanimljiviji dio je istraživanje koje su njihovi ljudi objavili. Testirali su male izmjene u sistemu upravljanja agentom na više različitih modela i utvrdili da su te izmjene često pouzdaniji način da se spusti trošak od promjene samog modela. Prosječan pad troška u njihovom testiranju bio je 40 odsto, uz isti kvalitet obavljenog posla.
Da bi se razumjelo zašto, treba znati kako agent radi. Kad čovjek postavi pitanje u chatu, to je jedan poziv modelu. Kad agent dobije zadatak, on se sam pita, traži podatke, poziva alate, ponavlja korake koji nisu uspjeli i vuče istoriju razgovora sa sobom. Jedan zadatak lako postane desetine poziva. Sistem koji odlučuje koliko se konteksta svaki put nosi i koliko puta se pokušava iznova direktno određuje račun.
Kontekst i konkurencija
Ovo se dešava u sedmici u kojoj su OpenAI i Anthropic snizili cijene nekih modela, a DeepSeek svoje digao. Zajednička nit je da je trošak, a ne pamet modela, postao glavna tema u firmama koje AI stvarno koriste.
Direktorica Writera May Habib rekla je da su kompanije umorne od jurenja sljedećeg rezultata na testovima i da traže da im trošak prestane rasti. Dodala je i da postoji sve veće nepovjerenje prema velikim AI laboratorijama, jer one zarađuju upravo od toga da se potroši više tokena.
Taj interes treba imati na umu i kad se čita Writerova tvrdnja. Firma prodaje sistem koji rješava problem koji opisuje, pa je cifra od 50 odsto njen podatak, ne nezavisna provjera. Ono što se može provjeriti je logika iza toga, a ona stoji.
Pročitaj i:
Vladimir Sukara
Naša perspektiva, šta ovo znači za region
Za firmu koja AI koristi kroz chat prozor, ovo nije tema. Za firmu koja je AI ugradila u proces, jeste, i to hitna.
Softverska firma ili agencija koja je klijentu napravila agenta za obradu upita često plaća račun koji ne razumije do kraja. Konkretan primjer, agent koji odgovara na upite kupaca uz svaki odgovor nosi cijelu istoriju razgovora i cijeli katalog proizvoda. Ako se to skrati tako da nosi samo posljednja tri odgovora i samo relevantnu grupu proizvoda, isti posao može koštati dvostruko manje. To nije nova tehnologija nego jedno popodne rada.
Ista poruka vrijedi i za onoga ko naručuje takav sistem. Kad tražiš ponudu za AI agenta, pitanje ne treba biti samo koji model koristite nego koliko poziva modelu troši jedan zadatak i šta ste uradili da ih smanjite. Firma koja na to nema odgovor prebacuje svoju neefikasnost na tvoj mjesečni račun.
Treba reći i drugu stranu. Prevelika štednja na kontekstu daje glupljeg agenta koji griješi, pa se ušteda pojede kroz ljudsko ispravljanje. Prava mjera nije trošak po pozivu nego trošak po uspješno završenom zadatku, a to se ne vidi bez mjerenja.
Zaključak
Ako se ovo pokaže tačnim i van Writerovih testova, težište konkurencije u poslovnom AI-ju pomjera se sa izbora modela na inženjering sistema oko njega. To je dobra vijest za firme u regionu, jer je taj posao znanje i rad, a ne pristup najskupljem modelu. Pratiti treba da li će nezavisni testovi potvrditi sličan pad troška i da li će velike laboratorije početi same nuditi takva podešavanja.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na račun koji tvoja firma plaća, a ne na tehničke tabele, prijavi se na AI Balkan newsletter.
Izvori
- TechCrunch, Writer introduces new AI model and upgraded harness to contain token costs, 13. avgust 2026, https://techcrunch.com/2026/08/13/writer-introduces-new-ai-model-and-upgraded-harness-to-contain-token-costs/
- Writer istraživački rad o efikasnosti harnessa, arXiv, https://arxiv.org/pdf/2607.06906
