Kineski GLM-5.2 blizu vrha, a nije odbio nijedan opasan zadatak
Neprofitna organizacija SaferAI testirala je kineski otvoreni model GLM-5.2 i utvrdila da nije odbio nijedan zadatak iz ofanzivne sajber bezbjednosti ni iz biologije dvojne namjene. Claude Opus 4.7 odbijao je toliko dosljedno da isti test nije mogao biti završen.
Razlika između najjačih i besplatnih modela svela se na nekoliko mjeseci, ali razlika u zaštiti raste.
Kineski otvoreni model GLM-5.2 firme Z.ai zaostaje samo nekoliko mjeseci za GPT-5.6 i Claudeom Opus 5 u sajber i biološkim sposobnostima, pokazuje novi izvještaj neprofitne organizacije SaferAI. Problem je u drugom dijelu nalaza. U testu koji je SaferAI vodio preko javnog API-ja, GLM-5.2 nije odbio nijedan zadatak iz ofanzivne sajber bezbjednosti ni iz biologije dvojne namjene. Claude Opus 5 odbijao je toliko dosljedno da isti test na njemu nije mogao biti završen.
- GLM-5.2 je otvoreni model kineske firme Z.ai, dostupan svakome za preuzimanje.
- Po sposobnostima zaostaje svega nekoliko mjeseci za vodećim zatvorenim modelima.
- U testu SaferAI nije odbio nijedan opasan zadatak koji mu je dat.
- Z.ai nije objavio bezbjednosni okvir ni procjenu rizika prije puštanja modela.
- Zaštita koja postoji na API-ju nestaje čim neko model pokrene na svom hardveru.
Šta se tačno desilo
Otvoreni model, ili model sa otvorenim težinama, znači da kompanija objavi sam model tako da ga svako može preuzeti i pokrenuti na svojoj opremi. To je velika prednost za cijenu i za privatnost. To je istovremeno i razlog zbog kojeg proizvođač gubi svaku kontrolu nad time kako se model koristi.
SaferAI je GLM-5.2 testirao na CyberGym, standardizovanom testu za sajber sposobnosti, i na zadacima iz biologije koji mogu poslužiti i za dobro i za loše. Model je uradio sve što se od njega tražilo, bez odbijanja.
Poređenje je jasno. Zatvoreni modeli koriste klasifikatore, obuku za odbijanje i kontrolu na nivou API-ja. Te mjere nisu savršene, pa organizacija Far.ai i dalje nalazi stotine univerzalnih zaobilaznica na modelima kao što su Grok 4.5 i Gemini . Ali mjere postoje.
Kod otvorenog modela one prestaju da važe onog trenutka kada neko preuzme fajlove. Sve što je proizvođač ugradio može se ukloniti, model se može doobučiti, a sistemski prompt promijeniti.
Kontekst i konkurencija
Henri Papadatos, izvršni direktor SaferAI, kaže da granica sposobnosti nije isto što i granica rizika i da se pri procjeni rizika mora gledati i stanje zaštitnih mjera.
Jedno rješenje o kojem se govori jeste filtriranje podataka prije obuke, gdje se opasne informacije izbace iz materijala na kojem model uči. Kod biologije to daje rezultate. Kod sajber bezbjednosti je mnogo teže, jer je gotovo nemoguće napraviti model koji odlično piše kod a nije dobar i u probijanju sistema. Pošto je programiranje najveći izvor prihoda za AI firme, pritisak da se te sposobnosti stalno poboljšavaju ne popušta.
Zagovornici otvorenih modela imaju svoj argument. Hugging Face se upravo uz pomoć GLM-5.2 branio od upada koji je izveo OpenAI model. Njihova poenta je da ista tehnologija koja je opasna u rukama napadača služi i braniocima.
Papadatos na to odgovara da je korist precijenjena i da to ne znači da opasne sposobnosti treba dijeliti svima. Kako kaže, napadači nove alate usvajaju brže od branilaca, jer grupa koja radi ucjenjivački softver mijenja metod za sedmicu dana, a bolnica ne može.
Naša perspektiva, šta ovo znači za region
Za firmu u regionu koja razmišlja da umjesto plaćene pretplate koristi jeftin ili besplatan otvoreni model, ovo je važan podatak. Otvoreni modeli su često prava odluka, posebno kada podaci ne smiju napustiti firmu. Ali odluka nosi obavezu koju niko drugi neće preuzeti.
Konkretno, IT firma iz Banje Luke koja na svom serveru pokrene otvoreni model za pomoć u pisanju koda dobija veliku uštedu i punu kontrolu nad podacima. Istovremeno dobija i model koji neće reći ne kada ga neko iznutra zamoli za nešto što ne bi trebalo. Kod zatvorenih modela taj filter dolazi u paketu, kod otvorenih ga firma mora sama postaviti.
Druga posljedica tiče se onoga ko bira dobavljača. Kada procjenjujete AI alat, ne gledajte samo cijenu po milionu tokena i rezultate na testovima. Pitajte da li je proizvođač objavio bezbjednosni okvir i procjenu rizika. Z.ai to nije uradio, i to je podatak koji vrijedi koliko i cijena.
Treća stvar je jednostavna. Ako u firmi neko već koristi otvoreni model, dobro je da postoji pravilo ko mu smije prići i za šta. Pristup bez pravila je isto što i računovodstvo bez lozinke.
Zaključak
Rasprava se pomjerila sa pitanja da li otvoreni modeli mogu da parira vodećima na pitanje kako se upravlja rizikom kada su jednom pušteni. Ono što treba pratiti jesu odluke Vašingtona o kineskim otvorenim modelima i da li će kineski proizvođači početi da objavljuju bezbjednosne procjene, jer bi to bio prvi znak da se praksa mijenja.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na jezik konkretnih posljedica za tvoj posao, prijavi se na AI Balkan newsletter.
Pročitaj i:
Vladimir Sukara
