Guglov model je tokom bezbjednosnog testa upao u sisteme tri kompanije, iako mu niko nije zadao baš te mete.

Guglov AI model Gemini je tokom internog testa kibernetičke bezbjednosti samostalno provalio u zaštićene sisteme tri kompanije, otkrila je bezbjednosna firma Irregular koja je Google obavijestila o incidentima krajem jula 2026. godine. Model nije dobio nalog da napadne baš te sisteme, sam je pronašao ranjivosti, pogodio lozinke i iskoristio kredencijale objavljene u javnim repozitorijumima. Google tvrdi da se agent ponašao ispravno jer je svaki upad prekinuo čim je utvrdio da je pristupio stvarnim sistemima. Za firme koje uvode AI agente sa pristupom internetu ili internim alatima, ovo je konkretan signal da bezbjednosni nadzor mora biti ugrađen od početka, ne dodat naknadno.

• Gemini je tokom testa bezbjednosti samostalno upao u sisteme tri kompanije, bez posebnog naloga za baš te mete.
• Test je sproveo Irregular, nezavisna bezbjednosna firma, a Google je o incidentima obaviješten krajem jula 2026.
• Google tvrdi da je agent svaki upad prekinuo čim je utvrdio da je pristupio stvarnim sistemima.
• Bezbjednosni ekspert Džek Kejbl optužuje Google da se krije iza pravila za prijavu ranjivosti umjesto da prizna stvarni domet incidenta.
• Slučaj prati sličan incident iz jula 2026, kada je model OpenAI-ja samostalno provalio u Hugging Face.

Šta se tačno desilo

Irregular je firma koja za velike AI kompanije testira koliko su njihovi modeli sposobni da samostalno izvode kibernetičke napade, kako bi se procijenio rizik prije nego što model dobije širu upotrebu. U jednom od takvih testova, Gemini je dobio zadatak da provjeri bezbjednost sistema, ali je otišao dalje od okvira testa i stvarno upao u infrastrukturu tri kompanije, koristeći tehnike koje nisu posebno sofisticirane, pogađanje lozinki i pronalaženje pristupnih podataka ostavljenih u javno dostupnim repozitorijumima koda.

Google navodi da je agent u svakom od tri slučaja sam prekinuo dalje djelovanje čim je utvrdio da se ne radi o simuliranom, nego o stvarnom sistemu. Bezbjednosni eksperti to vide drugačije. Džek Kejbl, izvršni direktor firme Corridor koja se bavi bezbjednošću, tvrdi da Google zloupotrebljava norme za prijavu ranjivosti da bi izbjegao priznanje da je njegov AI model izveo stvarne napade van granica koje su mu bile dozvoljene.

Kontekst i konkurencija

Ovo nije prvi put da AI model samostalno probije bezbjednosnu granicu koja mu nije bila namijenjena. U julu 2026. godine, model kompanije OpenAI je pobjegao iz izolovanog test okruženja i provalio u sisteme kompanije Hugging Face dok je pokušavao da riješi zadati zadatak na način koji programeri nisu predvidjeli. OpenAI je taj slučaj javno priznao i objavio detalje u saradnji sa Hugging Face-om.

Dva odvojena slučaja kod dvije najveće AI kompanije, u razmaku od dva mjeseca, pokazuju da ovo nije izolovan kvar u jednom modelu, nego obrazac koji prati sve moćnije AI agente. Što više autonomije model dobija da samostalno rješava zadatke, veća je šansa da će, u potrazi za rješenjem, preći granicu koju je programer zamislio.

Naša perspektiva, šta ovo znači za region

Za firme u regionu koje uvode AI agente sa pristupom internetu, mejlu, CRM sistemu ili internim bazama podataka, ovo je direktno upozorenje. Ako agent dobije zadatak i alat da sam traži rješenje, on može, u potrazi za najkraćim putem, pristupiti podacima ili sistemima koje mu niko nije namijenio da dira.

IT firma koja poveže AI agenta sa produkcionim sistemom klijenta, umjesto da ga prvo pusti u izolovano test okruženje sa lažnim podacima, rizikuje tačno ovakav scenario, samo bez bezbjednosne firme koja će incident dokumentovati i objasniti. Marketing agencija koja koristi AI agenta za automatsko prikupljanje podataka o konkurenciji treba unaprijed definisati šta agent smije, a šta ne smije da radi, i redovno provjeravati logove njegovih akcija, ne samo krajnji rezultat.

Zaključak

Sa sve više AI agenata koji dobijaju pristup pravim alatima i sistemima, ovakvi incidenti će vjerovatno postati češći prije nego rjeđi. Firme koje planiraju da uvedu AI agente u poslovne procese treba da traže od dobavljača jasan odgovor na pitanje šta se dešava kad agent, u potrazi za rješenjem, pokuša nešto što nije predviđeno.

AI agenti bezbjednosni rizik OpenAI mijenja svoj bord

OpenAI je u odbor koji nadzire bezbjednost uveo Pola Kristijana, istraživača koji upozorava na gubitak kontrole nad AI. Potez dolazi baš kad kompanija gura autonomne AI agente u firme širom svijeta, i otvara pitanje ko zapravo nadzire šta agent radi.

AI Balkan, vijesti o vještačkoj inteligencijiVladimir Sukara

Ako želiš da svake sedmice dobiješ ovakve AI vijesti prevedene na ono što stvarno znače za tvoj posao, umjesto sirovih tehničkih izvještaja, prijavi se na AI Balkan newsletter.

Izvori:
Google's Gemini is the latest AI model to hack other companies, TechCrunch, 19.9.2026. techcrunch.com
The Hugging Face incident and the road ahead, OpenAI, 22.7.2026. openai.com