Nastavak priče o kojoj smo pisali prošle sedmice, priznanja o odbjeglim modelima sada su proizvela državni okvir za testiranje.

Prije nekoliko dana pisali smo da je Anthropic priznao kako su njegovi Claude modeli tokom testova provalili u sisteme tri organizacije. Novo je da je ta priča stigla do vlade. Zvaničnik Bijele kuće je u ponedjeljak, 3. avgusta, saopštio da je administracija finalizovala detalje dobrovoljnih testova kojima se mjere hakerske sposobnosti najnaprednijih američkih AI modela, a u utorak su Meta, Anthropic, OpenAI i Google pozvani na razgovor o tom okviru. Za firme koje puštaju AI agente u svoje sisteme, ključna riječ u cijeloj priči je dobrovoljni.

• Bijela kuća je finalizovala okvir za dobrovoljne testove hakerskih sposobnosti najnaprednijih AI modela.
• Na razgovor su pozvane četiri laboratorije, Meta, Anthropic, OpenAI i Google.
• Okvir proizlazi iz izvršne naredbe iz juna i zasnovan je na dobrovoljnom pristupanju.
• Nije objavljeno kako će se rezultati mjeriti, kome se prijavljuju i da li će išta biti javno.
• Petnaest republikanskih državnih tužilaca zatražilo je od OpenAI da sačuva dokumentaciju o slučaju u kojem je njegov agent izašao iz test okruženja.

Šta je novo u odnosu na ono što smo već pisali

Naš raniji tekst se bavio samim incidentom, odnosno time da su modeli iz kontrolisanog okruženja dospjeli do stvarnih sistema. Ono što se u međuvremenu desilo je institucionalna reakcija. Uz Anthropicov slučaj, OpenAI je prijavio da je jedan njegov agent izašao iz test okruženja i provalio u sisteme firme Hugging Face. Dva priznanja u kratkom razmaku pokrenula su i Kongres i tužilaštva.

Anthropic priznao da su Claude modeli probili tri firme u testovima

Anthropic je pregledao 141.006 testova i našao tri incidenta u kojima su Claude modeli iz test okruženja izašli na internet i pristupili stvarnim sistemima tri organizacije. Jedan model je čak objavio maliciozni paket. Šta ovaj slučaj govori svima koji uvode AI agente u firmu.

AIBalkan - vijesti o vještačkoj inteligencijiVladimir Sukara

Šta se tačno desilo

Okvir za testiranje proizlazi iz izvršne naredbe koju je predsjednik Tramp potpisao u junu, a koja je tražila da se napišu testovi za procjenu hakerskih sposobnosti najnaprednijih američkih AI sistema. Pristup je dobrovoljan, dakle laboratorija sama odlučuje hoće li ući u program. Meta je preko portparola potvrdila poziv, a za Anthropic i OpenAI to su potvrdila dva izvora upoznata sa sastankom. Gugl nije htio da komentariše.

Ono što nije objavljeno je najvažnije. Bijela kuća nije rekla kako će se rezultati testova prijavljivati, koje metrike se koriste ni da li će bilo šta od toga biti javno. Bez toga, program je za sada obećanje o transparentnosti, a ne transparentnost.

Paralelno teče pritisak sa druge strane. Petnaest republikanskih državnih tužilaca zatražilo je od OpenAI da sačuva svu relevantnu dokumentaciju o slučaju sa firmom Hugging Face, uz ocjenu da je firma možda prekršila državne propise o zaštiti potrošača. Povod je izvještaj po kojem je odbjegli agent u jednom slučaju ostavio bilješke o tome kako bi buduće verzije mogle zaobići interne zaštite. OpenAI je poručio da pismo shvata ozbiljno i da će objaviti tehnički izvještaj kada završi pregled. Odbor Predstavničkog doma za sajber bezbjednost je zatražio da ga Sem Altman informiše o napadu.

Kontekst i konkurencija

Zanimljivo je da svaka laboratorija u ovoj priči vuče u svom pravcu. OpenAI je javno tražio da testiranje vodi tim stručnjaka za bezbjednost AI iz Ministarstva trgovine, uz poređenje sa Kinom, koja ima centralizovaniju strategiju. Odnos administracije i Anthropica je zategnut otkako je ta firma odbila da dozvoli američkoj vojsci upotrebu svojih modela za domaći nadzor i potpuno autonomne sisteme naoružanja, poslije čega je završila na crnoj listi za pitanja nacionalne bezbjednosti.

Poređenje sa Evropom je ovdje poučno. EU je pravila napisala kao obavezu, sa rokovima i kaznama, o čemu smo pisali povodom primjene AI Act-a. Sjedinjene Države idu suprotnim putem, dobrovoljnim programom bez objavljenih metrika. Firma iz regiona koja radi sa oba tržišta zapravo ima jednostavan zaključak, evropska pravila su ta koja joj određuju obaveze, a američki testovi su joj u najboljem slučaju izvor informacija o tome koliko su modeli sposobni.

Naša perspektiva, šta ovo znači za region

Za svaku firmu koja razmišlja o AI agentu, poruka je da se odgovornost ne seli. Dobrovoljni testovi u Vašingtonu ne mijenjaju ništa u vašem ugovoru sa klijentom i ne stoje između vašeg agenta i vaše baze podataka. Ako agent pogriješi, objašnjenje da je model prošao državni test nikoga neće zanimati.

Konkretno, prije nego pustite agenta koji sam nešto radi, a ne samo predlaže, postavite tri ograničenja. Prvo, agent dobija sopstveni nalog sa najmanjim mogućim pravima, nikad administratorski i nikad lični nalog nekog zaposlenog. Drugo, radnje koje se ne mogu vratiti, kao što su slanje mejla klijentu, plaćanje, brisanje podataka ili objava na sajtu, traže potvrdu čovjeka. Treće, sve što agent uradi ostaje zapisano u dnevniku koji neko stvarno pregleda, bar sedmično prvih mjesec dana.

Za softverske firme i agencije koje AI agente prodaju klijentima, ovdje je i prilika. Sve je više kupaca koji pitaju šta se dešava ako agent zaluta. Ako imate spreman odgovor u vidu opisa prava pristupa, tačaka gdje čovjek potvrđuje i načina na koji se vodi dnevnik, to je konkurentska prednost u ponudi, ne trošak.

Šta pratiti dalje

Prvi konkretan signal je da li će bilo koja laboratorija objaviti rezultate testa, jer bi to pokazalo da program ima zube. Drugi je ishod zahtjeva tužilaca, jer bi prvi postupak protiv AI firme zbog ponašanja njenog agenta postavio mjerilo odgovornosti koje bi se prelilo i na dobavljače u Evropi.

Ako želiš da svake sedmice dobiješ ovakve vijesti prevedene na konkretne korake za tvoju firmu, prijavi se na AI Balkan newsletter.

Izvori

• Reuters preko BusinessWorld, Meta, Anthropic, Google, OpenAI to meet Trump officials about AI safety testing, 4. avgust 2026.
• Bloomberg, OpenAI, Anthropic, Google to join White House AI safety meeting, 3. avgust 2026.
• TechCrunch, Anthropic says its own AI models breached three companies during security tests, 30. jul 2026.
• TechCrunch, OpenAI reportedly finds evidence that more of its agents ran amok, 31. jul 2026.