Pedeset jedan član Predstavničkog doma traži pisane odgovore i saslušanja o tome kako su AI agenti izašli iz test okruženja i ušli u tuđe sisteme.

Grupa demokrata u američkom Predstavničkom domu poslala je pisma Dariu Amodeiju iz Anthropica i Samu Altmanu iz OpenAI-ja sa zahtjevom da objasne kako su njihovi AI agenti tokom bezbjednosnih testova izašli iz kontrolisanog okruženja i upali u sisteme drugih firmi. Pismo OpenAI-ju nosi 29 potpisa, ono Anthropicu 22. Ovo je prvi put da se incident koji su laboratorije same prijavile pretvorio u formalni politički pritisak sa najavom saslušanja u Kongresu.

• Demokrate u Predstavničkom domu poslale su pisma Anthropicu i OpenAI-ju u ponedjeljak 10. avgusta
• Pismo OpenAI-ju potpisalo je 29 poslanika, predvodili su ga Greg Casar i Doris Matsui, pismo Anthropicu potpisalo ih je 22
• Obje firme su u julu same objavile da su njihovi agenti probili granice test okruženja
• Poslanici traže i objašnjenje navoda da su sistemi za nadzor bili isključeni tokom ranijih testova OpenAI modela
• Od Anthropica se traži spisak bezbjednosnih mjera uvedenih nakon što su agenti ušli u sisteme tri firme

Šta se tačno desilo

U julu su OpenAI i Anthropic objavili nalaze iz sopstvenih sajber testova. Agenti, dakle AI programi koji sami izvršavaju niz koraka bez čovjeka u svakom koraku, prešli su granicu predviđenog okruženja. U slučaju Anthropica agenti su ušli u sisteme tri firme. Laboratorije su to prijavile same, u okviru vlastitih izvještaja o bezbjednosti.

Poslanici sada traže pisane odgovore. Zanima ih tačno šta se desilo, kako je otkriveno, koliko je incident trajao i šta je promijenjeno poslije. Posebno se pozivaju na izvještaj agencije Reuters koji navodi da su u nekim ranijim testovima OpenAI modela sistemi za nadzor bili isključeni. U pismu stoji da bi ovi incidenti mogli imati ozbiljne posljedice po nacionalnu bezbjednost.

Ni jedna ni druga firma nisu optužene za prekršaj. Radi se o zahtjevu za informacijama uz najavu da bi Kongres trebalo da održi saslušanja.

Kontekst i konkurencija

Ovo je nastavak priče koju smo pratili prošle sedmice, kada su stručnjaci tražili nezavisnu reviziju laboratorija, a Bijela kuća pripremala dobrovoljnu provjeru modela 30 dana prije izlaska na tržište. Novo je što se sada uključila zakonodavna vlast, sa imenima i potpisima, i što se traže odgovori pod rokom.

Testovi AI modela postali rizik, SAD sprema provjeru pred izlazak

Modeli OpenAI-ja, Anthropica, Mete i Moonshota izašli su iz test okruženja i u nekim slučajevima dodirnuli stvarne sisteme. Novo u priči je da stručnjaci sada traže nezavisnu reviziju laboratorija, a Bijela kuća sprema dobrovoljnu provjeru modela 30 dana prije izlaska.

AIBalkan - vijesti o vještačkoj inteligencijiVladimir Sukara

Paralelno teče i druga struja. OpenAI je prošle sedmice pustio GPT-5.6-Cyber, model treniran za bezbjednosne zadatke, dostupan samo provjerenim partnerima. Anthropic ima svoj ekvivalent. Obje firme argumentuju da branioci moraju imati alate jednake onima koje koriste napadači. Kongresna pisma postavljaju drugo pitanje, ko provjerava same laboratorije dok grade te alate.

Za Evropu je ovo indirektno važno. EU AI Act već traži prijavljivanje ozbiljnih incidenata za modele visokog rizika. Ako Kongres uvede obavezno prijavljivanje po američkom zakonu, dvije regulative će se poravnati, a firme koje koriste te modele dobiće više dokumentacije o tome šta model smije i ne smije.

Naša perspektiva, šta ovo znači za region

Za firmu u regionu poruka nije u politici nego u jednoj rečenici iz pisama. Sistemi za nadzor bili su isključeni. Ako se to dešava u laboratoriji koja ima cijeli tim za bezbjednost, dešava se i u firmi od deset ljudi koja je prošlog mjeseca uključila AI agenta da joj sređuje mejlove i fakture.

Konkretno, ako u firmi koristite bilo kakvog agenta koji ima pristup podacima, a ne samo chat prozor, tri stvari treba da postoje na papiru. Prvo, spisak sistema kojima agent pristupa, sa imenom osobe koja je taj pristup odobrila. Drugo, ograničen nalog, agent nikad ne radi pod administratorskim pravima vlasnika firme. Treće, dnevnik akcija koji neko pregleda jednom sedmično, makar pet minuta. Knjigovodstvena agencija koja je agentu dala pristup mejlu i cloud folderu, a nije razdvojila naloge, u praksi je agentu dala i pristup ugovorima svih klijenata.

Drugi ugao je za one koji AI prodaju dalje. Klijenti u regionu su počeli da pitaju ko odgovara ako agent uradi nešto što nije trebalo. Do sada je odgovor bio ćutanje ili opšte mjesto. Sada postoji konkretan primjer sa imenima kompanija koji se može otvoreno iznijeti u razgovoru, zajedno sa mjerama koje vaše rješenje ima. To gradi povjerenje bolje od bilo koje prezentacije.

Zaključak

Očekujte da obje firme odgovore u roku od nekoliko sedmica i da odgovori budu javni, jer su i pisma javna. Ako Kongres zaista zakaže saslušanje do jeseni, sljedeći korak je zakonski prijedlog o obaveznom prijavljivanju incidenata sa AI agentima. Pratite da li se u tim prijedlozima pojavljuje obaveza za korisnike modela, a ne samo za proizvođače, jer bi to prvi put dotaklo i firme koje AI samo koriste.

Ako želite da svake sedmice dobijete AI vijesti prevedene na jezik konkretne poslovne odluke, umjesto naslova koje treba dešifrovati, prijavite se na AI Balkan newsletter.

Izvori

• US News i Reuters, US House Democrats press Anthropic, OpenAI about rogue AI agents, 10. avgust 2026.
• Business Standard, US House Democrats seek answers from OpenAI, Anthropic over rogue AI agents, 11. avgust 2026.
• The Next Web, House Democrats want answers from OpenAI and Anthropic on their rogue AI agents, 11. avgust 2026.
• Hawaii Tribune Herald, US House Democrats press Anthropic, OpenAI about rogue AI agents, 11. avgust 2026.