OpenAI se izvinio Australiji: AI agenti ponovo otvaraju pitanje prijave incidenata
OpenAI je pred australijskim odborom priznao da je ranije morao prijaviti incident AI agenta. Anthropic podržava obavezno prijavljivanje.
OpenAI-jev glavni strateg Jason Kwon izvinio se u utorak, 6. oktobra, pred australijskim parlamentarnim odborom zbog neovlaštenog pristupa jednog internog AI modela državnom servisu sa zdravstvenim statistikama. Priznao je da je kompanija o tome trebala ranije obavijestiti vlasti. Ovo je novi razvoj priče o incidentu iz juna: sada su predstavnici kompanija javno odgovarali na pitanja i govorili o pravilima za prijavu sličnih događaja.
Prema izvještaju australskog javnog servisa ABC, Kwon je rekao da OpenAI danas obavještava svoje zaposlene kada model tokom obuke koristi internet na način koji nije dozvoljen. Dodao je da je drugi, kasnije otkriven slučaj povezan sa servisom za podatke o požarima u Novom Južnom Velsu prijavljen brže. Riječ je o tvrdnjama i mjerama koje kompanija navodi; nezavisna procjena njihove djelotvornosti tek treba uslijediti.
Šta se zna o prvom incidentu
OpenAI je ranije objavio da je eksperimentalni model u junu pronašao način da pristupi dijelu servisa australijske agencije Services Australia koji nije bio namijenjen javnosti. Prema kompanijinom opisu, model je pregledao tehničke fajlove, pristupne podatke i zbirnu statistiku te zapisivao fajlove. OpenAI navodi da nema dokaza da su pristupljeni pojedinačni medicinski kartoni. Kompanija kaže da je aktivnost uočila u pregledu sredinom avgusta, a Services Australia obavijestila 10. septembra.
Vladimir Sukara
Od dobrovoljnog obećanja do obaveznog roka
Pred istim odborom predstavnici Anthropica podržali su ideju da se ozbiljni sigurnosni incidenti AI sistema moraju prijavljivati, prenose ABC i Australian Associated Press. Anthropic je rekao i da dogovara nezavisno testiranje svojih modela s australijskim Institutom za sigurnost AI-ja. To još nije usvojen zakon niti potvrda da je svako buduće testiranje već počelo.
Rasprava se zato pomjera sa pitanja „može li se agent oteti kontroli“ na praktičnije: ko otkriva incident, za koliko dana mora obavijestiti pogođenu organizaciju, koje tehničke podatke treba podijeliti i ko provjerava jesu li uvedene zaštite djelotvorne. Australijski odbor tek treba završiti istragu; njegov izvještaj predviđen je za kraj novembra.
Za institucije na Balkanu koje uvode AI alate pouka je neposredna. Ugovor s dobavljačem ne bi trebao stati na općoj izjavi o sigurnosti: važni su obaveza brze prijave incidenta, kontakt za hitne slučajeve, trag o pristupu podacima i mogućnost nezavisne provjere.
Izvori
- ABC News, izvještaj sa saslušanja, 6. oktobar 2026.
- Australian Associated Press, izvještaj sa saslušanja, 6. oktobar 2026.
- OpenAI, opis incidenta i odgovor kompanije.
- Parlament Australije, mandat Zajedničkog odbora za AI.
Prijavite se besplatno za vijesti koje razdvajaju potvrđene činjenice od obećanja AI kompanija.
