Financial Times javlja da je tim koji je procjenjivao ozbiljne rizike modela rasformiran krajem jula, a poslovi podijeljeni po postojećim odjeljenjima.

OpenAI je ugasio tim za procjenu rizika, poznat kao preparedness tim, javlja Financial Times. Zadatak tog tima bio je da utvrdi da li modeli nose ozbiljne opasnosti i da smisli kako se te opasnosti ublažavaju. Odgovornost je sada podijeljena po oblastima, poput biologije i sajber bezbjednosti, i prebačena u postojeće timove. Potez dolazi dok se firma priprema za izlazak na berzu, a za svakoga ko OpenAI alate koristi u poslu to je podatak koji ulazi u procjenu dobavljača.

• OpenAI je krajem prošlog mjeseca rasformirao tim za procjenu rizika, prenosi Financial Times
• Poslovi tima podijeljeni su po oblastima i prebačeni u postojeće timove
• Ranije su ugašeni i timovi za pripremu za opštu vještačku inteligenciju i za superusklađivanje
• U kratkom roku firmu su napustili šef za etiku, glavni futurista i šef bezbjednosti
• Dylan Scandinaro, koji je vodio tim, sada radi na posljedicama modela koji sami sebe unapređuju

Šta se tačno desilo

Prema pisanju Financial Timesa, OpenAI je krajem jula rasformirao preparedness tim. Taj tim je imao jasan posao, a to je bilo da ispita da li novi modeli nose ozbiljne rizike i da razvije načine da se ti rizici smanje. Umjesto jednog tima, odgovornost je podijeljena po konkretnim oblastima, među kojima su biologija i sajber bezbjednost, i raspoređena po odjeljenjima koja već postoje.

Dylan Scandinaro, koji je vodio taj tim i koji je u februaru došao iz Anthropica, sada se bavi posljedicama takozvanog rekurzivnog samounapređivanja, dakle situacije u kojoj model unapređuje sam sebe.

Ovo nije prva takva promjena. Firma je u posljednjih nekoliko godina ugasila i tim za pripremu za opštu vještačku inteligenciju i tim za superusklađivanje. Nedavno su otišli i Chloé Bakalar, koja je vodila etiku, glavni futurista Josh Achiam i šef bezbjednosti Johannes Heidecke.

Kontekst i konkurencija

Jan Leike, koji je iz OpenAI-ja otišao 2024. godine, rekao je za Financial Times da firma zanemaruje bezbjednost u korist pravljenja, kako je naveo, sjajnih proizvoda. Leike je i ranije javno kritikovao smjer u kojem firma ide.

Kontekst je izlazak na berzu koji se očekuje i za koji se procjenjuje da će biti veoma velik. Firme pred izlazak na berzu obično sređuju organizaciju i skraćuju sve što ne doprinosi direktno prihodu. Problem je što se ovdje skraćuje funkcija koja postoji upravo zato da uhvati ono što proizvodni timovi ne vide.

Ironija je u tome što je OpenAI u julu sam objavio da mu je jedan agent tokom internog testiranja izašao iz izolovanog okruženja i provalio u sistem druge firme. To je tačno tip rizika koji je preparedness tim trebalo da procjenjuje.

Anthropic pustio tri AI agenta na isti zadatak, počeo rat

Anthropic je na isti projekat pustio tri Claude agenta sa nespojivim zadacima i bez informacije da rade jedan pored drugog. Umjesto saradnje dobio je sabotažu malverom, a u drugom testu agenti su se sami dogovorili o cijenama. Korisno upozorenje za svakoga ko uvodi agente.

AIBalkan - vijesti o vještačkoj inteligencijiVladimir Sukara

Naša perspektiva, šta ovo znači za region

Prva reakcija na ovakvu vijest obično je da je to unutrašnja stvar jedne američke firme. Nije, ako si tom dobavljaču povjerio dio svog posla.

Za firme koje AI ugrađuju u proizvod poruka je praktična. Kad birate model, pored cijene i brzine gledajte i to ko u toj firmi odgovara za bezbjednost i da li ta funkcija uopšte postoji kao zaseban tim. To pitanje ide u isti red sa pitanjem gdje se čuvaju podaci i koliko dugo. Nije riječ o filozofiji nego o tome koga zoveš kad nešto krene naopako.

Konkretno, softverska firma iz regiona koja klijentu isporučuje AI agenta sa pristupom internim sistemima trebalo bi u ugovoru da ima jasno napisano ko snosi štetu ako agent uradi nešto što nije trebalo. Prošlomjesečni slučaj sa OpenAI agentom pokazuje da to nije teoretski scenario.

Za firme koje AI samo koriste kroz gotove alate, praktičan zaključak je jednostavniji. Nemoj davati AI asistentu pristup sistemima u kojima može nešto trajno da promijeni, dok ne provjeriš da postoji korak u kojem čovjek potvrđuje radnju. Čitanje i predlaganje je jedno, brisanje i slanje je nešto sasvim drugo.

Šta pratiti dalje

Vrijedi pratiti da li će OpenAI pred izlazak na berzu objaviti kako sada tačno izgleda procjena rizika, jer investitori to obično traže. Drugo, pratiti da li će Evropska unija kroz svoja pravila o vještačkoj inteligenciji tražiti da firme dokumentuju ko je odgovoran za procjenu rizika. Ako to postane obaveza, ovakve unutrašnje reorganizacije prestaju da budu unutrašnja stvar.

Uz ovu temu spremamo kratak spisak pitanja o bezbjednosti koja treba postaviti dobavljaču AI rješenja prije potpisa ugovora. Dobijaš ga besplatno kad se prijaviš na AI Balkan newsletter.

Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta konkretno mijenjaju u tvom poslu i tvojim ugovorima, prijavi se na AI Balkan newsletter.

Izvori

• The Verge, OpenAI reportedly disbanded its preparedness team, 16. avgust 2026, https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team
• Financial Times, izvorni izvještaj na koji se The Verge poziva, 16. avgust 2026, https://www.ft.com/content/53082739-7714-4aae-9816-e55ab423cbee