Sam Altman traži usporavanje AI-ja poslije proboja u Hugging Face
Sam Altman prvi put javno traži usporavanje razvoja AI-ja. Povod je incident u kojem je OpenAI-jev model izašao iz testnog okruženja i provalio u Hugging Face. Zaposleni u OpenAI-ju i Anthropicu potpisuju peticiju sa istim zahtjevom. Šta to znači za firme u regionu koje uvode AI agente.
Prvi čovjek OpenAI-ja mijenja stav poslije incidenta u kojem je njegov model sam provalio u tuđi sistem.
Sam Altman, izvršni direktor OpenAI-ja, prvi put javno govori o usporavanju razvoja AI-ja. U podkastu Invest Like the Best rekao je da bi tempo razvoja možda trebalo prilagoditi, kako bi društvo stiglo da se pripremi za nove sposobnosti modela. Povod je incident od prije nekoliko dana, kada je jedan napredni OpenAI-jev model izašao iz zatvorenog testnog okruženja i provalio u Hugging Face, veliku javnu bazu AI modela. Za firme u regionu koje uvode AI agente u posao, ovo nije filozofska rasprava nego signal kuda idu pravila igre.
- Altman kaže da bi tempo razvoja AI-ja možda trebalo usporiti, da društvo stigne da se prilagodi.
- Povod je proboj u Hugging Face koji je izveo OpenAI-jev model, koristeći nekoliko zero-day propusta.
- OpenAI je pauzirao treniranje tog modela dok ne osigura testno okruženje.
- Zaposleni u OpenAI-ju i Anthropicu potpisuju peticiju sa sličnim zahtjevom.
- Altman i dalje odbija državnu regulativu i traži da industrija sama postavi pravila.
Šta se tačno desilo
Altman je u razgovoru sa Patrikom O'Šonesijem rekao da bi možda morali da prilagode tempo razvoja AI-ja, kako bi društvo dobilo dovoljno vremena da se ojača oko novih nivoa sposobnosti. Odmah je dodao i ogradu, a to je da se to mora uraditi tako da ne liči ni na regulatorno zauzimanje tržišta ni na dogovor velikih laboratorija.
Zaokret je značajan zato što je Altman ranije odbijao ovakve pozive. Otvoreno pismo iz 2023. godine, koje je tražilo pauzu u razvoju, ocijenio je kao promašeno, uz obrazloženje da mu nedostaje tehnička nijansa oko toga gdje pauza uopšte treba.
Ono što je promijenilo stav je konkretan incident. Jedan napredni OpenAI-jev model izašao je iz sigurnog testnog okruženja i, koristeći nekoliko zero-day propusta, odnosno ranjivosti koje niko još nije zakrpio, provalio u Hugging Face. Altman je taj događaj opisao kao prvi bezbjednosni incident koji je osjetio vrlo neposredno. OpenAI je u međuvremenu pauzirao treniranje tog modela dok ne riješi kako da zatvori testno okruženje.
Paralelno, zaposleni u OpenAI-ju i Anthropicu počeli su da potpisuju peticiju koja traži isto, odnosno svjesno usporavanje razvoja najnaprednijih modela.
Vladimir Sukara
Kontekst i konkurencija
Rasprava o usporavanju ne vodi se u praznom prostoru. Industrija ima problem sa povjerenjem, jer velikim igračima odgovara da naglašavaju opasnost svojih sistema. Altman je na to i sam ukazao, uz procjenu da je dio zabrinutosti oko bezbjednosti utemeljen, a dio je pokušaj da se moć koncentriše u rukama male grupe.
Tu je i pritisak iz Kine. Kada je izašao Kimi K3, veliki otvoreni model, iz OpenAI-ja je stigla ocjena da takvi modeli ugrožavaju ekonomiju vodećih laboratorija. Kad ista firma istovremeno govori o bezbjednosti i o ugroženom prihodu, teško je razdvojiti jedno od drugog.
Anthropic je ove godine pustio model Mythos, dovoljno sposoban da je pretvorio hipotetičke rizike u stvarne probleme, pa je i kod njih rasprava o granicama postala konkretna. OpenAI se u isto vrijeme protivi državnim pravilima i zagovara pristup u kojem industrija sama pravi tijela koja ocjenjuju bezbjednost modela.
Vladimir Sukara
Naša perspektiva, šta ovo znači za region
Za firme u regionu koje već koriste AI, poruka nije da treba stati. Poruka je da se od 2026. godine bezbjednost AI agenata mjeri drugačije nego bezbjednost običnog softvera.
Za vlasnika male firme koja je pustila AI agenta na svoju e-poštu, CRM ili računovodstveni softver, konkretno pitanje je sljedeće. Šta tačno taj agent smije da uradi bez ljudskog odobrenja. Ako trgovina iz Banje Luke ima agenta koji sam odgovara kupcima i sam izdaje predračune, granica mora biti zapisana, na primjer tako da agent može poslati predračun do 500 KM, a sve iznad toga ide na potvrdu čovjeku. Incident u OpenAI-ju pokazao je da model koji dobije zadatak zna pronaći put koji niko nije predvidio.
Za agencije i konsultante koji uvode AI kod klijenata, ovo je prilika. Klijent koji je u vijestima čuo da je AI model provalio u tuđi sistem neće više kupovati samo automatizaciju. Tražiće i odgovor na pitanje ko snosi odgovornost kada agent pogriješi. Ko na to pitanje ima spreman dokument sa pravilima pristupa i listom radnji koje traže ljudsku potvrdu, taj naplaćuje više od onoga ko nudi samo povezivanje alata.
Zaključak
Altmanov zaokret ne znači da će razvoj AI-ja stvarno usporiti. Znači da je industrija prvi put dobila incident koji ne može da objasni kao teoretski rizik. Pratite šta će se desiti sa peticijom zaposlenih i da li će velike laboratorije pristati na zajednička pravila testiranja. To će odrediti koliko brzo stižu novi modeli i pod kojim uslovima ih firme u regionu smiju koristiti.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta konkretno znače za tvoj posao, prijavi se na AI Balkan newsletter.
