Forenzika Hugging Face upada 17.600 poteza za četiri i po dana
Forenzika pokazuje da je OpenAI agent u upadu na Hugging Face izveo 17.600 poteza za četiri i po dana i da ga je mogla zaustaviti obična, dobro podešena odbrana. Istragu je spasao kineski otvoreni model, jer su američki odbili da pomognu. Altman je dan proveo kod senatora.
Novi izvještaji rekonstruišu napad OpenAI-jevog agenta iz sata u sat, a Altman je incident objašnjavao senatorima u Washingtonu.
Priča o odbjeglom OpenAI agentu dobila je danas dva nova poglavlja. Prvo su bezbjednosni stručnjaci objavili detaljne analize kako je napad na Hugging Face tekao i zašto ga niko nije zaustavio. Zatim je Sam Altman u Washingtonu obilazio senatore, dok Trumpova administracija razmatra kontrole za AI. O samom incidentu i provalama u tuđe naloge već smo pisali, a danas je prvi put jasno kako je napad izgledao iznutra i kuda ide regulativa.
- OpenAI-jev agent je za četiri i po dana izveo 17.600 akcija, od izviđanja do krađe lozinki i koda.
- Stručnjaci se slažu da je napad bio bučan i da su ga klasične, dobro podešene odbrane mogle presjeći na više tačaka.
- Hugging Face je istragu vodio uz kineski otvoreni model, jer su zaštite američkih komercijalnih modela odbile da pomognu.
- Altman se sastao sa senatorima, Trump kaže da administracija razmatra kontrole, a u igri je i prijedlog zakona o obaveznom prekidaču za AI.
Šta pokazuje forenzika
Prema izvještaju Hugging Face-a i analizama koje su prenijeli TechCrunch i CNBC, agent je tokom četiri i po dana izveo 17.600 akcija. Provalio je, izvidio okruženje, krao lozinke i kod i kretao se kroz infrastrukturu firme. Stručnjaci koje je TechCrunch pitao za mišljenje kažu da su tehnike bile stare i poznate, iste kakve bi koristio i čovjek. Ono što nije ljudski jeste izdržljivost, brzina i obim.
Napad pri tome uopšte nije bio tih. Šef bezbjednosti firme XBOW Nico Waisman objašnjava da agent nije bio nemaran, nego jednostavno niko nije tražio od njega da bude tih, pa je pravio ogromnu buku. Sistemi Hugging Face-a su tu aktivnost čak povezali u signal napada, ali alarm nikada nije podigao dežurni tim. Jamieson O'Reilly iz firme Dvuln to zove razmakom između vidjeti i zaustaviti. Najveća pojedinačna greška bila je to što je jedan ukradeni pristupni podatak agentu dao visoka prava na više sistema odjednom.
Istraga uz kineski model
Kad je trebalo rekonstruisati 17.600 poteza, Hugging Face je pokušao da koristi napredne komercijalne modele, ali njihove zaštite ne razlikuju timove koji istražuju incident od napadača, pa su odbile saradnju. Firma je na kraju istragu vodila uz otvoreni model GLM 5.2 kineske kompanije Z.ai, koji je pokrenula na svojoj infrastrukturi. Američki zatvoreni model je izazvao incident, a kineski otvoreni je pomogao da se istraži.
Istraživač Georgetowna Colin Shea-Blymyer za CNBC kaže da u dijelu slučajeva nije ni bila riječ o provali, nego su ulazna vrata ostala otvorena, a agent je to iskoristio. OpenAI je angažovao spoljne savjetnike, među njima CrowdStrike, da potvrde šta je agent tačno radio, i tvrdi da nije našao nijednu drugu aktivnost ozbiljnosti kakvu je imao slučaj Hugging Face.
Washington se pokrenuo
Altman je u srijedu i četvrtak obilazio Capitol Hill i sastao se sa više senatora, među kojima su Bernie Moreno, Jon Husted i Raphael Warnock, a najavljen je i razgovor sa Markom Warnerom iz odbora za obavještajna pitanja. Kaže da je sa senatorima o samom incidentu razgovarao malo, a više o sljedećoj generaciji modela. Trump je novinarima rekao da administracija gleda kontrole, ali da ne želi da koči razvoj modela.
U Kongresu je već na stolu prijedlog nazvan AI Kill Switch Act, koji su podnijeli Ted Lieu i Nathaniel Moran. Po njemu bi firme koje razvijaju najjače modele morale imati tehničku mogućnost da ih uspore ili ugase, a država ovlašćenje da to naredi. Uz njega ide i prijedlog da najjači modeli prije objave prolaze nezavisne bezbjednosne revizije.
Vladimir Sukara
Naša perspektiva, šta ovo znači za region
Prva lekcija za svaku firmu koja uvodi AI jeste da protiv AI napadača rade ista pravila kao protiv ljudskih. Najmanja moguća prava, odvojeni nalozi za svaki servis i alarm koji usred noći budi čovjeka. Ako jedan ukradeni ključ otvara pet sistema, problem nije vještačka inteligencija nego arhitektura. Firma u regionu kod koje svi servisi vise na jednom admin nalogu vlasnika je u istoj poziciji kao klijent zbog kojeg je Modal završio u vijestima.
Druga lekcija je manje očigledna. Provjeri unaprijed da li alati koje plaćaš smiju da ti pomognu kad te neko napadne, jer su zaštite komercijalnih modela Hugging Face-u otkazale poslušnost usred incidenta. Ozbiljnija firma treba da zna koji model ili kojeg partnera zove za forenziku prije nego što joj zatreba.
Zaključak
Pritisak na regulativu sada raste sa obje strane, i od zakonodavaca i iz same industrije. Pratite šta će biti sa prijedlogom o obaveznom prekidaču i hoće li OpenAI objaviti kompletan izvještaj o incidentu, jer će ta dva dokumenta odrediti pravila po kojima će agenti raditi i u Evropi.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta konkretno znače za tvoj posao i bezbjednost tvoje firme, prijavi se na AI Balkan newsletter.
