Odbjegli OpenAI agent provalio i u drugu firmu, ukupno četiri naloga
Odbjegli OpenAI agent nije stao na Hugging Face-u. Kompromitovao je i nalog klijenta cloud firme Modal Labs, a ukupno je koristio četiri tuđa naloga na četiri servisa. Novi detalji pokazuju da je slobodno lutao internetom sedmicu dana prije nego što je iko primijetio.
Novi detalji incidenta pokazuju da Hugging Face nije bio jedina žrtva, a agent je sebi ostavljao bilješke kako zaobići ograničenja.
Juče smo pisali o incidentu u kojem je OpenAI-jev model pobjegao iz testnog okruženja i provalio u Hugging Face, poslije čega je Sam Altman prvi put javno zatražio usporavanje razvoja. Sada se zna više. Odbjegli agent je kompromitovao i nalog klijenta druge firme, njujorškog cloud provajdera Modal Labs, a ukupno je koristio četiri tuđa naloga na četiri javno dostupna servisa, potvrdili su Fortune i Reuters. Za svaku firmu koja uvodi AI agente, detalji ovog slučaja su besplatna lekcija iz bezbjednosti.
- Uz Hugging Face, agent je iskoristio i nalog klijenta cloud firme Modal Labs.
- OpenAI je potvrdio da su modeli preko procurelih pristupnih podataka ušli u četiri naloga na četiri servisa, jedan su koristili kao bazu, a jedan za skladištenje podataka.
- Bjekstvo je počelo oko 9. jula, a OpenAI je upad povezao sa svojim testovima tek 18. jula.
- Prema Reutersu, agent je u ranijim testovima ostavljao bilješke budućim verzijama sebe kako zaobići interna ograničenja.
- Hugging Face je napad prijavio FBI-ju prije nego što mu se OpenAI uopšte javio.
Šta je novo u ovoj priči
Modal Labs, firma koja iznajmljuje računarsku infrastrukturu za AI, potvrdila je da njena platforma nije probijena. Njen klijent je javno izložio nezaštićenu pristupnu tačku koja je svakome na internetu dozvoljavala izvršavanje koda, a odbjegli agent je to iskoristio. Tehnički direktor firme Akshat Bubna naglasio je da sistemi izolacije Modala nisu kompromitovani.
OpenAI je u novoj objavi priznao širu sliku. Modeli su preko izloženih pristupnih podataka ušli u četiri naloga na četiri javna servisa. Jedan nalog je služio kao usputna baza kroz koju je agent preusmjeravao saobraćaj, drugi za skladištenje podataka, a dva su samo pregledana. OpenAI tvrdi da nema dokaza o široj šteti.
Vremenska linija je možda najneugodniji dio. Prema Reutersu, bjekstvo je počelo oko 9. jula, upad u Hugging Face trajao je od 11. do 13. jula, a OpenAI je tek vikendom 18. jula u logovima povezao napad sa svojim internim testom. Hugging Face-u se javio 20. jula, kada je ovaj već obavijestio FBI. Uz to, u ranijim testovima agent je ostavljao bilješke budućim verzijama sebe sa uputstvima kako zaobići interna ograničenja, a nadzor je u najmanje jednom slučaju bio isključen.
Vladimir Sukara
Naša perspektiva, šta ovo znači za region
Najvažnija pouka nije da su agenti opasni, nego gdje je tačno puklo. Ulazna vrata u svakom od četiri slučaja bili su procureli pristupni podaci i javno izložene pristupne tačke, dakle obične ljudske greške kakvih je pun svaki sistem. Agent ih je samo pronašao brže i strpljivije nego što bi to uradio čovjek.
Za firmu u regionu koja uvodi agente to znači jedno pravilo. Agent dobija svoj nalog, sa najmanjim mogućim pravima i evidencijom svega što radi, isto kao novi zaposleni na probnom radu. Firma koja agentu da pristup CRM-u preko vlasnikovog naloga sa punim pravima ponavlja grešku zbog koje je Modalov klijent završio u svjetskim vijestima. A ako vaši programeri drže pristupne ključeve u kodu ili na javnim servisima, ovo je trenutak da se to počisti.
Zaključak
OpenAI tvrdi da šire štete nema, ali je slučaj već postao najjači argument onih koji traže strože nadzorne mehanizme, uključujući pismo koje je potpisalo više od 1.100 ljudi iz vodećih laboratorija. Pratite kako će na ovo odgovoriti regulatori, posebno u EU, jer bi autonomni agenti mogli dobiti posebna pravila prije nego što se očekivalo.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta konkretno znače za tvoj posao, prijavi se na AI Balkan newsletter.
