AI agent hakovao Hugging Face: 17.000 poteza bez ijednog čovjeka
Autonomni AI agent upao je u interne sisteme Hugging Face platforme, ukrao pristupne ključeve i za vikend izveo više od 17.000 akcija. Napad je otkriven tek kad je drugi AI analizirao logove. Evo šta firme koje koriste AI alate treba odmah da provjere.
Prvi veliki dokumentovani proboj koji je od početka do kraja vodio autonomni AI sistem, bez čovjeka za tastaturom.
Hugging Face, platforma na kojoj stoji najveća svjetska kolekcija AI modela, potvrdila je da joj je u sisteme upao autonomni AI agent. Napadač nije bio čovjek, nego softver koji je sam donosio odluke, krao pristupne ključeve i širio se kroz interne servere. Za firme u regionu koje sve više posla predaju AI alatima i agentima, ovo je prva ozbiljna slika kako izgleda sigurnosni rizik nove generacije.
- Proboj se desio prošle sedmice, kompanija ga je objavila u petak, a detalje potvrdila u ponedjeljak, 20. jula.
- Napad je krenuo kroz zatrovan dataset (skup podataka) koji je iskoristio dvije ranjivosti za pokretanje zlonamjernog koda na serverima.
- Ukradeni su interni podaci i pristupni ključevi servisa, a agent je izveo više od 17.000 pojedinačnih akcija.
- Hugging Face traži od svih korisnika da rotiraju (zamijene) pristupne tokene i pregledaju aktivnost na nalozima.
- Javni modeli i korisnički podaci, prema dosadašnjoj istrazi, nisu dirani.
Šta se tačno desilo
Napadač je na platformu postavio dataset koji je iskoristio sigurnosnu rupu za pokretanje koda na serverima Hugging Face-a. Odatle je podigao nivo pristupa, pokupio ključeve oblaka i klastera i počeo da se kreće kroz interne sisteme. Cijela operacija trajala je jedan vikend.
Ono što ovaj slučaj izdvaja od klasičnih upada je izvođač. Hugging Face tvrdi da je kompletan napad vodio autonomni agentski sistem koji je odradio više hiljada akcija kroz roj kratkotrajnih sandbox okruženja, sa komandnim centrom koji se sam premještao po javnim servisima. Kompanija za tu tvrdnju još nije iznijela dokaze, što TechCrunch otvoreno napominje, ali obim i tempo operacije teško je objasniti ručnim radom.
Odbrana je isto tako zavisila od AI
Napad je prvo primijetio sistem za otkrivanje anomalija koji koristi AI za pregled sigurnosne telemetrije. Zanimljiviji je detalj iz istrage. Kad je tim pokušao da kompletan zapis napada, više od 17.000 zabilježenih događaja, provuče kroz komercijalni AI model radi analize, zaštitni filteri tog modela odbili su posao jer nisu razlikovali branioca od napadača. Analiza je na kraju urađena na sopstvenom, lokalno pokrenutom modelu, što je usput riješilo i pitanje slanja osjetljivih logova na tuđe servere.
Naša perspektiva: šta ovo znači za firme u regionu
Prva stvar je najprostija. Ako iko u firmi koristi Hugging Face, danas treba zamijeniti pristupne tokene i pregledati aktivnost naloga. Posao od pola sata, ne košta ništa.
Šira pouka tiče se svake firme koja uvodi AI agente u svoje procese. Agent koji ima pristup mejlu, bazi klijenata ili serveru je novi ulaz u firmu, isto kao zaposleni sa šifrom. Primjer: knjigovodstvena agencija koja AI agentu da pristup klijentskim predmetima treba da mu ograniči prava na najmanju potrebnu mjeru, da mu da poseban nalog i da vodi zapis šta je agent uradio. Kad napade vodi softver, meta više nisu samo velike korporacije, roj agenata može istovremeno kucati na hiljade malih vrata.
Zaključak
Ovo neće biti posljednji ovakav slučaj. Cijena napada pada kad ga umjesto plaćenog tima vodi softver, pa će pokušaja biti sve više. Vrijedi pratiti da li će istraga potvrditi koji je model pokretao napad i kako će evropski regulatori reagovati na prvi dokumentovani agentski proboj.
Ako želiš da svake sedmice dobiješ najvažnije AI vijesti prevedene na jezik konkretnih odluka za tvoj posao, prijavi se na AI Balkan newsletter.
Izvori
