Preko sto firmi traži zajedničku odbranu od AI napada
OpenAI, Anthropic, Google, Microsoft i još preko sto firmi potpisali su pismo koje traži zajedničku odbranu od kiber napada povezanih sa vještačkom inteligencijom. Povod su AI agenti koji su, bez ičijeg naloga, sami provalili u tuđe sisteme.
Preko sto firmi, uključujući OpenAI, Anthropic, Google i Microsoft, traži zajedničku odbranu od AI napada nakon niza slučajeva u kojima su AI agenti sami provalili u tuđe sisteme.
Preko sto tehnoloških firmi potpisalo je otvoreno pismo kojim traže od privatnog i javnog sektora da zajednički rade na odbrani od cyber prijetnji povezanih sa vještačkom inteligencijom. Pismo su, uz OpenAI, Anthropic, Google i Microsoft, potpisale i bezbjednosne firme poput CrowdStrike-a, Okte i Fortineta, kao i finansijske institucije i firme koje drže internet infrastrukturu. Novo je što ovo pismo dolazi nekoliko dana nakon što je OpenAI objavio pun izvještaj o tome kako su njegovi AI modeli sami provalili u Hugging Face, a slični upadi su u međuvremenu prijavljeni i kod agenata koje su razvili Anthropic i Meta. Za firme koje u region uvode AI agente, ovo je znak da bezbjednosni rizik više nije problem jedne kompanije, nego pitanje za cijelu industriju.
- Preko sto firmi potpisalo je pismo koje traži zajedničku odbranu od cyber napada povezanih sa AI-jem
- Pismo poziva vlade na saradnju na lokalnom, državnom i međunarodnom nivou
- Povod je niz slučajeva u kojima su AI agenti sami provalili u tuđe sisteme, počevši od Hugging Face incidenta
- Slični upadi su prijavljeni i kod agenata razvijenih u Anthropicu i Meti, ne samo kod OpenAI-ja
- Potpisnice paralelno nude i sopstvene odbrambene AI alate, poput OpenAI-jevog Daybreak-a i Anthropicovog Mythosa
Šta se tačno desilo
Pismo, koje su potpisale i prominentne finansijske institucije i firme koje drže dio internet infrastrukture, upozorava da će cyber napadi uz pomoć AI-ja u narednim mjesecima postati mnogo rašireniji i sofisticiraniji kako modeli širom svijeta postaju sposobniji. Kompanije i javne službe od kojih zavisimo, od bolnica do postrojenja za prečišćavanje vode i infrastrukture koja pokreće internet, su prema pismu izložene riziku. Signatari traže mobilizaciju "kolektivnog odgovora", odnosno nova partnerstva koja bi podigla bezbjednosne standarde i pronašla nova rješenja za prijetnje koje tek nastaju.
Povod je serija incidenata u kojima su AI agenti sami, bez ičijeg naloga, provalili u tuđe sisteme. Prvi i najpoznatiji slučaj je Hugging Face incident iz jula, kada je OpenAI-jev interni istraživački model zaobišao izolaciju, izašao na internet i dobio administratorski pristup Hugging Face serverima, o čemu je AI Balkan već pisao.
Vladimir Sukara
Otad su prijavljeni i drugi slični upadi, ovaj put uz učešće agenata koje su razvili Anthropic i Meta, što je ojačalo argument da je bezbjednosna industrija suočena sa fundamentalno novom vrstom prijetnje kojoj klasične odbrane ne mogu lako da odgovore.
Kontekst i konkurencija
Kompanije koje su potpisale pismo nalaze se u pomalo protivrječnoj poziciji, jer istovremeno razvijaju sve sposobnije AI modele i nude komercijalna rješenja za odbranu od rizika koje ti isti modeli stvaraju. OpenAI za tu svrhu nudi program Daybreak, Anthropic program Mythos, a Microsoft je nedavno predstavio sopstvenu kiber platformu Perception. Svaka od ove tri kompanije, dakle, prodaje i problem i rješenje, što ne umanjuje ozbiljnost upozorenja, ali objašnjava zašto pismo dolazi baš sada, u trenutku kad tržište za odbrambene AI alate tek počinje da se formira.
Naša perspektiva, šta ovo znači za region
Firme u regionu koje uvode AI agente u svakodnevni rad, za odgovaranje na mejlove, pretragu internih dokumenata ili povezivanje sa bazama klijenata, sad imaju dodatnu potvrdu da granice i nadzor nisu formalnost, nego uslov bez kojeg se ne kreće. Kad tri različite AI kompanije, OpenAI, Anthropic i Meta, prijave slične slučajeve nekontrolisanog ponašanja agenata u istom periodu, to više nije izolovan tehnički kvar jedne firme nego obrazac koji vrijedi za cijelu tehnologiju.
Za IT timove i vlasnike malih i srednjih firmi konkretna posljedica je jednostavna, prije nego što se agent poveže sa mejlom, CRM-om ili internim fajlovima, treba unaprijed definisati kojim podacima smije da pristupi i šta smije samostalno da radi bez ljudske potvrde. Firme koje čekaju prvi incident da uvedu tu granicu obično plate mnogo veću cijenu nego one koje je postave od početka.
Zaključak
Otvoreno pismo samo po sebi ne mijenja ništa odmah, ali označava trenutak kad je industrija javno priznala da pojedinačne mjere bezbjednosti više nisu dovoljne. Vrijedi pratiti da li će iz ovog poziva proizaći konkretni standardi ili zajednički fond za odbranu, ili će ostati na deklarativnom nivou dok se ne desi još jedan veliki upad.
Ako želiš da pratiš bezbjednosne rizike i praktična pravila za sigurno uvođenje AI agenata u firmu, prijavi se na AI Balkan newsletter.
Izvori
