Nvidijina alijansa od 120 firmi objavila prva pravila za AI agente
Sedmicu dana poslije osnivanja, alijansa Open Secure AI koju predvodi Nvidia okupila je preko 120 firmi i objavila prve prijedloge o tome kako se prijavljuju i analiziraju AI bezbjednosni incidenti. Među članovima su Microsoft, Cisco, Intel i Visa, ali ne i OpenAI, Google i Anthropic.
Sve što grupa objavi je otvorenog koda, pa i firma sa deset ljudi može to koristiti bez plaćanja licence.
Alijansa Open Secure AI, industrijska grupa koju predvodi Nvidia, za sedmicu dana narasla je na preko 120 firmi i već objavila prve prijedloge o bezbjednosti AI agenata. Radna grupa nosi ime Shared AI Findings Exchange, a prijedloge vodi Linux fondacija i otvoreni su za javne komentare. Nastali su tokom konferencije Black Hat u Las Vegasu. Za firme koje su počele da puštaju AI agente u svoje sisteme, ovo je prvi znak da se u toj oblasti stvara nekakav zajednički standard.
- Alijansa Open Secure AI ima preko 120 članica, među njima Adobe, BlackRock, Cisco, Intel, Microsoft i Visa.
- Prvi prijedlozi pokrivaju povjerljivu prijavu AI incidenata, obavještavanje pogođenih i analizu bez traženja krivca.
- Članice ulažu i sopstvene alate otvorenog koda, kao što su Nvidijin skener ranjivosti Garak i Amazonov Strands Agents.
- OpenAI, Google i Anthropic nisu se pridružili, iako su OpenAI i Google potpisali pismo iz kojeg je grupa nastala.
- Prijedloge vodi Linux fondacija i otvoreni su za komentare.
Šta se tačno desilo
Grupa je osnovana prije sedmicu dana i već je formirala radnu grupu Shared AI Findings Exchange. Njeni prijedlozi za sada nisu revolucionarni, ali su konkretni.
Pokrivaju tri stvari. Prvo, kako se povjerljivo prijavljuje incident u kojem je AI sistem umiješan. Drugo, kako se obavještavaju oni koji su pogođeni. Treće, kako se poslije radi analiza koja ne traži krivca nego pouku, da bi svi mogli da uče iz istog slučaja.
Uporedo s tim, članice ulažu dijelove svoje tehnologije otvorenog koda. Nvidia je ponudila porodicu otvorenih modela i skener ranjivosti za jezičke modele pod imenom Garak. Okta radi na identitetu za agente, Red Hat na upravljanju agentima, a Amazon je uložio alat za pravljenje agenata Strands Agents i jezik za dozvole Cedar.
Ideja je da se od tih dijelova vremenom sklopi otvoreni način da firma obezbijedi svoje AI agente ili se odbrani od tuđih koji se otrgnu kontroli.
Kontekst i konkurencija
Spisak članova je impresivan, ali su odsutni jednako zanimljivi. OpenAI, Google i Anthropic nisu ušli u grupu, iako su OpenAI i Google potpisali pismo koje ju je pokrenulo. To pismo je predvodila Nvidia, potpisalo ga je preko 200 firmi, a tražilo je od Bijele kuće da podrži otvorene AI modele umjesto da ih guši.
Povod za sve to bila je vijest da administracija razmatra zabranu kineskih otvorenih modela. Industrija je reagovala brzo, jer bi takva zabrana pogodila i američke firme koje na tim modelima grade proizvode.
Anthropic se nije pridružio ni pismu ni grupi, što je u skladu sa ranijim stavom te kompanije o otvorenim modelima. Google i OpenAI imaju sopstvene otvorene modele, pa njihovo odsustvo iz grupe više liči na oprez nego na neslaganje.
Naša perspektiva, šta ovo znači za region
Za firmu koja je već pustila AI agenta da radi nešto samostalno, ovo je konkretna prilika. Sve što grupa objavljuje ide kao otvoreni kod, bez licence i bez pretplate. Alat za skeniranje ranjivosti jezičkog modela ili jezik za definisanje dozvola jednako radi i za firmu sa hiljadu ljudi i za onu sa deset.
Konkretno, softverska firma koja klijentima isporučuje rješenja sa AI agentom sada može reći da prati javno objavljene prijedloge za prijavu incidenata. To u ponudi vrijedi više nego rečenica da je sve bezbjedno.
Druga stvar je odgovornost. Kada agent nešto pogriješi, prvo pitanje je ko je za to odgovoran. Postojanje javnog postupka za prijavu i analizu incidenata daje firmi okvir za odgovor. Bez toga se svaki incident rješava improvizacijom.
Treba biti realan i oko toga koliko ovo danas vrijedi. Prijedlozi su još u fazi komentara i nisu obavezujući. Ali vrijedi ih pratiti, jer se ovakve stvari brzo pretvore u ono što klijenti počnu da traže u tenderima.
Zaključak
Brzina kojom je grupa proradila govori da industrija hoće da sama postavi pravila prije nego što to urade regulatori. Ono što treba pratiti jeste hoće li se OpenAI, Google i Anthropic pridružiti, jer bez najvećih laboratorija ovakva pravila pokrivaju samo jednu stranu problema.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na jezik konkretnih posljedica za tvoj posao, prijavi se na AI Balkan newsletter.
Pročitaj i:
Vladimir Sukara
