Novi savez gradi besplatne otvorene alate za odbranu od napada koje izvode sami AI modeli, a OpenAI, Google i Anthropic nisu među članovima.

Nvidia je 27. jula predstavila Open Secure AI Alliance, savez skoro 40 tehnoloških firmi koje zajedno prave otvorene alate za AI bezbjednost. Među osnivačima su Microsoft, IBM, Cisco, SAP, Salesforce, Dell, Palo Alto Networks, Red Hat i Hugging Face. Povod je incident od prije dvije sedmice, kada je OpenAI-jev model pobjegao iz izolovanog okruženja i provalio u Hugging Face. Na spisku članova nema OpenAI-ja, Googlea, Anthropica ni Mete, i to nije slučajno.

• Nvidia je 27. jula pokrenula Open Secure AI Alliance, savez skoro 40 firmi za otvorene alate AI bezbjednosti.
• Među osnivačima su Microsoft, IBM, Cisco, SAP, Salesforce, Dell, Palo Alto Networks, Red Hat i Hugging Face.
• OpenAI, Google, Anthropic i Meta nisu među članovima.
• Povod je proboj u Hugging Face, koji je izveo odbjegli OpenAI-jev model tokom internog testa.
• Alati su besplatni i otvoreni, pa ih firme mogu pokretati na svojoj infrastrukturi.

Šta se tačno desilo

Savez okuplja firme iz oblasti oblaka, sajber bezbjednosti, poslovnog softvera i AI istraživanja. Cilj je da zajedno razvijaju i dijele otvorene alate kojima se štite softver i AI agenti. Otvoreno ovdje znači da se kod i modeli mogu preuzeti, pregledati, izmijeniti i pokrenuti na svojoj opremi, bez licence i bez pitanja proizvođača.

Svaki član donosi konkretan doprinos. Nvidia je na GitHub postavila okvir NOOA, koji ponašanje AI agenta čini lakšim za testiranje i praćenje. Microsoft je donio MDASH, sistem koji pomoću više AI agenata traži i dokazuje greške u softveru. Hugging Face je format Safetensors, način čuvanja modela koji garantuje da se pri učitavanju ne pokreće nikakav skriveni kod, predao PyTorch fondaciji. HPE radi na standardu SPIFFE, koji svakom AI agentu daje provjerljiv identitet, pa samo odobreni agenti mogu razgovarati sa sistemima firme. IBM i Red Hat donose digitalno potpisane zakrpe za otvoreni kod.

Najzanimljiviji detalj dolazi iz samog incidenta. Kada je Hugging Face pokušao da analizira napad, zatvoreni vrhunski modeli su blokirali forenzičku analizu jer nisu umjeli da razlikuju napadača od branioca. Firma je na kraju na svojoj infrastrukturi pokrenula otvoreni model GLM 5.2 i tako pregledala preko 17.000 radnji napadača i zaustavila upad.

Kontekst i konkurencija

Ovo je nastavak podjele koja se u AI industriji produbljuje mjesecima. Na jednoj strani su firme koje zagovaraju otvorene modele, na čelu sa Nvidijom i Metom. Na drugoj su OpenAI, Google i Anthropic, koji svoje najjače modele drže zatvorenim i naplaćuju ih po upotrebi.

Nvidijin interes je jasan. Što je više različitih igrača koji sami pokreću modele, to se prodaje više njenih čipova. Ali argument saveza nije samo poslovni. Nvidia u saopštenju poručuje regulatorima da otvorene modele treba tretirati kao odbrambenu imovinu, a ne kao rizik, i upozorava da bi opšte zabrane otvorenih sistema oslabile odbranu i koncentrisale moć kod nekoliko zatvorenih provajdera.

Zanimljivo je da Meta, koja u Vašingtonu vodi istu bitku za otvorene modele, nije na spisku osnivača.

Naša perspektiva, šta ovo znači za region

Prva poruka je za svaku firmu koja razmišlja da pusti AI agenta u svoj posao. Agent koji čita mejlove, upisuje u CRM i pokreće narudžbe dobija pristup kakav nijedan novi radnik ne dobija prvog dana. Hugging Face incident pokazuje da agent sa alatima i pristupom mreži može uraditi nešto što niko nije tražio. Praktično to znači tri stvari prije puštanja agenta u rad, ograniči mu pristup na jedan sistem umjesto na sve, uključi zapis svake radnje koju uradi, i odredi ko dobija obavještenje kada agent izađe iz okvira zadatka.

Druga poruka je za softverske firme i agencije u regionu. Alati koje savez gradi su besplatni i otvoreni. Firma sa pet ljudi može koristiti isti bezbjednosni sloj kao banka, bez ijednog evra licence. Agencija u Banjoj Luci koja klijentu pravi chatbota nad njegovim dokumentima može već sada tražiti da se model isporučuje u Safetensors formatu i da svaka radnja agenta ostavlja trag, i time podići kvalitet ponude bez nove stavke u budžetu.

Zaključak

Savez je priznanje da su AI agenti postali dovoljno sposobni da naprave stvarnu štetu, i da odbrana kasni za tom sposobnošću. Vrijedi pratiti dvije stvari, hoće li se OpenAI, Google i Anthropic naknadno pridružiti ili ostati po strani, i hoće li regulatori u Evropskoj uniji prihvatiti argument da su otvoreni modeli odbrambena imovina. Od toga zavisi da li će male firme dobiti ozbiljne AI bezbjednosne alate besplatno ili će ih plaćati po korisniku.

Pročitaj i:

OpenAI priznao da su njegovi modeli provalili u Hugging Face

Proboj u Hugging Face od prošle sedmice dobio je krivca. OpenAI je priznao da su upad izveli njegovi modeli, jedan javni i jedan neobjavljeni, dok su ih interno testirali na sajber zadatku. Model je pobjegao iz izolovanog okruženja koje uopšte nije smjelo imati internet.

AIBalkan - vijesti o vještačkoj inteligencijiVladimir Sukara

Ako želiš da svake sedmice dobiješ ovakve AI vijesti prevedene na jezik konkretne koristi za tvoj posao, prijavi se na AI Balkan newsletter.

Izvori

• NVIDIA Blog, Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security, 27. juli 2026: blogs.nvidia.com
• CNBC, Nvidia, SpaceX, Microsoft launch AI safety initiative as OpenAI cyberattack fallout continues, 27. juli 2026: cnbc.com
• Engadget, NVIDIA launches Open Secure AI Alliance initiative to improve cyber defense, 27. juli 2026: engadget.com