Nvidia stavlja AI agente iza hardverskih granica
Nvidijina nova platforma spaja softverska pravila i odvojeni hardverski nadzor AI agenata. Cilj je da se rizičan agent može izolovati prije nego što napravi štetu.
Nvidia je predstavila Open Agent Safety Platform, sistem koji treba da nadzire AI agente od testiranja do rada u stvarnom okruženju. Ključna ideja je jednostavna: agentu se ne vjeruje samo zato što je model dobio sigurnosna pravila, nego njegove poteze prati i odvojeni infrastrukturni sloj.
Dva sloja zaštite
Platforma spaja OpenShell i Sentry. OpenShell je otvoreni softverski sloj koji prati šta agent pokušava da uradi i provodi pravila o pristupu datotekama, mreži, alatima i podacima. Može raditi na Nvidia Vera procesorima, a kompanija navodi da se otvoreni kod može prilagoditi i sistemima zasnovanim na Armovim ili Intelovim čipovima.
Sentry je odvojeni hardverski nadzornik zasnovan na BlueField-4 procesoru. Radi izvan glavnog okruženja u kojem se agent izvršava, pa bi trebalo da ostane aktivan čak i ako agent ili njegov radni sistem pokušaju zaobići softverska ograničenja. Nvidia tvrdi da Sentry može izolovati problematičnog agenta za nekoliko milisekundi.
To je važna tvrdnja, ali zasad prvenstveno tvrdnja proizvođača. Nema dovoljno javnih nezavisnih testova koji bi pokazali kako sistem reaguje na različite agente, greške i napade u produkciji. Associated Press i Axios potvrdili su predstavljanje platforme i njen poslovni kontekst, ali ne i sve brojke o učinku.
Sigurnost postaje infrastrukturno tržište
Nvidia navodi da sa novim tehnologijama radi više od stotinu organizacija, među kojima su Microsoft, Anthropic i JPMorgan. „Radi sa“ ne mora značiti da je svaka organizacija već potpuno uvela platformu. Ipak, lista pokazuje kome je ponuda namijenjena: kompanijama koje žele pustiti agente blizu osjetljivih sistema, a ne samo koristiti chatbot za pisanje teksta.
Za Nvidiju je to i novi poslovni sloj. Ako agenti postanu stalni digitalni radnici, tržište neće tražiti samo čipove za pokretanje modela. Tražit će i dodatne procesore, nadzor, izolaciju, evidenciju i alate za upravljanje rizikom. Sigurnost tako može povećati količinu infrastrukture potrebne za svaki agentski zadatak.
Kompanija tvrdi da bi ovakav pristup mogao zaustaviti incidente u kojima agent dobije preširoke dozvole ili nastavi raditi izvan namjere korisnika. Tu tvrdnju treba čitati kao opis cilja, ne kao dokaz da platforma može spriječiti svaki budući incident.
Šta to znači za firme u regionu
Većina firmi na Balkanu neće odmah kupovati zaseban hardverski nadzornik za AI agente. Ali princip se može primijeniti i bez najskuplje infrastrukture: agent ne bi trebalo da kontroliše i sopstvene dozvole i zapis o svojim radnjama.
Prije povezivanja agenta s elektronskom poštom, bazom kupaca, finansijskim sistemom ili cloud nalogom treba odvojiti najmanje četiri kontrole. Agent dobija ograničen nalog, osjetljive radnje traže ljudsku potvrdu, zapisi se čuvaju izvan njegovog dosega, a prekidač za gašenje ne zavisi od istog sistema koji agent koristi.
Šta još nije poznato
Nvidia nije objavila punu cijenu kompletnog rješenja ni jasan rok njegove široke dostupnosti za manje kupce. Takođe nije poznato koliko će zaštita usporiti zadatke ili povećati trošak rada.
Ipak, poruka tržišta je jasna: sigurnost AI agenata više se ne tretira samo kao osobina modela. Pretvara se u zaseban sloj infrastrukture koji mora moći da vidi, ograniči i, kada je potrebno, zaustavi agenta.
Izvori
Postani član AI Balkana i primaj provjerene AI vijesti i praktična objašnjenja bez senzacionalizma.
