Snowflake pustio kontrolu za AI agente, 40 odsto firmi u riziku
Snowflake je pustio Cortex AI Gateway, kapiju koja kontroliše šta AI agenti smiju sa podacima firme i koliko smiju da potroše. Priča je važna i firmama koje Snowflake nikada neće koristiti, jer objašnjava dva problema koji se pojavljuju svuda gdje se pusti agent.
Agent koji radi pod vašim nalogom ima i vaše dozvole, a račun raste jer sam bira koji model će pozvati.
Snowflake je 28. jula pustio Cortex AI Gateway, sloj koji kontroliše šta AI agenti smiju da urade sa podacima firme i koliko smiju da potroše. Uz to je objavljena i saradnja sa pet firmi za upravljanje identitetom, među kojima su 1Password, SailPoint i Saviynt, koje inače konkurišu jedna drugoj. Priča je zanimljiva i firmama koje nikada neće koristiti Snowflake, jer objašnjava dva problema koji se pojavljuju svuda gdje se pusti AI agent, a to su bezbjednost i trošak.
- Snowflake je lansirao Cortex AI Gateway, centralnu kontrolu pristupa i troškova za AI agente.
- Agent koji radi pod nalogom zaposlenog nasljeđuje sve njegove dozvole, uključujući administratorske.
- Rješenje je da agent dobije vlastiti identitet, uz zapis i o agentu i o čovjeku koji ga je poslao.
- Gartner procjenjuje da će do 2027. godine 40 odsto firmi ugasiti ili ograničiti agente zbog propusta u kontroli.
- Troškovi rastu jer agent za jednostavan zadatak zna pozvati skup model i pokrenuti nepotrebne korake.
Šta se tačno desilo
Cortex AI Gateway radi kao kapija kroz koju prolazi svaka radnja AI agenta. Podržava preko 100 MCP servera, odnosno konektora preko kojih se agenti kače na alate firme, i na jednom mjestu drži pravila pristupa, prijavu, dozvole i zapisnik o tome ko je šta uradio.
Drugi dio priče su troškovi. Kapija daje finansijama i IT-ju jedinstven pregled potrošnje AI-ja i vezuje trošak za konkretan tim, agenta ili zadatak, uz mogućnost da se postavi gornja granica. Snowflake to objašnjava primjerom u kojem zaposleni pita internog asistenta nešto jednostavno, a zahtjev se usput preusmjeri na skuplji model za razmišljanje, pokrene dodatne pretrage kroz više sistema i aktivira korake koji nisu bili potrebni. Kod jednog zaposlenog to je sitnica. Kod stotinu ljudi i desetina agenata to je stavka na računu.
Treći dio je identitet. Nensi Vang iz 1Password-a opisala je uobičajenu grešku, a to je da firma jednostavno da agentu svoje pristupne podatke. Ako to uradi neko iz IT-ja sa administratorskim pravima, agent odjednom ima administratorski pristup svim sistemima. Ako se tom agentu podmetne zlonamjerna instrukcija, podaci mogu izaći iz firme. Gore od toga, zapisnik će pokazati da je radnju izvršio čovjek, jer je agent radio pod njegovim imenom.
Kontekst i konkurencija
Snowflake nije jedini. Isti prostor pokrivaju Salesforce, ServiceNow, Microsoft, Google i Okta, a kapija je nastala na osnovu ranije kupovine firme Natoma. Poenta trke je da onaj ko kontroliše šta agent smije da dodirne kontroliše i cijeli sloj odlučivanja nad podacima firme.
Brojke iza te trke su ozbiljne. Gartner procjenjuje da će do 2027. godine 40 odsto firmi ugasiti ili spustiti nivo autonomnih AI agenata zbog propusta u kontroli koji se otkriju tek kada nešto pođe naopako. IDC očekuje preko milijardu aktivnih AI agenata do 2029. godine i preko 1,3 biliona dolara ukupne potrošnje na agentski AI te godine.
Iz prakse dolazi i konkretan podatak. SailPoint navodi da kod klijenata vide odnos od najmanje deset ne-ljudskih identiteta na jednog zaposlenog, prije nego se uračunaju alati i servisi koje svaki agent dodiruje. Kod firme sa 16 hiljada zaposlenih to znači milion i više identiteta kojima neko mora dodijeliti prava.
Naša perspektiva, šta ovo znači za region
Male firme u regionu nemaju Snowflake ni sistem za upravljanje identitetima, ali imaju isti problem u manjem obliku. Ako ste agentu dali svoju lozinku za e-poštu, Google Drive ili knjigovodstveni program, taj agent sada može sve što možete i vi.
Za trgovinu ili uslužnu firmu sa pet do dvadeset ljudi, prvi konkretan korak nije kupovina alata nego odvojen nalog. Napravite poseban korisnički nalog za agenta, dajte mu pristup samo onim folderima i tabelama koje su mu potrebne, i uključite dvofaktorsku potvrdu za sve ostalo. Ako agent treba da čita narudžbe, ne treba mu pristup platnom spisku. Kad nešto krene naopako, po zapisniku ćete odmah znati da je radnju izvršio agent, a ne knjigovođa.
Drugi korak je gornja granica potrošnje. Većina AI alata dozvoljava da se postavi mjesečni limit na potrošnju kroz interfejs za programere. Postavite ga odmah, prije nego pustite prvog agenta. Firme koje to ne urade obično shvate problem tek na računu, jer agent koji je zaglavio u petlji ne ide na pauzu i ne javlja da nešto nije u redu.
Vladimir Sukara
Zaključak
Kontrola nad agentima postaje zaseban proizvod, a ne dodatak. Za velike firme to znači novu stavku u budžetu, a za male firme znači da moraju uraditi ručno ono što veliki kupuju, odnosno odvojiti naloge i postaviti limite. Pratite da li će isti pristup, poseban identitet za agenta i zapis o tome ko ga je poslao, stići u alate koje male firme već koriste. Kada to postane podrazumijevano, uvođenje agenata postaje znatno mirnije.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta konkretno znače za tvoj posao, prijavi se na AI Balkan newsletter.
