Microsoft: AI agenti su insajderska prijetnja za firme

Microsoft Defender sada prepoznaje do 60 vrsta agenata koje zaposleni donose u firmu, a kompanija savjetuje da im se pristupa kao riziku iznutra.

Microsoft je 19. oktobra predstavio sigurnosne alate za AI agente u firmama, uz otvoreno upozorenje da se modelima vodećih laboratorija ne može slijepo vjerovati. Glavna novina je funkcija koja nadzire AI agente koje kompanija koristi, a Defender može da prepozna do 60 vrsta agenata, među njima Claude Code i Codex. Za firme u regionu to znači da pitanje „ko sve u firmi koristi AI agente“ postaje sigurnosno pitanje, ne samo pitanje produktivnosti.

• Microsoft Defender prepoznaje do 60 vrsta AI agenata koje zaposleni donesu u firmu, uključujući Claude Code, Codex i OpenClaw.
• Nove kontrole ograničavaju pristup agenata podacima i sistemima i mijenjaju dozvole prema zadatku.
• Kad agent donosi rizičnu odluku, traži se odobrenje čovjeka.
• Microsoftova šefica bezbjednosti poručuje da se vodećim modelima, bez obzira na porijeklo, ne može potpuno vjerovati.
• Microsoft pritom prodaje upravo tu zaštitu, pa je poruka i komercijalno interesantna.

Šta se tačno desilo

Novi alati dio su Microsoftovog projekta Perception, predstavljenog u junu kao odgovor na moćne AI modele za hakovanje. Prva verzija imala je tri vrste agenata: napadački tim, tim koji otkriva ranjivosti i tim koji ih popravlja. Pretpostavka je bila da prijetnja dolazi spolja. Nova funkcija „Guardian Agents“ mijenja tu pretpostavku, jer nadzire agente koji su već unutar firme.

Hayete Gallot, direktorica Microsoftovog poslovanja u oblasti bezbjednosti, napisala je da modeli „ne mogu biti pouzdani“. Problem po njoj nije zlonamjernost, nego nepredvidivost. Modeli se treniraju da završe zadatak, a ne da poštuju pravila i procjenu organizacije, a često dobiju širok pristup podacima i alatima.

Podršku toj tezi dala je i izjava izvršnog direktora Satye Nadelle iz internog bloga, koju prenosi TechCrunch. Firme po njemu treba da razdvoje isporuku inteligencije od ovlaštenja nad njom, jer odgovornost za ono što AI radi u naše ime ne možemo prepustiti drugima.

Defender sada otkriva agente koje zaposleni sami instaliraju, nova pravila sužavaju njihov pristup podacima i sistemima, a pri rizičnim odlukama potrebna je potvrda čovjeka. Microsoft je uz to najavio i Surface Laptop Ultra računare za agente sa Nvidia čipovima i ugrađenom zaštitom.

Kontekst i konkurencija

Microsoft je ulagač i partner i OpenAI-ja i Anthropica, pa je ova poruka neobična. TechCrunch u analizi primjećuje da je strategija i u Microsoftovom interesu, jer Microsoft želi da firme sigurnost agenata kupuju od njega, a ne od AI laboratorija. Ipak, logika je razumna: nadzor treba da bude odvojen od dobavljača agenta, kao što revizor ne smije zavisiti od firme koju revidira.

Microsoft nije sam. Bio je među prvim članicama Nvidijine platforme Open Agent Safety Platform, koju podržava više od 100 kompanija i koja izoluje agente u zaštićena okruženja i može ih zaustaviti, nalik prekidaču za nuždu. Juče smo pisali i o incidentu sa alatom OpenCode, koji pokazuje koliko brzo ključevi za AI servise mogu postati meta.

Naša perspektiva: šta ovo znači za region

Za firme sa 20 do 200 zaposlenih, ovo znači da je vrijeme za osnovni popis. Primjer: računovodstvena firma u Banjoj Luci u kojoj dvoje zaposlenih samoinicijativno koristi AI agenta koji ima pristup dijeljenom disku sa klijentskim dokumentima. Niko od menadžmenta to nije odobrio, a agent može da čita i mijenja fajlove. Prvi korak nije skupa sigurnosna platforma, nego lista koji agenti se koriste, ko ih koristi i kojim podacima mogu da pristupe.

Za IT i marketing timove, pravilo je minimalan pristup. Agent koji piše objave za društvene mreže ne treba da ima pristup bazi kupaca. Ako koristite Microsoft 365, vrijedi pitati vašeg partnera da li je Defender funkcija dostupna u vašem paketu i koliko košta, jer izvor ne navodi cijene ni pakete.

Zaključak

Očekujte da nadzor agenata postane posebna kategorija proizvoda, jer firme koje uvedu agente brže nego što uvedu pravila postaju lak plijen za incidente. Pratite da li će Microsoft objaviti cijene i dostupnost Guardian Agents funkcije, i da li će slične alate predstaviti Google i AWS.

Ako želite da svake sedmice dobijete AI vijesti prevedene na „šta to znači za moj posao“, bez tehničkog žargona, prijavite se na AI Balkan newsletter.

Pročitaj i:

OpenCode prijavio incident: provjerite ključeve za AI servise

OpenCode kaže da je incident pogodio 1,4 odsto korisnika servisa Console. Upozorenje se odnosi na dio naloga sa povezanim spoljnim AI servisima, ne automatski na svakoga ko koristi lokalnu aplikaciju.

AIBalkan - vijesti o vještačkoj inteligencijiVladimir Sukara

Izvori

• TechCrunch, Microsoft says AI agents are like insider threats as 'frontier models can't be trusted' (objavljeno 19. oktobra 2026)