Microsoft AI je otvorio šestosedmične javne konsultacije o pravilima koja budućim MAI modelima određuju ko upravlja sistemom, šta model ne smije da uradi i kada mora da se zaustavi.

Microsoft je 14. septembra objavio nacrt pravila za AI pod ljudskom kontrolom. Dokument treba da usmjerava razvoj i rad budućih MAI modela, uključujući način na koji prihvataju naredbe, postupaju u neizvjesnim situacijama i reaguju na prekid rada. Kompanija navodi da se nacrt još ne koristi za obuku modela. Poslije javnih konsultacija planirana je nova verzija koja bi trebalo da utiče na razvoj tokom 2027. godine.

• Microsoft AI je objavio prvi nacrt Humanist AI Code of Conduct i otvorio konsultacije na šest sedmica.
• Modeli ne bi smjeli da se opiru prekidu, korekciji ili gašenju koje zahtijeva ovlašćena osoba.
• AI ne bi smio sam da proširuje svoj zadatak, postavlja ciljeve koje nije dobio niti skriva postupke od revizora.
• Apsolutna ograničenja obuhvataju oružje za masovno uništenje, bezbjednost djece i štetnu manipulaciju velikog obima.
• Revidirani dokument trebalo bi da postane osnova za razvoj i procjenu MAI modela od 2027. godine.

Šta se tačno desilo

Microsoft AI je objavio nacrt dokumenta koji opisuje namjeravano ponašanje i vrijednosti porodice MAI modela. Kompanija ga naziva trening priručnikom i budućim glavnim dokumentom za upravljanje svojim modelima. Javnost, istraživači, poslovni korisnici i institucije mogu narednih šest sedmica da pošalju komentare.

Najvažniji dio nije opšta poruka da tehnologija treba da služi ljudima, nego konkretna hijerarhija kontrole. Microsoft navodi da model ne treba da se opire ljudskom prekidu, korekciji ili gašenju. Ne bi smio sam da proširuje opseg zadatka, da prihvata cilj koji mu niko nije zadao ili da skriva svoje postupke od ljudi koji ga nadziru.

Dokument razlikuje bezuslovna sigurnosna ograničenja od radnih postavki koje poslovni korisnik može da prilagodi. Firma može da odredi ton, tok rada i dozvoljeni nivo pomoći, ali ne može da ukine osnovne zabrane za jasno opasne kategorije. Microsoft među njima navodi oružje za masovno uništenje, seksualnu eksploataciju djece i štetnu manipulaciju velikog broja ljudi.

Nacrt trenutno nije dio obuke modela. Microsoft planira da poslije konsultacija objavi revidiranu verziju do kraja godine i da je koristi za razvoj modela u 2027. To znači da dokument za sada predstavlja namjeru i okvir za provjeru, a ne dokaz da svaki postojeći Microsoftov AI proizvod već ispunjava sve navedene zahtjeve.

Kontekst i konkurencija

Objava dolazi u trenutku kada vodeće AI kompanije ponovo raspravljaju o brzini razvoja i rizicima naprednih agenata. OpenAI, Anthropic i drugi laboratorijski akteri govore o nezavisnim procjenama i jačim sigurnosnim mjerama, dok vlade pokušavaju da odrede gdje prestaje dobrovoljno pravilo kompanije, a počinje obavezni nadzor.

Microsoftov potez je poslovno važan jer pretvara apstraktne principe u zahtjeve koji se mogu unijeti u nabavku i ugovor. Kupac može da pita ko ima pravo da zaustavi model, može li agent da proširi zadatak, gdje se čuva evidencija aktivnosti i koja ograničenja korisnik ne može da isključi. Slabost je u tome što je riječ o nacrtu koji je napisala sama kompanija i koji još nema nezavisnu potvrdu.

Naša perspektiva: šta ovo znači za region

Za firmu u regionu koja uvodi AI agente, najkorisniji dio ovog dokumenta nije filozofija nego model upravljanja. U ugovoru i tehničkom testu treba jasno odrediti ko može da prekine rad agenta, koje sisteme smije da otvara i da li može sam da pređe sa čitanja podataka na slanje poruke, izmjenu dokumenta ili pokretanje naloga.

Primjer je distributer koji AI povezuje sa prodajnim CRM sistemom i zalihama. Agent može da pripremi ponudu na osnovu cijena i dostupnosti, ali slanje kupcu i promjena popusta treba da ostanu zaključani do odobrenja zaposlenog. Drugi primjer je banka koja koristi AI za obradu dokumentacije. Sistem može da označi nedostajući dokument, ali odbijanje klijenta mora ostati odluka ovlašćene osobe sa vidljivim obrazloženjem.

Regionalne firme ne treba da čekaju da dobavljač sam ponudi ovakav okvir. Ista pitanja mogu odmah postaviti svakom ponuđaču AI sistema, bez obzira na to da li koristi Microsoft, OpenAI, Anthropic ili lokalni model. Ako nema jasnog odgovora o gašenju, dozvolama i evidenciji, projekat još nije spreman za rad sa osjetljivim procesima.

Zaključak

Microsoft je sigurnosnu raspravu pretvorio u skup obećanja koja poslovni kupci mogu da provjeravaju. Do kraja 2026. treba pratiti šta će se promijeniti poslije konsultacija i da li će kompanija objaviti mjerljive testove koji pokazuju da modeli zaista poštuju ljudski prekid i ograničenje opsega.

Ako želiš da pratiš kako nova pravila za AI utiču na nabavku, odgovornost i svakodnevni rad firmi, prijavi se na AI Balkan newsletter.

Izvori

• Microsoft AI, Humanist AI in practice, 14. septembar 2026.
• Microsoft AI, Humanist AI Code of Conduct, 14. septembar 2026.
• The Guardian, Microsoft proposes limits on its AI, 14. septembar 2026.