Holandski regulator kaže da kompjuter ne smije sam da donosi odluke sa ozbiljnim posljedicama, a ista logika sve više važi i za firme koje uvode AI agente.

Holandska agencija za zaštitu podataka (Autoriteit Persoonsgegevens) kaznila je Uber sa 825 miliona eura, oko 966 miliona dolara, zbog automatizovanih odluka koje su bez ljudskog nadzora deaktivirale naloge vozača. Ovo je druga najveća kazna ikad izrečena po GDPR-u i treća kazna koju je isti regulator izrekao Uberu. Zamjenica predsjednice agencije, Monique Verdier, poručila je da kompjuter ne smije sam da donosi odluke sa velikim posljedicama po nečiji posao. Za firme u regionu koje uvode AI agente u odlučivanje o zaposlenima ili korisnicima, ova kazna je konkretan podsjetnik šta GDPR, i domaći zakoni pisani po njegovom uzoru, zahtijevaju.

• Holandski regulator kaznio je Uber sa 825 miliona eura (oko 966 miliona dolara) zbog automatizovanog deaktiviranja naloga vozača bez ljudskog nadzora
• Ovo je druga najveća kazna u istoriji GDPR-a i treća kazna koju Holandija izriče Uberu
• Regulator tvrdi da je dio vozača trajno deaktiviran bez ljudske provjere, što Uber osporava i najavljuje žalbu
• Slučaj je pokrenuo bivši vozač iz Francuske koji je prikupio svjedočenja 171 drugog vozača
• Ista logika, ljudski nadzor nad automatizovanim odlukama, upisana je i u EU AI Act za sisteme koji odlučuju o zapošljavanju

Šta se tačno desilo

Holandski Autoriteit Persoonsgegevens (AP) istraživao je pritužbe da je Uber deaktivirao naloge vozača kroz automatizovan proces, bez dovoljno upozorenja i bez da čovjek pregleda takvu vrtsu odluke. Po nalazu regulatora, dio vozača je bio trajno deaktiviran a da nijedan čovjek nije potvrdio tu odluku, iako vozači po pravilima imaju pravo žalbe.

Verdier je izjavila da je Uber "počinio ozbiljne prekršaje", i dodala: "Kompjuter ne smije sam da donosi odluke koje imaju ozbiljne posljedice."

Uber osporava dio nalaza. Kompanija tvrdi da je većina suspenzija kratka, da nijedna trajna deaktivacija ne prolazi bez ljudske provjere i da vozači mogu uložiti žalbu. Regulator i dalje tvrdi suprotno za dio slučajeva, a Uber je najavio žalbu na odluku.

Priča iza kazne počinje 2019. godine, kad je bivši Uber vozač u Francuskoj, Brahim Ben Ali, ostao bez naloga. Prikupio je svjedočenja 171 drugog vozača i preko holandske podružnice, gdje Uber ima evropsko sjedište, pokrenuo pritužbu, uz pomoć švajcarske neprofitne organizacije PersonalData.io.

Kontekst i šira regulativa

Ovo je treća kazna koju je holandski regulator izrekao Uberu. Ranije je kompanija dobila kaznu zbog rukovanja ličnim podacima vozača i manju kaznu za povezan slučaj:

Osnivač organizacije PersonalData.io, Paul-Olivier Dehaye, najavio je i novu firmu StartClaims koja će voditi grupnu tužbu vozača za odštetu, uz planove da se model proširi i na druge slučajeve u takozvanoj gig ekonomiji (poslovni model kratkoročnih angažmana preko aplikacija, kakav koriste Uber i slične platforme).

Slučaj je izazvao i debatu o granicama automatizacije. Bloger Džon Gruber je primijetio da presuda otežava Uberu da uopšte koristi automatizovane provjere protiv prevare vozača. Dehaye na to odgovara da Uber i dalje može koristiti automatizovane provjere, ali mora preuzeti odgovornost za tu odluku, isto kao poslodavac, a ne kao platforma koja samo posreduje.

Presuda dolazi u trenutku kad EU AI Act već traži da sistemi koji odlučuju o zapošljavanju i otkazima budu klasifikovani kao visokorizični i da imaju ljudski nadzor. Drugim riječima, ista logika koja je koštala Uber 825 miliona eura sad je upisana i u zakon koji direktno pokriva AI sisteme, ne samo klasične algoritme.

Naša perspektiva za region

Za firme u regionu koje uvode AI agente u odlučivanje o ljudima, ovo je konkretan podsjetnik, ne apstraktna priča iz Holandije. Zakon o zaštiti ličnih podataka u BiH je u velikoj mjeri usklađen sa GDPR-om, a svaka firma koja posluje sa klijentima iz EU ili obrađuje podatke građana EU, na primjer e-trgovina, IT usluge za zapadne klijente ili logistika, direktno potpada pod GDPR, bez obzira gdje joj je sjedište.

Konkretan primjer: firma koja pravi veb prodavnicu ili aplikaciju za dostavu i uvede AI agenta da automatski blokira korisnički ili kurirski nalog čim sistem posumnja na prevaru, izlaže se istom riziku kao Uber, čak i ako je AI tačan u 99 odsto slučajeva. Taj preostali jedan odsto, bez čovjeka koji potvrđuje odluku i bez jasnog puta za žalbu, može značiti prekršaj i kaznu.

Isto važi i za HR. Ako firma koristi AI alat da automatski filtrira kandidate ili ocjenjuje rad zaposlenih i na osnovu toga direktno donosi odluke o otkazu, bez da menadžer pregleda svaki slučaj, to je tačno scenario koji i GDPR i EU AI Act tretiraju kao visokorizičan.

Praktičan zaključak nije da AI treba izbjegavati za ovakve odluke. Praktičan zaključak je da AI može da predloži i ubrza odluku, ali čovjek mora da je potvrdi prije nego postane konačna, i mora postojati jasan način da osoba pogođena odlukom uloži žalbu.

Uber je najavio žalbu, pa je konačan ishod ove kazne još otvoren. Ono što ostaje sigurno jeste da regulatori u Evropi sve češće gledaju baš na ovu tačku, ljudski nadzor nad automatizovanim odlukama, kad procjenjuju usklađenost firmi. Firme koje danas uvode AI agente u procese koji direktno utiču na ljude rade dobro da ovaj slučaj uzmu kao podsjetnik da ugrade korak provjere i žalbe prije nego regulator to od njih zatraži.

Ako želiš svake sedmice da dobiješ ovakve AI i tech vijesti prevedene na jasno "šta to znači za tvoj posao", prijavi se na AI Balkan newsletter.

Izvori:

• TechCrunch, "Uber faces fine of nearly $1B over automated driver suspensions", 23. avgust 2026. techcrunch.com
• Reuters, izvorni izvještaj o kazni, 21. avgust 2026. reuters.com