Koliko je Vještačka Inteligencija zaista pristrasna? MIT-ova analiza razotkriva neprijatne istine
Kako biste reagovali kada biste saznali da vještačka inteligencija, koja već odlučuje o brojnim stvarima u vašoj svakodnevici, možda nije ni približno toliko nepristrasna koliko vjerujete? Ovo nije paranoična teorija zavjere, već zaključak nedavne MIT-ove studije, koja je pronašla znatne i često neočekivane oblike pristrasnosti unutar velikih jezičkih modela, na kojima počiva moderni AI.
Analitičkom oštrinom, MIT-ov tim secirao je algoritamske mozgove, tražeći odgovore: Kako i na koji način dolazi do toga da AI predviđa, recimo, karijeru ili kriminalitet na osnovu podataka o precima? Je li istina da su 'nevidljive ruke' prethodnih programera presudno uticale na odluke vještačke inteligencije danas?
- Pristrasnost u kodu: Studija potvrđuje: AI modeli prelamaju svijet kroz sočivo podataka na kojima su trenirani, često zanemarujući etničku, kulturološku ili čak jezičku raznolikost.
- Neravnomjerna zastupljenost: Manjinske i osjetljive grupe riskiraju da budu još nevidljivije jer podaci koji ih opisuju rjeđe završavaju u 'hraniteljskom meniju' budućih digitalnih mozgova.
- Iznenađujuće sofisticirane greške: 'Kada model ne prepozna stvarnost miliona ljudi, to nije samo tehnički propust već i etički kolaps', naglašava profesorica Marzyeh Ghassemi sa MIT-a.
'Naša očekivanja su često bila vezana uz mit da velike količine podataka znače i veću pravednost sistema. Nažalost, istina je mnogo složenija', navodi se iz tima istraživača.
Svijet možda traži spas u vještačkoj inteligenciji, ali MIT-ova studija, objavljena na zvaničnoj stranici MIT-a, nudi gorku pilulu: ako ne poznajemo granice i slabosti alata kojima upravljamo, postajemo zatočenici sopstvenih predrasuda, ali ovog puta umnoženih kroz hladne algoritme. Šta nas čeka kad AI donosi odluke umjesto nas, a ni ne shvata sve naše priče, naglaske i bol?
Vrijeme je da razbijemo iluziju neutralne vještačke inteligencije. Prava inteligencija počinje onda kada naučimo da sumnjamo u ono što smo sami stvorili. Logično pitanje: Koliko ste spremni vjerovati modelima koji možda nikada nisu „čuli“ vaš glas?
