Šef DeepMinda traži nezavisno tijelo za provjeru AI modela
Šef DeepMinda predlaže nezavisno standardizaciono tijelo koje bi provjeravalo najjače AI modele prije izlaska na tržište, po uzoru na finansijsku regulativu FINRA. Prijedlog stiže poslije kritikovanih državnih provjera u SAD. Objašnjavamo šta se mijenja i šta region treba da prati.
Demis Hassabis predlaže organizaciju po uzoru na finansijsku regulativu FINRA, koja bi testirala najjače AI modele do 30 dana prije izlaska na tržište.
Šef Google DeepMinda Demis Hassabis objavio je 14. jula prijedlog za osnivanje nezavisnog standardizacionog tijela koje bi provjeravalo najjače AI modele prije nego što stignu do korisnika. Umjesto državne agencije, predlaže organizaciju koju finansira industrija, po uzoru na FINRA tijelo iz američkog finansijskog sektora. Za firme koje AI već koriste u poslu, ovo je rasprava o tome ko garantuje da su alati na koje se oslanjaju bezbjedni.
- Demis Hassabis objavio je okvir nazvan "A Framework for Frontier AI" sa prijedlogom nezavisnog standardizacionog tijela.
- Tijelo bi bilo modelovano po FINRA organizaciji koja nadzire američke berzanske posrednike, uz podršku države ali finansirano od industrije.
- Laboratorije bi u početku dobrovoljno slale modele na provjeru do 30 dana prije objave, a kasnije bi provjera postala uslov za američko tržište.
- Prijedlog stiže poslije kritikovanih državnih provjera Anthropicovih i OpenAI-jevih modela ranije ove godine.
- Savjetnik Bijele kuće za AI Sriram Krishnan nedavno je poručio da "neće biti FDA za AI".
Šta se tačno desilo
Hassabis je prijedlog objavio u dužem tekstu na mreži X. Ideja ide ovako, laboratorije koje razvijaju najjače modele dobrovoljno bi ih dijelile sa standardizacionim tijelom do 30 dana prije izlaska, a tijelo bi ih testiralo i razvijalo najbolju praksu za bezbjedno objavljivanje. Kada se postupak pokaže pouzdanim, provjera bi postala obavezna za sve modele koji ciljaju američko tržište. Tijelo bi radilo i na otklanjanju kritičnih ranjivosti otkrivenih poslije objave.
Osoblje bi činili tehnički stručnjaci iz industrije i predstavnici open source zajednice, a dio provjera mogao bi se povjeriti specijalizovanim organizacijama za AI bezbjednost. Novac bi dolazio od samih AI laboratorija.
Kontekst i konkurencija
Prijedlog se naslanja na iskustvo od ranije ove godine, kada je američka vlada ad hoc provjeravala Anthropicove i OpenAI-jeve modele prije objave. Te provjere su kritikovane zbog manjka tehničke ekspertize i netransparentnog odlučivanja o tome kada model smije izaći. Hassabis nudi rješenje koje bi odluke prebacilo na nezavisnu, stručnu organizaciju.
Politička klima za ovakve ideje je neizvjesna. Trenutna administracija u Vašingtonu se protivi centralnom AI regulatoru, što potvrđuje i izjava savjetnika Bijele kuće da FDA za AI neće postojati. Samoregulacija po uzoru na finansijsku industriju je pokušaj srednjeg puta, dovoljno nadzora da se izbjegnu incidenti, dovoljno fleksibilnosti da se ne uguši razvoj.
Naša perspektiva, šta ovo znači za region
Za firme u regionu koje rade sa EU klijentima, standardi nisu daleka tema nego svakodnevica, jer EU AI Act već propisuje obaveze za visokorizične primjene, poput AI u zapošljavanju. Amerika ide ka samoregulaciji, Evropa ka zakonu, a regionalne firme koje izvoze posluju između ta dva svijeta. Konkretno, firma iz Banje Luke koja za njemačkog klijenta koristi AI u obradi ličnih podataka već sada mora znati koje alate koristi i kako su provjereni.
Vladimir Sukara
Za vlasnike malih firmi praktična pouka je jednostavna. Kad biraš AI alat za osjetljive procese, zapošljavanje, finansije ili rad sa podacima klijenata, pitaj dobavljača koje provjere njegov model prolazi i gdje se podaci obrađuju. Ako se Hassabisov prijedlog primi, takve informacije će postati standardna stavka ponude, kao sertifikati u građevini.
Zaključak
SAD i EU grade dva različita modela nadzora nad AI i pravila igre se pišu upravo sada. Za male firme je manje bitno ko pobijedi u toj raspravi, a više da provjere modela postanu predvidljive umjesto ad hoc politike. Pratimo da li će se prijedlogu pridružiti i druge laboratorije, prije svih OpenAI i Anthropic.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na to šta znače za tvoj posao, bez hajpa i žargona, prijavi se na AI Balkan newsletter.
