Francuska komisija traži provjeru AI asistenata prije lansiranja
Osamnaest preporuka francuske komisije obuhvata AI asistente, pratioce i igračke. U središtu su ranjivost korisnika i zaštita maloljetnika.
Francuska stručna komisija predala je 10. novembra predsjedniku Emanuelu Makronu izvještaj s 18 preporuka o rizicima generativne vještačke inteligencije. Među ključnim prijedlozima su procjena AI asistenata prije izlaska na tržište i praćenje njihovog uticaja tokom upotrebe, naročito na maloljetnike.
Šta komisija predlaže
Izvještaj razmatra chatbotove, AI pratioce i igračke s generativnom AI. Komisija preporučuje ograničavanje dizajna koji podstiče pretjerano emocionalno vezivanje ili stalno povlađuje korisniku. Posebno izdvaja zaštitu djece i zabranu prikrivenog komercijalnog uticaja.
Za AI asistente namijenjene široj javnosti predlaže provjeru uticaja na ranjivost korisnika prije ulaska na evropsko tržište. Potom bi slijedio kontinuirani nadzor, uključujući novu procjenu nakon značajnih izmjena modela. Preporuke traže i kontrolisan pristup podacima za ovlašćene istraživače i nadležna tijela.
Preporuke nisu usvojeni zakon
Dokument je izradila komisija od devet stručnjaka, poslije 55 saslušanja predstavnika zdravstva, istraživanja, obrazovanja, kompanija i organizacija za zaštitu djece. To je stručni izvještaj s prijedlozima politike, a ne novo pravilo koje je samom objavom stupilo na snagu.
Naslovni prijedlog usmjeren je na AI sisteme za široku javnost. Ne znači da je uvedena nova obavezna provjera svakog internog poslovnog asistenta. Za pravne posljedice biće važno šta Francuska i institucije EU zaista predlože i usvoje.
Šta firme mogu razmotriti
Naša procjena: razvojni timovi već sada mogu dokumentovati kako asistent označava ograničenja, obrađuje prijave problema i reaguje kada korisnik pokušava da prekine razgovor. To su pitanja dizajna i provjere, bez pretpostavke da izvještaj već propisuje konkretne obaveze firmama u regionu.
Zaštita mladih pojavljuje se i u odlukama platformi. Povezani tekst obrađuje Metinu AI procjenu uzrasta, koja je zaseban potez kompanije.
Izvori
Jelisejska palata, predstavljanje izvještaja, 10. novembar 2026.
Komisija, izvještaj Protéger sans empêcher, preporuke 3 i 4.
Pridružite se besplatno za provjerene AI vijesti i praktična objašnjenja.
Autor
Osnivač AI Balkana i AIB Consultinga. Pišem o AI-ju i njegovoj primjeni u poslu. Platforma i saradnja za firme: aib.consulting. Kontakt: vladimir.sukara@aib.consulting.
