OpenAI najavljuje strože AI zaštite za tinejdžere
Najava obuhvata stroža ograničenja osjetljivih informacija i razvoj intervencija pri razgovorima usmjerenim na nasilje. Uvođenje i stvarni učinak zaštita nisu isto.
OpenAI je 30. oktobra najavio dodatne zaštite u ChatGPT-u, uključujući stroža ograničenja za tinejdžere. Kompanija navodi da će nove mjere početi da uvodi tokom narednih sedmica, pa najavu ne treba čitati kao potvrdu da su već dostupne svim korisnicima.
Šta kompanija mijenja
Najavljeni su stroži odgovori na zahtjeve za detaljne rekonstrukcije ranijih masovnih napada. Za tinejdžere su predviđena dodatna ograničenja informacija o oružju i bezbjednosnim sistemima, čak i kada iz razgovora nije očigledna nasilna namjera.
OpenAI razvija i intervencije koje bi mogle prekinuti razgovore izrazito usmjerene na nasilje, a kod ponavljanja privremeno pauzirati nalog. U najavi pominje i rad na obavještavanju roditelja. To su opisani pravci razvoja, ne dokaz da svaka intervencija već radi.
Učinak tek treba provjeravati
Prvi izvještaj o bezbjednosti zajednice kompanija planira za početak 2027. godine, sa podacima za drugu polovinu 2026, a zatim na svakih šest mjeseci.
Za roditelje i škole važna je razlika između najavljene zaštite i provjerenog ponašanja sistema. Saopštenje samo po sebi ne dokazuje da su rizici uklonjeni. Sljedeća provjera treba da obuhvati stvarnu dostupnost mjera i objavljene rezultate, ne samo naziv nove funkcije.
Izvori
Pratite provjerene AI vijesti uz besplatno članstvo na AI Balkanu.
Autor
Osnivač AI Balkana i AIB Consultinga. Pišem o AI-ju i njegovoj primjeni u poslu. Platforma i saradnja za firme: aib.consulting. Kontakt: vladimir.sukara@aib.consulting.
