OpenAI uvodi nove zaštite za AI slike i provjeru autentičnosti

Kompanija želi otežati manipulaciju AI sadržajem kroz kombinaciju metapodataka i nevidljivih vodenih žigova.

OpenAI je predstavio dvije nove tehnologije koje bi korisnicima trebale olakšati prepoznavanje AI generisanih slika. Radi se o implementaciji C2PA standarda za metapodatke i integraciji Googleovog nevidljivog vodenog žiga SynthID. Ovaj potez dolazi u trenutku kada AI generatori slika postaju sve dostupniji i sofisticiraniji, što dodatno otežava razlikovanje autentičnih fotografija od sadržaja kreiranog vještačkom inteligencijom.

• OpenAI uvodi C2PA standard za označavanje AI generisanih slika.
• Integrisan je Googleov nevidljivi vodeni žig SynthID.
• Kompanija priprema javni alat za provjeru porijekla slika.
• Novi sistem trenutno važi samo za OpenAI proizvode.
• Cilj je smanjiti zloupotrebu AI sadržaja i povećati transparentnost.

Analiza: Kako funkcionišu nove zaštite

Prvi sloj zaštite dolazi kroz C2PA standard, koji dodaje jasne informacije u metapodatke slike. To znači da će fotografije generisane pomoću OpenAI modela sadržavati podatke koji potvrđuju da je sadržaj nastao uz pomoć AI tehnologije.

C2PA je standard koji razvija neprofitna organizacija Coalition for Content Provenance and Authenticity, osnovana 2021. godine s ciljem borbe protiv manipulacija digitalnim sadržajem i dezinformacija.

Međutim, metapodaci imaju očigledan problem mogu se ukloniti ili izmijeniti. Upravo zbog toga OpenAI uvodi i drugi sloj zaštite kroz SynthID.

Google je razvio SynthID kao nevidljivi vodeni žig koji ostaje prisutan čak i nakon izmjena slike poput:

• screenshotova
• resize promjena
• kompresije
• osnovne digitalne obrade

Za razliku od klasičnih metapodataka, ovaj signal nije lako ukloniti bez ozbiljnog narušavanja same slike.

OpenAI istovremeno razvija i javni alat za provjeru sadržaja koji će korisnicima omogućiti da testiraju da li je određena slika generisana AI modelima kompanije.

Konkurencija i stanje tržišta

Velike AI firme sve više pokušavaju odgovoriti na rastući problem lažnog sadržaja i deepfake materijala. Google već koristi C2PA u određenim proizvodima, dok i druge kompanije eksperimentišu s različitim metodama označavanja AI sadržaja.

Ipak, problem ostaje fragmentiran jer industrija nema jedinstven standard koji koriste svi generatori slika. To znači da će veliki broj manje poznatih AI alata i dalje moći generisati sadržaj bez ikakvih oznaka ili zaštita.

Tržište AI slika trenutno prolazi kroz fazu ubrzanog rasta gdje su mogućnosti generacije praktično dostigle nivo fotorealističnih rezultata. Upravo zbog toga regulatori i tehnološke firme pokušavaju pronaći balans između inovacije i zaštite javnosti.

Naša perspektiva

Za poslovne korisnike u regionu ovo je važan signal da industrija ulazi u fazu ozbiljnije regulacije i standardizacije AI sadržaja.

Firme koje koriste AI za marketing, dizajn, medije i produkciju sadržaja uskoro će vjerovatno morati jasno označavati AI materijale. To posebno može uticati na:

• marketinške agencije
• medijske kuće
• e-commerce firme
• kreatore sadržaja
• AI startup kompanije

Za Balkan je ovo posebno važno jer lokalno tržište trenutno gotovo da nema standarde za označavanje AI sadržaja. Kako evropska regulativa bude jačala, regionalne firme će morati prilagoditi svoje procese kako bi izbjegle pravne i reputacione probleme.

Ovakvi sistemi mogu pomoći i u zaštiti medija od širenja lažnih fotografija tokom političkih kampanja, kriznih situacija i manipulacija na društvenim mrežama.

Zaključak

OpenAI ovim potezom pokušava preuzeti aktivniju ulogu u kontroli AI sadržaja i borbi protiv dezinformacija. Kombinacija metapodataka i otpornijih vodenih žigova predstavlja praktičan pokušaj da se AI slike učine transparentnijim bez ograničavanja same tehnologije.

Ipak, stvarni efekat zavisiće od toga koliko brzo ostatak industrije prihvati slične standarde. Ako velike AI firme krenu istim putem, tržište bi moglo dobiti prvi ozbiljan globalni sistem za verifikaciju digitalnog sadržaja.