Reddit koristi AI da zaustavi spam koji je AI napravio

Platforma blokira 23 miliona spam pregleda dnevno i sada se protiv AI sadržaja bori istim oružjem kojim je ono i napravljeno.

Reddit je počeo da koristi velike jezičke modele, istu tehnologiju koja stoji iza ChatGPT-a, da bi uhvatio spam koji je najvećim dijelom i napravljen pomoću te tehnologije. Otkako je moćan AI postao lako dostupan svakome, spam i botovi su preplavili internet, pa platforme nemaju izbora nego da vatru gase vatrom. Za svakoga ko pravi sadržaj za posao, ovo mijenja pravila igre.

• Reddit koristi velike jezičke modele da uhvati spam koji je i sam napravljen pomoću AI.
• Platforma tvrdi da blokira 23 miliona spam pregleda dnevno i hvata oko 25.000 novih spam objava i komentara dnevno.
• Izloženost korisnika spamu je, po Redditu, smanjena za oko petinu u prva tri mjeseca godine.
• Druge platforme, YouTube, Meta i Instagram, traže da se AI sadržaj označi, dok TikTok pušta korisnike da biraju koliko ga vide.
• Stručnjaci upozoravaju da AI filter mora da radi uz ljudsku kontrolu, ne umjesto nje.

Šta je Reddit uradio

Reddit kaže da je razvio alate zasnovane na velikim jezičkim modelima da bi smanjio spam, a ironija je u tome što je veliki dio tog spama napravljen upravo takvim modelima. U saopštenju firma navodi da koristi AI da uhvati suptilne, koordinisane obrasce lažnog ponašanja i vještačkog podizanja tema koje su stariji sistemi propuštali.

Brojke koje Reddit iznosi su konkretne. Platforma blokira 23 miliona spam pregleda dnevno i hvata oko 25.000 novih spam objava i komentara svakog dana. Tvrde i da su izloženost korisnika spamu smanjili za oko 20 odsto u prva tri mjeseca ove godine, u poređenju sa prethodnim kvartalom.

Šira slika, platforme protiv AI smeća

Reddit nije usamljen. Društvene mreže godinama grade automatske filtere, ali lavina jeftinog AI sadržaja ih je natjerala da pojačaju alate. YouTube, Meta i Instagram dozvoljavaju AI sadržaj ako je označen, a TikTok ide korak dalje i pušta korisnike da sami biraju koliko AI sadržaja žele da vide.

Ima i jedna važna ograda. Stručnjaci za moderaciju stalno podsjećaju da AI filter najbolje radi kada ide uz ljudsku kontrolu, a ne umjesto nje. Brže hvatanje AI sadržaja može da pomogne i da se prije uklone govor mržnje i drugi štetni sadržaj, ali čovjek i dalje mora da bude u petlji.

Naša perspektiva, šta ovo znači za region

Za svakoga ko pravi sadržaj za posao, poruka je jasna. Masovni, jeftini AI sadržaj sve teže prolazi, jer ga platforme sve bolje prepoznaju i guše. Strategija zasnovana na tome da AI izbaci stotine objava dnevno je sve slabija.

Konkretno, marketing agencija u regionu koja klijentu obećava kvantitet, pedeset generičkih AI objava mjesečno, gradi na pijesku. Bolje prolazi firma koja AI koristi za prvu verziju, a onda dodaje ljudski sud, konkretan primjer i stav. Isto važi i za mali biznis koji sam vodi svoje mreže, jedna dobra, autentična objava vrijedi više od deset koje mirišu na bota.

Praktično pravilo je jednostavno. AI koristi da ubrzaš, ne da zamijeniš razmišljanje. Označi kada je nešto AI, dodaj svoje iskustvo, i sadržaj će i proći kroz filtere i zaraditi povjerenje ljudi.

Zaključak

Trka između AI spama i AI filtera tek počinje, i vjerovatno će trajati. Pobjednici na dugi rok neće biti oni koji naprave najviše sadržaja, nego oni kojima ljudi vjeruju. U svijetu punom vještačkog, autentičnost postaje konkurentska prednost.

Ako želiš da AI vijesti i praktične savjete za sadržaj dobijaš na jednom mjestu, prijavi se na AI Balkan newsletter.