Detektori AI teksta griješe, koristi ih 43 odsto nastavnika
Detektor AI teksta ne pronalazi dokaz nego pogađa vjerovatnoću, a njegova ocjena sve češće odlučuje o ocjeni, objavi ili poslu. U SAD ih redovno koristi 43 odsto nastavnika. Evo šta uraditi ako vaš tekst, ponuda ili prijava za posao dobiju crvenu zastavicu.
Alat koji tvrdi da prepoznaje AI tekst ne nalazi dokaz nego pogađa vjerovatnoću. Posljedice su ipak stvarne.
Detektori AI teksta postali su svakodnevni alat u školama, na fakultetima i u redakcijama, iako niko ne može da dokaže da rade pouzdano. Istraživanje organizacije Center for Democracy and Technology pokazuje da je 43 odsto nastavnika od šestog do dvanaestog razreda u SAD redovno koristilo takve alate u periodu 2024. i 2025. godine. Problem nije to što ljudi provjeravaju tekstove. Problem je što se odluka o nečijoj ocjeni, objavi ili prijavi za posao donosi na osnovu procjene koja nema dokaz iza sebe.
- Detektore AI teksta redovno je koristilo 43 odsto nastavnika od šestog do dvanaestog razreda u SAD, prema istraživanju Center for Democracy and Technology.
- Za razliku od starih alata protiv plagijata, koji porede tekst sa bazom postojećih radova, detektori AI teksta koriste sopstvene modele da pogode da li je nešto pisao čovjek.
- Turnitin je automatski uključio detekciju AI teksta na univerzitetima koji su njegov alat već imali u svojim sistemima.
- Nezavisna testiranja objavljena ove godine pokazuju da nijedan detektor ne dostiže tačnost koju proizvođači navode u marketingu.
- Neki nastavnici su odustali i od starijih alata protiv plagijata, jer lažne uzbune previše koštaju onoga ko je nevin.
Šta se tačno desilo
The Verge je u analizi objavljenoj 9. avgusta opisao kako se lov na prepisani sadržaj pretvorio u lov na AI sadržaj. Stari alati protiv plagijata rade tako što tekst porede sa bazom radova sa interneta i iz naučnih časopisa i traže poklapanja rečenica. Turnitin na kraju izbaci procenat koji tvrdi da pokazuje koliko se rad poklapa sa tuđim.
Detektori AI teksta rade nešto potpuno drugo. Oni ne traže poklapanje nego koriste svoje modele da procijene da li obrazac pisanja liči na ljudski. To je po prirodi stvari mutnije od poređenja sa bazom, jer ne postoji original sa kojim se tekst poredi. Alat izbaci ocjenu, a čovjek koji je dobije nema šta da provjeri.
Brojke iz nezavisnih testova objavljenih ove godine govore isto. Proizvođači navode tačnost od 95 do 99 odsto, a nezavisna testiranja u stvarnim uslovima daju znatno slabije rezultate, posebno kad je tekst mješavina ljudskog i AI pisanja ili kad ga je pisao neko kome jezik nije maternji. Tu nastaje najveća šteta, jer se lažna uzbuna ne raspoređuje ravnomjerno nego pogađa uvijek iste ljude.
Kontekst i konkurencija
Tržište je krenulo u dva smjera. GPTZero, Pangram i Turnitin nadmeću se ko ima manje lažnih uzbuna, dok sa druge strane raste cijela industrija alata koji obećavaju da će AI tekst učiniti neprepoznatljivim. To je trka koju detektori ne mogu dobiti, jer se model koji piše mijenja brže od modela koji provjerava.
U Evropi se u istu priču uključuje i regulativa. Od avgusta ove godine Evropska unija traži da AI generisan sadržaj bude označen, što je obaveza onoga ko sadržaj pravi, a ne pogađanje onoga ko ga čita. To je zdraviji pristup, jer se oslanja na izjavu autora umjesto na procjenu mašine.
Naša perspektiva, šta ovo znači za region
Ovo nije samo školska tema. Za marketing agenciju u Banjoj Luci ili Novom Sadu, klijent koji tekst provuče kroz besplatni detektor i dobije rezultat od 80 odsto AI je stvarna situacija. Rasprava se onda vodi o brojci koja ništa ne dokazuje, a povjerenje pada. Rješenje nije svađa nego dogovor unaprijed. U ponudu ubacite jednu rečenicu o tome kako koristite AI, na primjer da ga koristite za nacrt i istraživanje, a da finalni tekst piše i potpisuje čovjek. Kad je pravilo zapisano prije posla, ocjena detektora prestaje da bude argument.
Drugo mjesto gdje ovo udara je zapošljavanje. Firma koja dobije pedeset prijava i propusti ih kroz detektor da odbaci one koje su pisane uz AI radi dvije greške odjednom. Prva je da alat griješi. Druga je da odbacuje ljude po kriterijumu koji nema veze sa poslom, jer kandidat koji zna da napravi dobro propratno pismo uz pomoć alata vjerovatno zna i da isti alat iskoristi u poslu. Bolji filter je zadatak iz stvarnog posla, na kojem se odmah vidi ko šta zna.
Treća stvar je najprostija. Ako radite sa tekstom, čuvajte trag rada. Verzije dokumenta, bilješke, prvi nacrt i istoriju izmjena. To je jedini dokaz koji vrijedi kad neko pokaže procenat sa ekrana.
Zaključak
Detektori AI teksta neće nestati, jer potreba koju pokrivaju je stvarna. Ono što će se mijenjati je težina koju njihova ocjena nosi, i to najprije tamo gdje odluka ima posljedice. Za firme je pametnije da pravila o upotrebi AI-ja postave same, napismeno i unaprijed, nego da čekaju da ih neko provjeri alatom koji ni sam ne zna koliko griješi.
Vladimir Sukara
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na ono što konkretno znače za tvoj posao, bez tehničkog žargona, prijavi se na AI Balkan newsletter.
