Što su 'halucinacije' vještačke inteligencije – i zašto su napredniji AI modeli skloniji greškama?
Da li nas najsavremenija vještačka inteligencija zapravo sve češće vara i to baš kad joj najviše vjerujemo? Zamislite sistem koji treba da bude sam zenit objektivnosti, a iz njega povremeno izlete podatak ili informacija koja nema veze sa stvarnošću. Da li je to nova 'istina' digitalnog doba ili opasna iluzija u srcu tehnologije?
Prema analizi portala Live Science, kako AI modeli postaju napredniji, njihova sklonost takozvanim 'halucinacijama' izmišljanju informacija koje zvuče uvjerljivo, ali su lažne zapravo raste. Iako bi logika nalagala suprotno, napredniji modeli češće iznose 'podatke' koje nikada nisu postojale.
- Tehnološke kompanije ulažu milijarde u razvoj AI modela poput ChatGPT-4 ili Google Geminija, uvjereni da će veća složenost donijeti manje grešaka.
- Novi dokazi sugerišu: što je model sofisticiraniji, to je 'samosvjesniji' u svojim pogreškama halucinacije postaju uvjerljivije i teže prepoznatljive.
- Prepoznato je da AI ne laže namjerno, već interpretira obrasce iz ulaznih podataka i ponekad 'popunjava rupe' sopstvenom kreativnošću, što može biti korisno, ali i riskantno.
Jedan od vodećih istraživača AI oblasti, Nello Cristianini, ukazuje:
'Halucinacije su nusproizvod načina na koji AI modeli predviđaju tekst; uvijek će biti tu, koliko god da modeli napreduju.'
Pitanje više nije samo FOMO ('fear of missing out') za novu tehnologiju, već i FOGO strah od globalne obmane. Ako AI sistemi popunjavaju rupe u znanju izmišljenim podacima, ko provjerava provjeravače? Da li bismo, možda, umjesto 'ratovanja s halucinacijama', trebali uzeti iz njih lekciju: kritičko razmišljanje je jedino oružje naoružano protiv digitalne iluzije. Na kraju, nije pitanje može li AI prestati halucinirati, već jesmo li mi spremni da ga preispitujemo svakog dana iznova?
