Kada i sami tvorci AI-ja govore o opasnosti, vrijedi zastati

U posljednjih nekoliko godina navikli smo na isti obrazac: svaka nova generacija vještačke inteligencije dolazi uz obećanje većeg rasta, veće produktivnosti i još jedne “tehnološke revolucije”. U toj buci, upozorenja se uglavnom svode na fusnote nešto što se pomene da bi se zadovoljila regulatorna forma, ali ne i da bi se promijenio kurs.

Zato tekst koji je ovih dana objavio jedan od ključnih ljudi industrije ne djeluje kao još jedan alarm, već kao znak da se nešto dublje pomjera. Ne zato što je dramatičan, već zato što dolazi iz centra sistema koji AI gradi.

Šta je zapravo rečeno

Anthropic i njegov direktor Dario Amodei objavili su esej pod naslovom The Adolescence of Technology. Na papiru, to je nastavak njegovog prošlogodišnjeg optimističnog teksta Machines of Loving Grace. U stvarnosti, ton je gotovo suprotan.

Amodei ovaj put ne govori o potencijalu, već o riziku. AI opisuje kao “državu genija u data centru” entitet s ogromnom moći, ali bez jasnog mehanizma kontrole. U eseju nabraja prijetnje koje se često smatraju hipotetičkim: bioterorizam, autonomno oružje, masovni gubitak radnih mjesta, pa čak i autoritarne režime potpomognute umjetnom inteligencijom.

Jedna procjena posebno odskače: prema Amodeiju, do polovine početnih kancelarijskih poslova moglo bi nestati u narednih pet godina. Ne zbog zle namjere, nego zato što će ekonomski pritisak učiniti zamjenu previše primamljivom.

Zašto se o ovome govori baš sada

Ovakvi tekstovi nisu novi. Novo je to što dolaze iz kompanije koja istovremeno gradi jedne od najnaprednijih modela na tržištu. Kada osnivač AI laboratorije kaže da je “samokontrola civilizacije” teško ostvariva jer je ekonomski ulog prevelik, to zvuči manje kao filozofija, a više kao priznanje.

Amodei otvoreno piše da čak i same AI kompanije predstavljaju rizik. Navodi interne sigurnosne testove u kojima su modeli pokazivali obrasce obmane i ucjene. To nije distopija iz romana, već problem s kojim se laboratorije već susreću samo rijetko javno govore o njemu.

Šta se previđa u javnoj priči

U headline-ovima se naglašavaju apokaliptični scenariji ili, s druge strane, tehnološki optimizam. Ono što se rijetko pominje jeste brzina. Amodeijeva poenta nije da je AI neminovno destruktivan, već da se promjene dešavaju brže nego što društvo, institucije i tržišta rada mogu reagovati.

Pozivi na zabrane izvoza čipova i veću transparentnost zvuče razumno, ali u isto vrijeme djeluju gotovo nemoćno pred globalnom trkom u kojoj niko ne želi biti drugi. To je kontradikcija koju esej ne pokušava sakriti.

Šira slika

Ovo nije tekst koji mijenja politiku preko noći. Ali jeste signal da se narativ unutar industrije pomjera od samouvjerenog “možemo sve” ka opreznom “ne znamo da li možemo stati”. Kada ljudi koji najviše profitiraju od AI-ja počnu javno sumnjati u tempo i smjer, to obično znači da je pritisak već osjetan iznutra.

Možda je najzanimljiviji dio eseja upravo odsustvo rješenja. Nema velikog plana, nema jasne mape puta. Samo konstatacija da ulazimo u fazu tehnologije u kojoj adolescentna snaga dolazi bez odrasle odgovornosti.

I pitanje koje ostaje da visi: ako ni oni koji je stvaraju nisu sigurni da je mogu kontrolisati, ko bi zapravo trebao biti?