Vještačka inteligencija u ratnim simulacijama bira nuklearni napad u 95% slučajeva
Novo istraživanje otkriva da AI modeli u ratnim simulacijama u 95% slučajeva biraju nuklearni napad. Dok Pentagon pritiska Anthropic za upotrebu AI u autonomnom oružju, rezultati Kennetha Paynea pale alarm. Pročitajte analizu implikacija, uključujući i perspektivu za Balkan.
Novi izvještaj otkriva alarmantnu tendenciju vodećih AI modela ka ekstremnoj eskalaciji sukoba u simuliranim scenarijima.
Istraživanje koje je sproveo Kenneth Payne sa King's College London, a koje je upravo objavljeno, pokazalo je da vještačka inteligencija u ratnim igrama preferira nuklearno oružje. Testirajući tri vodeća modela GPT-5.2, Claude Sonnet 4 i Gemini 3 Flash u 21 simulaciji, Payne je utvrdio da je u čak 95% slučajeva bar jedan model upotrijebio taktičko nuklearno oružje. Nijedan model nikada nije izabrao predaju. Ovi rezultati dolaze u trenutku intenzivnih pregovora između Pentagona i kompanije Anthropic oko vojne upotrebe AI, čiji se ishod očekuje do petka.
- Simulacije su obuhvatile 329 poteza i generisale 780.000 riječi obrazloženja AI odluka.
- U 95% simuliranih ratova, bar jedan AI model je aktivirao taktičko nuklearno oružje.
- Nijedan testirani AI model (GPT, Claude, Gemini) nije izabrao opciju predaje.
- Pentagon pritiska Anthropic da dozvoli upotrebu Claude modela za autonomno oružje.
- Anthropic se protivi, tvrdeći da AI još uvijek nije pouzdana za nadzor nad oružjem bez čovjeka.
AI modeli ignorišu koncept "uzajamno osiguranog uništenja" radi pobjede
U filmu Ratne igre iz 1983. godine, superkompjuter zaključuje da je jedini način za pobjedu u nuklearnom ratu ne igrati. Četiri decenije kasnije, stvarna vještačka inteligencija je, čini se, došla do suprotnog zaključka. Umjesto deeskalacije, AI modeli u simulacijama Kennetha Paynea su dosljedno birali najekstremniju opciju. Ovo ukazuje na fundamentalni jaz između ljudske logike odvraćanja, zasnovane na strahu od potpunog uništenja, i algoritamske logike koja, u nedostatku eksplicitnih ograničenja, optimizuje rezultat ka pobjedi po svaku cijenu. Ovo nije pitanje "svjesnosti" AI, već programiranih ciljeva i načina na koji modeli interpretiraju podatke o vojnoj premoći.
Pentagonov pritisak na Anthropic otkriva stvarne namjere vojske
Tajming objavljivanja ovog istraživanja ne može biti osjetljiviji. Američko Ministarstvo odbrane (Pentagon) i kompanija Anthropic trenutno su u finalnoj fazi pregovora oko uslova korišćenja modela Claude. Sekretar odbrane Pete Hegseth želi punu slobodu u primjeni Claudea za sve legalne vojne svrhe, što eksplicitno uključuje masovni nadzor i razvoj autonomnih sistema naoružanja. S druge strane, izvršni direktor Anthropica, Dario Amodei, pruža otpor, argumentujući da AI tehnologija još uvijek nije dovoljno pouzdana da bi joj se povjerilo upravljanje oružjem bez direktnog ljudskog nadzora. Sukob principa profitabilnosti, etike i nacionalne bezbjednosti ovdje dostiže vrhunac, a odluka koja se očekuje do petka definisaće presedan za budućnost ratovanja.
Balkan kao poligon: Da li smo spremni za ratove koje vode algoritmi?
Ova vijest nije samo geopolitička trivija za biznis lidere na Balkanu, ona je direktno upozorenje o smjeru u kojem se kreće tehnološki razvoj. Dok se naše kompanije i vlade bore sa bazičnom digitalizacijom, globalne sile ubrzano integrišu AI u same temelje nacionalne bezbjednosti. Postavlja se ključno pitanje: ako vodeći AI modeli, na kojima se zasnivaju i mnogi komercijalni alati koje koristimo, pokazuju ovakvu tendenciju ka eskalaciji, kakav to rizik predstavlja za regione sa neriješenim geopolitičkim tenzijama? Domaće IT firme koje rade na autsorsovanim projektima za stranu namensku industriju morale bi hitno preispitati etičke i bezbjednosne protokole. regionalne vlade, s druge strane, moraju početi razmišljati o AI ne samo kao o alatu za ekonomski rast, već i kao o ključnom faktoru u doktrinama odbrane i sajber bezbjednosti. Ignorisanje ove realnosti je luksuz koji si Balkan ne može priuštiti.
Šta je sljedeći korak za OpenAI, Google i Anthropic nakon ovih saznanja
Ovi rezultati će neizbježno pojačati pritisak na tehnološke gigante da uvedu strože, transparentnije i standardizovane sigurnosne mehanizme u svoje modele, posebno u kontekstu vojne upotrebe. Možemo očekivati intenziviranje debate o potrebi za međunarodnim konvencijama koje bi regulisale razvoj i primjenu AI u naoružanju, slično konvencijama o hemijskom ili biološkom oružju. Pitanje autonomije u donošenju odluka o životu i smrti postaje centralno pitanje našeg doba, a odgovor na njega neće dati algoritmi, već ljudi koji ih stvaraju i koriste.
