Google zaustavio prvi AI-generisani zero-day napad

Google tvrdi da je po prvi put otkrio zero-day exploit razvijen uz pomoć vještačke inteligencije, a napad je ciljao zaobilaženje 2FA zaštite.

Google je objavio da je njegov tim Google Threat Intelligence Group (GTIG) spriječio sofisticirani zero-day napad koji je, prema njihovim nalazima, djelimično razvijen uz pomoć AI alata. Meta napada bio je neimenovani open-source administratorski sistem baziran na web tehnologijama, a cilj hakera bio je zaobilaženje dvofaktorske autentifikacije (2FA). Posebnu pažnju istraživača privukli su tragovi u Python kodu exploita koji ukazuju na upotrebu velikih jezičkih modela (LLM), uključujući “halucinirani” CVSS sigurnosni skor i neuobičajeno strukturisan format koda.

• Google tvrdi da je ovo prvi dokumentovani slučaj AI-asistiranog zero-day exploita.
• Napadači su pokušali zaobići 2FA kroz logičku grešku u sistemu povjerenja.
• Istraživači su pronašli indikatore da je exploit razvijen uz pomoć LLM modela.
• Hakeri koriste “persona-driven jailbreaking” kako bi AI modeli pomagali u otkrivanju ranjivosti.
• AI postaje i alat za napade i nova meta cyber kriminalaca.

Analiza: Kako je AI pomogao u razvoju exploita

Prema GTIG izvještaju, exploit je iskorištavao “semantic logic flaw” grešku nastalu zbog hardkodirane pretpostavke povjerenja unutar 2FA sistema. Takve ranjivosti su posebno opasne jer često prolaze ispod radara tradicionalnih sigurnosnih testova.

Google navodi nekoliko tehničkih detalja koji sugerišu AI asistenciju:

• Kod je imao “tekstbook” strukturu karakterističnu za sadržaj generisan LLM modelima.
• U skripti je pronađen nepostojeći CVSS skor, što podsjeća na AI halucinacije.
• Dokumentacija unutar exploita bila je neuobičajeno detaljna i formalna.

Google ipak tvrdi da nema dokaza da je korišten njihov model Gemini.

Posebno zabrinjava činjenica da hakeri sada koriste tehnike poput “persona-driven jailbreaking”, gdje AI modelu daju ulogu sigurnosnog stručnjaka ili penetration testera kako bi izvukli zabranjene informacije o ranjivostima.

Takođe se spominje korištenje alata poput OpenClaw GitHub projekta za testiranje i unapređenje AI-generisanih payloadova prije stvarne upotrebe u napadima.

Konkurencija i stanje tržišta

Cybersecurity sektor već sedmicama raspravlja o novoj generaciji AI modela specijalizovanih za sigurnost. Posebno se spominje Anthropic i njihov sigurnosni model Mythos, koji je izazvao zabrinutost zbog sposobnosti analize ranjivosti i generisanja exploit koda.

Istovremeno, AI se koristi i za defanzivu:

• Google integriše AI u automatsku detekciju prijetnji.
• Microsoft Security Copilot koristi AI za analizu sigurnosnih incidenata.
• CrowdStrike i Palo Alto Networks razvijaju AI agente za autonomni odgovor na napade.

Tržište ulazi u novu fazu gdje će AI modeli istovremeno biti alat za zaštitu i oružje za napad.

Naša perspektiva

Za firme u regionu ovo je ozbiljan signal upozorenja. Mnoge kompanije u BiH, Srbiji i regionu ubrzano uvode AI alate u poslovanje bez adekvatnih sigurnosnih procedura.

Poseban problem predstavlja:

• oslanjanje na open-source alate bez redovnih sigurnosnih provjera,
• loše implementiran 2FA,
• nedostatak AI sigurnosnih politika,
• nekontrolisano korištenje AI chatbotova unutar firmi.

Očekivano je da će AI značajno sniziti barijeru ulaska u cyber kriminal. Ranije su sofisticirani exploitovi zahtijevali veoma iskusne programere, dok sada manje iskusni napadači mogu koristiti AI za automatizaciju dijela procesa.

Za poslovne korisnike to znači da klasične sigurnosne metode više neće biti dovoljne. Kompanije će morati ulagati u:

• AI sigurnosni monitoring,
• Zero Trust arhitekturu,
• naprednu autentifikaciju,
• edukaciju zaposlenih o AI prijetnjama.

Zaključak

Googleov izvještaj vjerovatno predstavlja početak nove ere AI-asistiranih cyber napada. Iako trenutni modeli još nisu potpuno autonomni u razvoju sofisticiranih exploita, jasno je da ubrzano postaju multiplikator sposobnosti za cyber kriminalce.

U narednih 12 do 24 mjeseca očekuje se eksplozija AI-generisanih phishing kampanja, automatizovanih exploit alata i personalizovanih napada na firme i institucije. Sigurnosna industrija sada praktično ulazi u AI trku naoružanja.

Želite zaštititi svoju firmu od AI-generisanih cyber prijetnji?

AI Balkan Premium donosi detaljne analize, sigurnosne trendove i praktične AI strategije za poslovne korisnike prije nego što postanu mainstream tema.

Pridružite se zajednici kompanija koje koriste AI pametnije i sigurnije.