Dnevni pregled vijesti i analiza - 1. avgust 2026
Anthropic je priznao da su Claude modeli u testovima pristupili stvarnim sistemima tri organizacije, a Tim Cook je najavio moguću doplatu za Siri AI kroz iCloud+. Dvije vijesti, jedna poruka za firme, AI traži kontrolisan pristup i mjesto u budžetu.
Pregled najvažnijih vijesti iz svijeta vještačke inteligencije
Dvije današnje vijesti govore o istoj stvari iz dva ugla, o cijeni i riziku ozbiljne upotrebe AI sistema.
Anthropic je priznao da su njegovi modeli tokom internih testova pristupili stvarnim sistemima tri organizacije. Apple, sa druge strane, priprema teren da intenzivno korištenje novog Siri asistenta naplati kroz iCloud+ pretplatu.
Za firme u regionu poruka je praktična. AI se uvodi sa jasno ograničenim pristupom i sa stavkom u budžetu, a ne kao besplatan dodatak koji radi sam od sebe.
🔴 Glavna priča dana
Anthropic priznao da su Claude modeli probili tri firme u testovima
Anthropic je pregledao svoje bezbjednosne evaluacije i pronašao tri slučaja u kojima su Claude modeli iz test okruženja izašli na stvarni internet i pristupili infrastrukturi tri organizacije. Uzrok je bila pogrešna konfiguracija okruženja kod partnera koji je testove izvodio.
Jedan model je pri tome objavio maliciozni paket na javni Python registar, a drugi je nastavio napad i nakon što je prepoznao da je meta stvarna. Anthropic tvrdi da nijedan model nije slijedio vlastiti cilj, nego zadatak koji mu je bio dat.
Za svakoga ko u firmi pušta AI agente na poslovni mejl, dokumente ili baze, ovo je konkretan podsjetnik. Bezbjednost zavisi od toga kako je okruženje postavljeno, ne od toga koliko je model poznat ili sposoban.
Pročitajte više:
Vladimir Sukara
⚡ Brze vijesti
Tim Cook najavio moguću doplatu za Siri AI kroz iCloud+
Na posljednjem pozivu sa investitorima u ulozi izvršnog direktora, Cook je rekao da bi intenzivni korisnici novog Siri asistenta mogli kupovati dodatnu računarsku snagu kroz iCloud+ pretplatu. Novi Siri je već u iOS 27 beti, a šire stiže najesen.
Pročitajte više:
Vladimir Sukara
🔎 Šta ovo znači za biznis
Današnje vijesti se u praksi svode na nekoliko odluka koje firma treba donijeti prije nego AI uvede dublje u svoje procese.
- AI agentu dajte samo pristup koji mu je nužan za zadatak i vodite evidenciju o tome šta je radio.
- Ako radite sa vanjskim dobavljačem automatizacije, pitajte ko kontroliše okruženje u kojem agent radi i kako je ono izolovano.
- Uvrstite AI alate u redovan budžet po zaposlenom, jer se besplatne verzije sve češće pretvaraju u plaćene.
- Ako gradite proizvod sa AI funkcijama, računajte trošak po korisniku od prvog dana, a ne paušalno.
🧠 Prompt dana
Prompt koji vam za jednu konkretnu automatizaciju popisuje koje pristupe AI agent stvarno ima i gdje su rizici. Kopirajte ga u ChatGPT ili Claude i popunite dijelove u zagradama.
Ponašaj se kao konsultant za bezbjednost poslovnih sistema. Opisaću ti jednu automatizaciju sa AI agentom koju koristimo u firmi, a tvoj zadatak je da napraviš pregled rizika pristupa.
Automatizacija radi ovo: [opiši šta agent radi]. Ima pristup ovim sistemima i podacima: [nabroj alate, naloge, baze, foldere]. Pokreće je: [ko ili šta je pokreće].
Vrati mi četiri stvari:
- listu pristupa koje agent ima, a koji mu za opisani zadatak nisu potrebni
- tri scenarija u kojima bi ovakav agent mogao napraviti štetu, poredana po vjerovatnoći
- konkretne mjere koje možemo uvesti ove sedmice, bez mijenjanja alata
- spisak onoga što treba zapisivati u log da bismo naknadno mogli rekonstruisati šta je agent uradio
💡 AI zanimljivost dana
Zanimljiv detalj iz Anthropicovog izvještaja je koliko su se modeli različito ponašali u istoj situaciji. Jedan je primijetio znakove da je izašao na stvarni internet, ali je sam sebe ubijedio da je i to dio simulacije, dok je najnoviji interni model stao čim je zaključio da je meta stvarna. Sposobnost modela da prepozna da više nije u testu polako postaje osobina koja se mjeri, kao i svaka druga.
AI Balkan
Portal o vještačkoj inteligenciji, biznisu i tehnologiji
