OpenAI pokazao rezultate za sopstveni AI čip Jalapeño
OpenAI je na konferenciji Hot Chips pokazao prve benchmark rezultate za cip Jalapeno, razvijen sa Broadcomom. U testovima nadmasuje trenutno najbolji Nvidia sistem po brzini i potrosnji energije, sa ozbiljnijom proizvodnjom tokom 2027.
Novi čip Jalapeño, razvijen sa Broadcomom, u testovima nadmašuje trenutno najbolji Nvidia sistem po brzini i potrošnji energije.
OpenAI je na konferenciji Hot Chips 2026 predstavio prve benchmark rezultate za svoj čip Jalapeño, razvijen u saradnji sa Broadcomom. Na testu InferenceX kompanije Semianalysis, Jalapeño je pokazao veći broj tokena po korisniku i veću propusnost po kilovatu od trenutno najboljeg dostupnog sistema, Nvidia Blackwell. Čip treba da uđe u malu proizvodnju krajem 2026, sa ozbiljnijim uvođenjem tokom 2027. Za firme koje plaćaju AI po zahtjevu, ovo znači jedno - cijena odgovora bi trebalo da padne.
- OpenAI je na konferenciji Hot Chips pokazao prve benchmark rezultate za čip Jalapeño.
- Na testu InferenceX, Jalapeño ima više tokena po korisniku i veću propusnost po kilovatu od Nvidia Blackwell sistema.
- Čip je razvijen sa Broadcomom, uz pomoć OpenAI-jevih sopstvenih modela u procesu dizajna.
- Mala proizvodnja počinje krajem 2026, ozbiljnije uvođenje tokom 2027.
- Cilj je da OpenAI kontroliše cio lanac - modele, čipove i memoriju - umjesto da zavisi samo od Nvidije.
Šta se tačno desilo
OpenAI je prvi put najavio Jalapeño još u oktobru prošle godine, a sada je na Hot Chips konferenciji pokazao konkretne brojke. Richard Ho, šef hardvera u OpenAI-ju, kaže da čip može da posluži više AI posla po jedinici energije, uz brže vraćanje odgovora, dakle brže i jeftinije istovremeno.
Poređenje je rađeno protiv Nvidia Blackwell sistema, trenutno najbolje dostupne opcije na tržištu. Do pune primjene Jalapeña, konkurencija će vjerovatno takođe napredovati, ali OpenAI gradi čip kao višegeneracijsku platformu, gdje modeli, čipovi i memorija nastaju usklađeno, ne odvojeno.
Tehnički, Jalapeño je dizajniran da smanji kašnjenja u dvije faze obrade koje najčešće usporavaju AI odgovore fazu učitavanja konteksta i fazu komunikacije između dijelova sistema. Praktično, to znači da model zadržava kontekst razgovora lokalno umjesto da gubi vrijeme na prenos podataka između servera.
Kontekst i konkurencija
OpenAI se ovim pridružuje trendu koji je Google odavno počeo sa sopstvenim TPU čipovima (procesorima namijenjenim posebno za AI zadatke), a Amazon i Microsoft prate sa svojim projektima. Cilj svih je isti manje zavisnosti od Nvidijinih cijena i veće marže na AI usluge koje prodaju.
Za korisnika je to, kratkoročno, tehnički detalj bez vidljivog efekta. Dugoročno, konkurencija u proizvodnji AI čipova obično znači jedno niže cijene po upitu, jer provajderi poput OpenAI-ja, Googlea i Microsofta prestaju da plaćaju monopolsku premiju samo jednom dobavljaču.
Naša perspektiva šta ovo znači za region
Za firme koje grade proizvode na ChatGPT API-ju ili planiraju veći obim AI upita recimo automatizovanu korisničku podršku ili obradu velikih količina dokumenata ovo je signal da bi troškovi po upitu trebalo da padaju tokom 2027, kad Jalapeño uđe u ozbiljniju proizvodnju. Vrijedi planirati budžet za AI sa tom pretpostavkom, umjesto da se strahuje od stalnog rasta cijena.
Za IT firme koje savjetuju klijente oko AI infrastrukture, ovo je argument da odlaganje velikih investicija u sopstveni hardver za AI može biti pametnije nego trka da se odmah kupi najskuplja oprema, jer se cijena usluge kod velikih provajdera vjerovatno spušta.
Jalapeño neće promijeniti ništa preko noći, prva mala proizvodnja dolazi tek krajem godine. Ali smjer je jasan - veliki AI provajderi grade sopstveni hardver da bi smanjili troškove, a ta ušteda će se, makar djelimično, prenijeti na cijenu koju firme plaćaju za AI usluge.
Ako želiš da pratiš kako se mijenjaju cijene i mogućnosti AI alata i šta to znači za budžet tvoje firme, prijavi se na AI Balkan newsletter.
Izvori: