OpenAI pustio Ultrafast, GPT-5.6 Sol radi 14 puta brže
OpenAI je pustio Ultrafast, režim u kojem njegov najjači model GPT-5.6 Sol radi 14 puta brže i isporučuje do 750 tokena u sekundi. Za sada ga ima samo mali broj kupaca, ali smjer je jasan. Brzina odgovora postaje zaseban proizvod, a ne nusproizvod jačeg modela.
Do sada se za brz odgovor moralo uzeti slabiji model, a OpenAI tvrdi da je tu zamjenu ukinuo.
OpenAI je 13. avgusta pustio Ultrafast, novi režim rada u kojem njegov najjači model GPT-5.6 Sol radi do 14 puta brže nego u standardnom režimu. U praksi to znači do 750 izlaznih tokena u sekundi, odnosno tekst koji se ispisuje brže nego što ga čovjek stiže pročitati. Režim je za sada u pregledu i dostupan je samo malom broju kupaca, ali je poruka jasnija od same funkcije. Brzina odgovora postaje zaseban proizvod za koji se plaća.
- Ultrafast ubrzava GPT-5.6 Sol do 14 puta u odnosu na standardnu obradu.
- Model isporučuje do 750 izlaznih tokena u sekundi.
- Iza brzine stoji partnerstvo sa proizvođačem čipova Cerebras.
- Režim je u pregledu i dostupan malom broju kupaca, a pristup se širi kako raste kapacitet.
- OpenAI ga gura ka firmama, za korisničku podršku, reagovanje na incidente, finansijsku analizu i internet prodaju.
Šta se tačno desilo
Do sada je vrijedilo jednostavno pravilo. Ako ti treba brz odgovor, uzmi manji i jeftiniji model, a ako ti treba pametan odgovor, čekaj. Ultrafast napada baš tu zamjenu. OpenAI tvrdi da isti vrhunski model sada može da radi u realnom vremenu, bez spuštanja na slabiju verziju.
Token je najmanji dio teksta koji model proizvede, otprilike jedna kratka riječ ili dio duže riječi. Sedamsto pedeset tokena u sekundi znači da se odgovor od jedne strane teksta pojavi za manje od sekunde. Za razgovor sa čovjekom to je razlika između alata koji djeluje kao mašina i alata koji djeluje kao sagovornik.
Brzinu ne donosi novi model nego novi hardver. OpenAI je Ultrafast pustio kroz partnerstvo sa Cerebrasom, proizvođačem čipova koji su građeni upravo za ovakav posao. To je i razlog zašto je pristup ograničen, jer tih čipova jednostavno nema dovoljno.
Kontekst i konkurencija
Anthropic već ima svoj brzi režim za Claude, ali ne nudi ovakav skok. Trka se u zadnjih godinu dana pomjerila sa pitanja koji model je najpametniji na pitanje ko isporučuje najviše korisnog rada u sekundi. Grok 4.6 je prošle sedmice udario na cijenu po tokenu, Ultrafast sada udara na vrijeme odgovora.
Za firme koje kupuju AI to je dobra vijest iz prostog razloga. Kad se tri velika igrača takmiče u brzini i cijeni istovremeno, kupac dobija bolji odnos jedno za drugo, bez obzira koga na kraju izabere.
Naša perspektiva, šta ovo znači za region
Za firme koje prodaju preko interneta ovo je najkonkretnije. Ako kupac na sajtu čeka pet sekundi da mu chat odgovori na pitanje o dostupnosti veličine ili roku isporuke, dio kupaca odustane prije odgovora. Kad odgovor stigne za pola sekunde, razgovor liči na prodavca u radnji. Trgovina iz Banje Luke koja sada koristi običnog bota za česta pitanja može istim ulogom dobiti alat koji radi na nivou žive osobe, samo brži.
Drugi slučaj je korisnička podrška u firmama koje imaju noćnu smjenu ili klijente u drugoj vremenskoj zoni. Brz model može odmah da sažme cijelu istoriju tiketa i predloži odgovor, pa operater ne gubi minute na čitanje.
Ipak, jedno upozorenje je važnije od svega gore. Ultrafast je u pregledu i dostupan malom broju kupaca, pa nijedan plan za jesen ne treba graditi oko njega. Praktičan potez je drugačiji. Izmjeri koliko tvoj sadašnji AI alat troši sekundi po odgovoru i koliko ljudi odustane dok čeka. Ako ta cifra ne postoji, brzina ti je svejedno, jer nemaš čime da dokažeš da se isplatila.
Zaključak
Ultrafast pokazuje da se konkurencija seli sa rezultata na testovima na sekunde koje kupac osjeti. Očekuj da Anthropic i Google u narednim mjesecima objave svoje odgovore na isti izazov i da brzi režimi postanu standardni dio poslovnih paketa. Ono što treba pratiti je cijena, jer brzina koja se naplaćuje dvostruko po tokenu ima smisla samo tamo gdje čekanje stvarno košta.
Ako želiš da svake sedmice dobiješ AI vijesti prevedene na jezik konkretnih poteza za tvoj posao, prijavi se na AI Balkan newsletter.
