Claude Haiku 5.5: brži mali model s mnogo nižom cijenom
Anthropicov Haiku 5.5 značajno snižava cijenu za kratke API upite. Objašnjavamo tarife, granicu od 100.000 tokena i kada model ima smisla.
Anthropic je 7. oktobra predstavio Claude Haiku 5.5, svoj novi manji model za zadatke koji se ponavljaju mnogo puta: sažimanje, razvrstavanje zahtjeva, upite nad bazom ili podršku korisnicima. Najveća vijest za firme nije marketinška riječ „najbrži“, nego objavljen cjenovnik koji za kraće zahtjeve znatno spušta trošak u odnosu na Haiku 4.5.
Koliko košta
Za upit do 100.000 tokena, cijena na Claude Platformi je 0,10 dolara za milion ulaznih i 0,50 dolara za milion izlaznih tokena. Iznad te granice cijene su 0,50 i 2,50 dolara. Za poređenje, prethodni Haiku 4.5 koštao je 1 dolar po milionu ulaznih i 5 dolara po milionu izlaznih tokena. Dakle, sama tarifa je 90 odsto niža za upite do granice, a 50 odsto niža za duže upite.
Anthropic procjenjuje da je stvarni prosječni trošak izvršavanja zadatka oko 75 odsto manji, jer novi model za neke zadatke troši drugačiji broj tokena. To je procjena proizvođača, ne nezavisno izmjeren rezultat za svaku firmu. Ako imate vlastite tokove rada, stvarnu uštedu treba uporediti na istim zadacima i uz provjeru kvaliteta odgovora.
Za šta ima smisla
Haiku 5.5 namijenjen je brzom radu velikog obima. Primjer za manju firmu: razvrstavanje ulaznih poruka prije nego što ih preuzme čovjek, sažimanje dužih razgovora ili priprema kratkih odgovora koje zaposleni pregledaju. Anthropic ga nudi i kao pomoćni model uz veće Claude modele u programerskim zadacima. Za složeno programiranje i zahtjevno rezonovanje kompanija i dalje preporučuje veće modele.
Model je dostupan na Claude Platformi te kroz AWS, Google Cloud i Microsoft Azure. Anthropic je istom objavom prepolovio cijenu čitanja keša za Sonnet 5.5, sa 0,20 na 0,10 dolara po milionu tokena. To je odvojena promjena koja može smanjiti trošak agentnih radnih tokova, ali ušteda zavisi od toga koliko vaša aplikacija zaista koristi keš.
Praktičan zaključak: nemojte sve zadatke seliti na najjeftiniji model. Počnite od jednostavnih, ponavljajućih poslova i mjerite brzinu, cijenu i greške. Čovjek treba ostati u toku za odluke koje utiču na kupce ili podatke.
Izvori
Izvor: Anthropic, objava i cjenovnik
Izvor: Anthropic, dostupnost modela
O trošku Claudea u zahtjevnijem radu pisali smo i nakon izlaska Sonnet 5.5; Haiku je drugačiji izbor za veći obim jednostavnijih poslova.
Vladimir Sukara
Za redovne provjerene AI vijesti postanite besplatan član.
Autor
Osnivač AI Balkana i AIB Consultinga. Pišem o AI-ju i njegovoj primjeni u poslu. Platforma i saradnja za firme: aib.consulting. Kontakt: vladimir.sukara@aib.consulting.
