Mesterséges intelligencia
Claude Haiku 5.5: olcsóbb és gyorsabb kis modellt adott ki az Anthropic
Az Anthropic kiadta a Claude Haiku 5.5-öt, amely a cég szerint eddigi legolcsóbb, leggyorsabb és legképesebb kis modellje. A futtatása átlagosan nagyjából 75 százalékkal olcsóbb az elődjénél, és ez az első Haiku, amelynél beállítható a gondolkodás mértéke.
Az árcsökkentés a gyakorlatban nagyobb részt érinti a felhasználást, mint elsőre tűnik: a Haiku 4.5 kéréseinek mintegy 90 százaléka ugyanis 100 000 token alatti volt, vagyis a 90 százalékos kedvezmény sávjába esett. Az új tokenizáló, amely a szöveget tokenekre bontja, viszont azt eredményezi, hogy a modell feladatonként valamivel több tokent használ, ami kissé mérsékli a megtakarítást.
Állítható erőfeszítés, szűkebb feladatokra
Ez az első Haiku-osztályú modell, amelynél beállítható, mekkora „erőfeszítést” (effort) fordítson egy feladatra, vagyis mennyit gondolkodjon a válasz előtt. Az Anthropic több teszten is bemutatta a teljesítményét, köztük az OSWorld 2.1, a GDPval-AA v2.1 és a Humanity's Last Exam méréseken, a számszerű eredmények azonban grafikonokon szerepeltek.
Az új modell szűkebb, tömeges feladatokra és segédügynöknek, vagyis egy nagyobb rendszer részfeladatait végző modellnek való. A bonyolult, önálló kódolási munkára a cég szerint továbbra is a Sonnet 5.5 és az Opus 5.5 a jobb választás. Az ügyfél-visszajelzések szerint a HubSpot ügyfélkezelési tesztjén 92,8 százalékot ért el, a Box mérésében pedig 11 ponttal jobb a Haiku 4.5-nél, fele akkora késleltetéssel.
A biztonsági védelmek is változtak: a kiberbiztonsági korlátok szigorúbbak, mint a Haiku 4.5-nél, de enyhébbek, mint a Sonnet 5.5-nél, a behatolásos (penetrációs) tesztelést blokkolják. A biológiai védelmek megegyeznek a nagyobb modellekével. A Python és a TypeScript fejlesztői csomag béta támogatást kap a számítógép- és böngészővezérléshez.
Árcsökkentés és ingyenes API-kredit
Az Anthropic nemcsak az új modellel versenyez az árakban. A Sonnet 5.5 gyorsítótárból olvasott tokenjeinek árát felére, millió tokenenként 0,20-ról 0,10 dollárra csökkentette, ami a cég szerint a legtöbb ügynöki feladatot nagyjából 20 százalékkal olcsóbbá teszi. A Max és a Team előfizetők emellett havi API-kreditet kapnak a Claude Platformon: a Max 5x csomag 100, a Max 20x 200, a Team pedig akár 500 dollárt, a felhasználók között megosztva.
A Haiku 5.5 minden platformon elérhető, köztük az AWS-en, a Google Cloudon és a Microsoft Azure-ön, a fejlesztők a claude-haiku-5-5 azonosítóval hívhatják. A konkrét listaárak táblázatban szerepeltek, a szövegben nem, és a megjelenés pontos dátumát sem közölték. A lépések jól mutatják, hogy az AI-modellek piacán az ár ma már legalább annyira fontos versenyszempont, mint a teljesítmény.