Anthropic har skiftet alle tre Claude-modeller ud på godt to uger, og de er blevet billigere at køre. Opus 5.5 kom 22. september, Sonnet 5.5 den 28., og i går kom Haiku 5.5.
Jeg sætter Claude op hos de fleste af mine kunder, så det er den nyhed fra efteråret, der rammer mit eget arbejde mest. Der er skrevet meget om, hvor kloge de nye modeller er. Jeg vil hellere se på prisen, for det er den, der afgør, om en opgave kan betale sig at give til en agent.
Opus 5.5: topniveau til lavere pris
Opus er den store model. Anthropic skriver, at Opus 5.5 klarer det meste arbejde på samme niveau som Fable 5.1, som er deres dyreste og stærkeste model. Samtidig koster den omkring 40 procent mindre at køre end Opus 5.
En del af det kommer af, at prisen er sat ned. Den koster nu 4 dollar pr. million tokens ind og 20 dollar ud, mod 5 og 25 før. Tokens er de små stykker tekst, modellen læser og skriver, og en million svarer groft sagt til et par tykke bøger. Resten af besparelsen kommer af, at den bruger færre ord på at nå frem til et svar.
Tallene er Anthropics egne, så dem skal man tage med et gran salt. Handelsfirmaet Optiver melder dog om en besparelse på mellem 40 og 50 procent på deres eget arbejde, så tallet står ikke helt alene.
En lille ting, hvis du bygger noget selv: Opus 5.5 tænker altid, før den svarer. Det kan ikke længere slås fra. Det gør den mere stabil, men den er ikke den rigtige at bruge til de helt små opgaver.
Sonnet 5.5: samme pris, færre tokens
Sonnet er den mellemste, og det er den, de fleste ender med at bruge til daglig. Prisen er den samme som før, 2 dollar ind og 10 ud pr. million tokens. Men ifølge Anthropic skriver den over 30 procent hurtigere og koster op til 30 procent mindre pr. opgave, fordi den bliver hurtigere færdig.
Box, der laver fildeling, skriver at den var mere præcis, mere end dobbelt så hurtig og brugte lidt færre tokens end den gamle. Et kapitalforvaltningsfirma fortæller, at den brugte omkring en fjerdedel så mange tokens pr. svar som Sonnet 5.
Prisen pr. token er altså den samme, men regningen bliver mindre.
Haiku 5.5: 75 procent billigere end forgængeren
Haiku er den lille model, og det er her, den største nyhed ligger. Haiku 5.5 koster 10 cent pr. million tokens ind og 50 cent ud på almindelige opgaver. Den gamle Haiku kostede 1 dollar ind og 5 ud. Anthropic regner med, at den i gennemsnit koster omkring tre fjerdedele mindre at køre, og på de korte opgaver endnu mindre.
Den er også blevet meget bedre. På en test, der måler hvor godt en model kan bruge en computer, går den fra cirka hver sjette opgave løst til næsten tre ud af fire.
Den er ikke så klog som Sonnet, og det skriver Anthropic også selv. Den er lavet til opgaver, der kører i store mængder: resuméer, sortering, opslag, mærkning af mails, kundeservice der skal svare hurtigt. Og som hjælper for de store modeller, når en opgave bliver delt op i mindre bidder.
Hvad betyder de lavere priser for en mindre virksomhed?
I august skrev jeg om opgaver, der lige akkurat ikke kunne betale sig sidste år. Hver gang en god model bliver billigere, rykker den grænse sig. Denne gang er den rykket i alle tre størrelser på én gang.
Det mærkes mest på de opgaver, der kører mange gange i små bidder. Mails, der skal sorteres. Bilag, der skal læses. Varelinjer, der skal have en kategori. Hver for sig koster de ingenting, men det er dem, der fylder på regningen, når man lægger dem sammen.
Et regneeksempel, så det bliver lidt mere konkret. Det er et eksempel, ikke en kunde. Sig at et firma får tre tusind mails om måneden, som skal læses, sorteres og have en kort opsummering. Med den gamle Haiku ville det have kostet omkring 13 dollar om måneden. Med den nye er det lidt over 1 dollar.
Begge beløb er småpenge, det er jeg godt klar over. Pointen er, at man nu kan lade modellen læse det hele, også det man før sorterede fra på forhånd, fordi det ikke kunne svare sig.
Det gælder også agenterne. En agent, der bruger morgenen på at gå indbakken igennem, slå op i kalenderen og hente det, der mangler, bruger mange tokens, fordi den tænker og prøver sig frem undervejs. Når prisen pr. opgave falder med en tredjedel, kan man køre den hver dag og ikke kun om mandagen. Og man kan lade den store model træffe beslutningerne og den lille tage fodarbejdet.
Hvilken Claude-model skal du vælge?
Min tommelfingerregel lige nu ser sådan her ud.
Sonnet 5.5 er standard. Den er god nok til næsten alt, hvad en mindre virksomhed laver, fra mails og tilbud til opsummeringer og de faste opgaver om morgenen. Det er den, jeg sætter op, medmindre der er en grund til andet.
Opus 5.5 tager jeg frem, når opgaven er svær eller lang. Analyser, der skal holde vand, eller agenter, der skal træffe beslutninger over mange trin.
Haiku 5.5 er til, når opgaven er enkel og skal køres rigtig mange gange.
Hvis du bare bruger Claude-appen, skal du sjældent vælge selv. Valget betyder mest, når der bliver bygget noget, der kører af sig selv, for det er dér, regningen vokser med antallet.
Det, der ikke er blevet billigere, er at sætte det op, lære folk at bruge det og holde det ved lige, når jeres priser og systemer ændrer sig. Det er stadig den største post i de fleste projekter. Så regn på det hele.
Men har du en idé liggende fra foråret, som du droppede, fordi driften blev for dyr, så er det værd at regne på den igen.
Indlægget her er skrevet sammen med en AI, redigeret og godkendt af Mark, inden det blev lagt op. Tal, navne og holdninger er hans egne.