AI-nieuws: modellen concurreren op tooling en controle

Claude Sonnet 5.5 en GPT-6.1 Sol hanteren nu allebei een prijs van $2 voor input en $10 voor output. Nu intelligentie van bijna het hoogste niveau goedkoper wordt, draaien inkoopbeslissingen vooral om de aansluiting op tooling, de uitrol van modellen met open gewichten en operationele controle.

Prijs maakt niet langer het verschil tussen de belangrijkste codingmodellen

Anthropic bracht Claude Sonnet 5.5 uit op 28 september, gevolgd door OpenAI's GPT-6.1 Sol tijdens DevDay op 29 september. Tegen de standaardtarieven kosten beide modellen evenveel, maar hun API-gedrag verschilt genoeg om overstappen op basis van benchmarks onverstandig te maken.

Anthropic meldt dat Sonnet op Terminal-Bench 4.0 verbeterde van 10,3% naar 70,6%. Deze benchmark test agents die via terminalomgevingen werken. Teams die thinking hebben uitgeschakeld, moeten overstappen op de nieuwe instelling between_tools, omdat bestaande configuraties zich niet hetzelfde zullen gedragen.

GPT-6.1 Sol kent andere beperkingen:

• Prompts met meer dan 272,000 inputtokens kosten tweemaal het normale inputtarief.
• Voor dezelfde te grote aanvraag geldt 1,5 keer het normale outputtarief.
• De ondersteunde waarden voor reasoning.effort lopen van low tot max.
• Chat Completions ondersteunt Sol alleen zonder tool calling.
• Agentsystemen die tools aanroepen, hebben de Responses API nodig.

Volgens OpenAI benadert Sol de prestaties van GPT-6 Astra tegen een vijfde van Astra's standaardtokenprijs, zo blijkt uit de berichtgeving rond de DevDay-lancering. De meeste engineeringteams doen er goed aan om naast de gepubliceerde basistokenprijs ook het voltooiingspercentage van taken, het aantal nieuwe pogingen en de betrouwbaarheid van tool calls te vergelijken.

Haiku 5.5 maakt routering naar subagents economisch vanzelfsprekend

Anthropic bracht Claude Haiku 5.5 op 7 oktober uit en positioneerde het onder Sonnet en Opus voor complexe agentic coding-taken. Volgens de aankondiging van Haiku 5.5 richt het model zich op contextcompressie, samenvattingen en afgebakende taken voor subagents.

Het prijsverschil is te groot om te negeren:

• Input: $0.10 per miljoen tokens
• Output: $0.50 per miljoen tokens
• Promptlimiet tegen het standaardtarief: 100,000 tokens
• Aanbevolen werk: samenvattingen, contextcompressie en nauw afgebakende gedelegeerde taken

Gebruik Haiku voor begrensde taken met een hoog volume en valideer de resultaten. Schaal mislukte of onzekere uitvoer op naar Sonnet of Opus voor ambigue planning en lastige codewijzigingen. Elke tussenstap naar Sonnet 5.5 sturen is voor zowel input als output twintig keer zo duur, zonder dat het eindantwoord genoeg verbetert om die meerprijs te rechtvaardigen.

Mistral Large 4 daagt gehoste modellen uit voordat de licentie bekend is

Mistral stelde Large 4 op 6 oktober als publieke preview beschikbaar via de Mistral Studio API. Het bedrijf omschrijft het als een mixture-of-experts-model met in totaal ongeveer één biljoen parameters, waarvan er per token 52 miljard actief zijn, aldus de officiële release.

De kosten van inference hangen af van het aantal actieve parameters, niet van het totale aantal parameters. Door voor elk token slechts een deel van het model te gebruiken, krijgt u de capaciteit van een groot model zonder bij iedere aanvraag het volledige netwerk te activeren.

De API-tarieven zijn scherp, maar teams die een private uitrol plannen, kunnen beter wachten op de definitieve licentie, de vereisten voor serving en de geheugenvoetafdruk voordat ze architectuur- of budgetkeuzes vastleggen:

• Input: $1.36 per miljoen tokens
• Output: $4.18 per miljoen tokens
• Huidige status: publieke API-preview
• Beoogde release van de gewichten: eind oktober
• Licentie: nog niet bekendgemaakt

Beam en Kolibri tonen twee sterk verschillende strategieën voor open gewichten

Reflection kondigde Beam aan op 5 oktober, terwijl Aleph Alpha Kolibri op 3 oktober uitbracht. Beide gebruiken sparse mixture-of-experts-architecturen. Kolibri is nu al te downloaden; voor Beam geldt nog een wachtlijst.

Reflection rapporteert voor Beam een score van 80,9 op SWE-Bench Verified. Het model ondersteunt uitsluitend tekst en blijft op de wachtlijst staan totdat de toegezegde Apache 2.0-release later in oktober beschikbaar komt.

Kolibri is minder spectaculair, maar wel directer inzetbaar. Het ondersteunt Engels en Duits, biedt een contextvenster tot één miljoen tokens en is al gepubliceerd onder Apache 2.0. Voor serving is echter de inferenceplugin van Aleph Alpha voor vLLM nodig.

Voor Kolibri-implementaties met meer dan 262,144 tokens zijn extra servingflags nodig. Teams kunnen het geheugenverbruik en de latency daarom beter testen met de contextlengtes die ze daadwerkelijk gebruiken, in plaats van de maximale specificatie als normaal werkpunt te beschouwen.

Cloudflare Clef stelt dat veel AI-aanroepen geen proza zouden moeten opleveren

Cloudflare bracht Clef en Clef-flash op 1 oktober uit als beslismodellen onder Apache 2.0. Ze leveren begrensde, getypeerde uitvoer met waarschijnlijkheden, zoals beschreven in de aankondiging van Clef.

De interface is geschikt voor routering, beleidscontroles, classificatie en beslismomenten in workflows:

• De modellen zijn via Workers AI beschikbaar als @cf/cloudflare/clef.
• Clef-flash rapporteert een mediane latency van 38,8 ms.
• De uitvoer gebruikt vooraf gedefinieerde typen.
• Antwoorden bevatten waarschijnlijkheden die applicaties met drempelwaarden kunnen vergelijken.
• Fine-tuning met reinforcement learning begint als een door engineers uitgevoerde dienst. Selfservice-toegang staat gepland.

Architectonisch is dit de belangrijkste release van de groep. Kleine beslismodellen zijn in productie vaak de betere component wanneer de uitvoer rechtstreeks code moet aansturen. Een supportworkflow kan factureringsverzoeken met een hoge betrouwbaarheid automatisch routeren en gevallen met een lage betrouwbaarheid doorsturen naar een medewerker. U hoeft dan geen algemeen chatmodel om JSON te vragen en vervolgens maar te hopen dat het zich aan het schema houdt.

Om in de gaten te houden

• Of Mistral de gewichten van Large 4 voor eind oktober publiceert, en onder welke licentie.
• Of Reflection de Apache 2.0-gewichten van Beam volgens planning uitbrengt en reproduceerbare evaluatiedetails verstrekt.
• Hoe klanten van OpenAI omgaan met de tariefgrens van Sol zodra productieagents grotere contextvensters beginnen te vullen.
• Wanneer Cloudflare selfservice-fine-tuning met reinforcement learning voor Clef beschikbaar stelt.
• Of modelrouters modellen uit de Haiku-klasse als standaardlaag voor uitvoerende taken gaan gebruiken.

Wat u nu kunt doen

1. Voer dezelfde twintig repositorytaken uit met Claude Sonnet 5.5 en GPT-6.1 Sol. Registreer succesvolle voltooiingen, toolfouten, nieuwe pogingen en de totale tokenkosten.
2. Controleer de GPT-aanvraaglogs van één week en tel hoeveel prompts meer dan 272,000 inputtokens bevatten voordat u Sol inzet voor workflows met een lange context.
3. Routeer honderd taken voor samenvatting of contextcompressie naar Haiku 5.5. Vergelijk daarna het aantal validatiefouten en de kosten met die van uw huidige model.
4. Test Kolibri in een geïsoleerde omgeving met de vereiste vLLM-plugin voordat u het voorstelt voor productieomgevingen of gereguleerde workloads.
5. Bouw een prototype van één Clef-besliseindpunt met een vast schema. Log vervolgens voor ten minste duizend aanvragen de betrouwbaarheidsscores en p95-latency.

Nuttige bronnen

• Claude Sonnet 5.5 - Releasedetails, prijzen en benchmarkresultaten voor agents.
• API-documentatie van GPT-6.1 Sol - Context, tariefgrenzen en API-compatibiliteit.
• Claude Haiku 5.5 - Prijzen en aanbevolen workloadcategorieën.
• Mistral Large 4 - Details over de API-preview en de geplande release van de gewichten.
• Cloudflare Clef - Getypeerde beslisuitvoer, latency en beschikbaarheid via Workers AI.

Vooruitblik

Gelijke prijzen in de kop maken de onderliggende architectuurverschillen zichtbaar, van tool-API's en contexttoeslagen tot implementatielicenties en getypeerde uitvoer.

De winnende stack stuurt niet alles naar één vlaggenschipmodel. Afgebakende taken gaan naar goedkope subagents, kostbare reasoning blijft voorbehouden aan moeilijke beslissingen en deterministische beslismodellen worden ingezet wanneer software een begrensd antwoord nodig heeft. Hetzelfde controlevraagstuk speelt een rol in de recente strijd om de controle over agents. Met deze releases is het een directe engineeringprioriteit geworden.