Het antwoord: Open-source AI-modellen uit China bieden een serieus alternatief voor de dure commerciële modellen van OpenAI, Anthropic en Google. Vooral voor bedrijven die intensief gebruikmaken van AI, kan dit een aanzienlijke kostenbesparing opleveren, omdat je niet langer per token betaalt maar zelf de infrastructuur beheert.

Wat er aan de hand is

De grote westerse AI-aanbieders rekenen forse bedragen voor hun krachtigste modellen. Waar een eenvoudig abonnement rond de 25 euro per maand kost, gaan intensieve gebruikers al snel over op betalen per gebruik. Die kosten worden bijgehouden in tokens, stukjes tekst die het model verwerkt of genereert. De prijzen voor topmodellen liggen op ongeveer 5 dollar per miljoen invoertokens en 30 dollar per miljoen outputtokens bij OpenAI, met vergelijkbare tarieven bij Anthropic en Google.

De rekening loopt vooral op door de opkomst van AI-agents, zoals Claude Code, Cursor en OpenAI Codex. Deze software schrijft, test en repareert code zelfstandig, maar verbrandt daarbij continu tokens. Onderzoeksbureau Gartner waarschuwt dat de kosten voor deze tools tegen 2028 kunnen oplopen tot boven het salaris van een gemiddelde programmeur in India. Nu al geeft een kwart van de ondervraagde IT-managers hun programmeurs een budget van 200 tot 500 dollar per maand, en 6 procent van de techleiders geeft zelfs meer dan 2.000 dollar per developer uit.

Tegenover deze dure westerse modellen staan open-source alternatieven uit China. Deze modellen zijn vrij beschikbaar en kunnen op eigen infrastructuur worden gedraaid, waardoor je niet langer per token betaalt maar alleen voor de rekenkracht die je zelf inzet.

Wat dit betekent

Voor Nederlandse ondernemers betekent dit een verschuiving in de kostenstructuur van AI. In plaats van een variabele rekening die meegroeit met het gebruik, kun je kiezen voor een vast bedrag aan infrastructuurkosten. Dat maakt de kosten voorspelbaarder en kan vooral voor bedrijven die AI intensief inzetten een groot verschil maken.

De impact is het grootst voor bedrijven die afhankelijk zijn van AI-agents voor softwareontwikkeling, klantenservice of contentproductie. Waar je voorheen per gegenereerd token betaalde, kun je met open-source modellen dezelfde taken uitvoeren tegen een fractie van de kosten. Dit opent de deur voor kleinere bedrijven die voorheen terugschrokken voor de hoge variabele kosten van commerciële API’s.

Hoe je dit kunt toepassen

Als je een softwarebedrijf runt en je developers gebruikmaken van AI-agents, dan is het verstandig om de huidige tokenkosten te analyseren. Je zou kunnen overwegen om een open-source Chinees model op een eigen server of via een goedkope cloudprovider te draaien voor taken die veel tokens verbruiken, zoals codegeneratie en testen. Een mogelijkheid is om te beginnen met een pilot waarbij je een deel van het werk overhevelt en de kwaliteit en kosten vergelijkt met je huidige oplossing.

Als je een bedrijf leidt waar AI wordt ingezet voor klantenservice of tekstverwerking, dan kun je kijken of open-source modellen geschikt zijn voor deze taken. Overweeg om een eigen model te draaien voor eenvoudige, repetitieve taken zoals het samenvatten van documenten of het beantwoorden van standaardvragen. Dit kan de variabele kosten aanzienlijk verlagen, terwijl je voor complexe taken de commerciële modellen blijft gebruiken.

Als je een financieel verantwoordelijke bent die worstelt met onvoorspelbare AI-kosten, dan is het zinvol om de overstap naar open-source modellen te onderzoeken. Je zou kunnen beginnen met het in kaart brengen van de huidige uitgaven per afdeling en per gebruiksscenario. Een optie is om een kostenplafond in te stellen voor commerciële API’s en overtollig gebruik om te leiden naar een eigen infrastructuur met open-source modellen.

Als je een IT-manager bent die zich zorgen maakt over de stijgende budgetten voor AI-tools, dan is het verstandig om de Gartner-waarschuwing serieus te nemen. Je zou kunnen overwegen om een hybride strategie te hanteren: gebruik commerciële modellen voor taken waar kwaliteit cruciaal is, en open-source modellen voor taken waar snelheid en volume belangrijker zijn. Een mogelijkheid is om een team samen te stellen dat de implementatie van open-source modellen onderzoekt en test op jouw specifieke use cases.

De praktische toepassing hangt af van jouw situatie, maar de kern is duidelijk: de tijd dat je alleen bij westerse aanbieders terechtkon voor hoogwaardige AI is voorbij. Open-source Chinese modellen bieden een reëel alternatief dat je kostenstructuur kan veranderen van variabel naar vast, en dat kan precies het verschil maken tussen AI die rendeert en AI die je budget opeet.

Bron: Sprout