Het antwoord: Open-source AI-modellen uit China bieden een betaalbaar alternatief voor de dure commerciële AI-diensten, vooral voor bedrijven die intensief gebruikmaken van AI-agents. Waar de tokenkosten van grote aanbieders als OpenAI en Anthropic snel kunnen oplopen tot duizenden dollars per maand, kunnen open-source modellen deze kosten drastisch verlagen. Dit is cruciaal voor ondernemers die AI willen inzetten zonder dat de rekening exploderen.

Wat er aan de hand is

De grote AI-bedrijven zoals OpenAI, Anthropic en Google rekenen niet alleen een vast bedrag per maand, maar ook per gebruik. Dit gebruik wordt gemeten in tokens, stukjes tekst die het model verwerkt. De prijzen voor topmodellen liggen rond de 5 dollar per miljoen invoertokens en 30 dollar per miljoen uitvoertokens. Voor intensieve gebruikers, zoals softwareontwikkelaars die AI-agents 24/7 inzetten, kunnen deze kosten snel oplopen. Onderzoeksbureau Gartner waarschuwt dat de uitgaven aan tokens en abonnementen tegen 2028 zelfs hoger kunnen zijn dan het salaris van een gemiddelde programmeur in India. Op dit moment geeft een kwart van de IT-managers hun programmeurs een budget van 200 tot 500 dollar per maand, maar dit kan oplopen tot 2.000 dollar. Zes procent van de techleiders geeft nu al meer dan 2.000 dollar per developer uit. Open-source modellen, waaronder die uit China, bieden een uitweg door geen of veel lagere tokenkosten te rekenen.

Wat dit betekent

Voor het MKB betekent dit een kans om de kosten van AI-gebruik onder controle te houden. De hoge tokenprijzen van commerciële aanbieders kunnen een flinke hap uit het budget nemen, vooral als je AI inzet voor taken die veel rekenkracht vereisen, zoals het schrijven van software of het verwerken van grote hoeveelheden tekst. Open-source modellen, die vaak gratis of tegen een fractie van de kosten te gebruiken zijn, maken het mogelijk om dezelfde taken uit te voeren zonder dat de rekening de pan uit rijst. Dit is vooral relevant voor bedrijven die AI willen integreren in hun dagelijkse processen, maar niet de financiële middelen hebben van grote techbedrijven. De verschuiving naar open-source modellen kan de toegang tot geavanceerde AI-technologie democratiseren, waardoor ook kleinere bedrijven kunnen profiteren van de voordelen van AI.

Hoe je dit kunt toepassen

Als je een softwarebedrijf runt en AI-agents inzet voor het schrijven en testen van code, dan kun je overwegen om over te stappen op open-source modellen. Deze modellen zijn vaak net zo capabel als de commerciële varianten, maar zonder de hoge tokenkosten. Je zou kunnen beginnen met het testen van een open-source model op een klein project om te zien of het voldoet aan je eisen. Een mogelijkheid is om een hybride aanpak te hanteren: gebruik commerciële modellen voor complexe taken en open-source modellen voor routinematige werkzaamheden.

Als je een marketingbureau leidt en AI gebruikt voor het genereren van content, dan kunnen de tokenkosten snel oplopen. Overweeg om open-source modellen in te zetten voor het produceren van conceptteksten en het uitvoeren van eenvoudige analyses. Dit kan aanzienlijk schelen in de maandelijkse kosten. Je zou kunnen experimenteren met verschillende open-source modellen om te ontdekken welke het beste past bij jouw specifieke behoeften.

Als je een bedrijf hebt dat veel data verwerkt, bijvoorbeeld in de financiële sector of de zorg, dan is het verstandig om de kosten van AI-gebruik nauwlettend in de gaten te houden. Open-source modellen kunnen een kosteneffectieve oplossing bieden voor taken zoals het samenvatten van documenten of het extraheren van informatie. Een optie is om een pilot te starten met een open-source model en de resultaten te vergelijken met de commerciële aanbieders. Zo kun je een weloverwogen beslissing nemen over de inzet van AI binnen je organisatie.

Bron: Sprout