Het wordt steeds riskanter om al je AI-toepassingen op één model te laten draaien. OpenRouter, een platform dat fungeert als luchtverkeersleiding voor AI-modellen, haalt 113 miljoen dollar op van onder meer Nvidia, Snowflake en Databricks. Dat betekent dat de technologie om eenvoudig te wisselen tussen verschillende AI-modellen volwassen wordt en ook voor middelgrote bedrijven bereikbaar is.

Wat er aan de hand is

OpenRouter heeft een Series B-investeringsronde van 113 miljoen dollar afgesloten. De investering komt van de investeringstakken van Nvidia, Snowflake en Databricks, aangevuld met een aantal top-vc’s. Het bedrijf beschrijft zichzelf als een routing- en gatewaylaag voor AI-modellen. Gebruikers kunnen via één API schakelen tussen honderden verschillende modellen, afhankelijk van de toepassing. Waar een bedrijfskritische toepassing een ander model vraagt dan een eenvoudige chatbot voor klantenservice, regelt OpenRouter de routering. Het platform verwerkt inmiddels wekelijks 25 biljoen tokens, een vervijfvoudiging in zes maanden. Het bedrijf zegt op schema te liggen om dit jaar meer dan een quadriljoen tokens te verwerken en meer dan 8 miljoen ontwikkelaars te bedienen die bouwen aan meer dan 400 modellen. Het geld wordt gebruikt om de infrastructuur verder op te schalen.

Wat dit betekent

Voor ondernemers die nu nog met één AI-model werken, wordt de keuze om vast te houden aan één leverancier steeds riskanter. De investering van infrastructuurbedrijven als Nvidia, Snowflake en Databricks in OpenRouter is een signaal: de markt beweegt naar een multi-modelstrategie. Volgens OpenRouter weerspiegelt de samenstelling van investeerders een gedeelde visie dat organisaties overstappen van pilotprojecten met één model naar productiesystemen met meerdere modellen. Concreet betekent dit dat je niet langer afhankelijk hoeft te zijn van één AI-leverancier. Als een model uitvalt, te duur wordt of niet presteert, kun je overschakelen naar een ander zonder dat je hele infrastructuur moet worden aangepast. Ook kun je per taak het beste model kiezen: een goedkoop model voor simpele taken, een duurder model voor complexe analyses. Voor het MKB, dat vaak niet de technische capaciteit heeft om meerdere API’s te integreren, maakt OpenRouter dit beheer ineens een stuk eenvoudiger.

Hoe je dit kunt toepassen

Als je een webshop runt met een AI-chatbot voor klantenservice, kun je overwegen om niet langer vast te zitten aan één model. Een mogelijkheid is om een eenvoudig en goedkoop model in te zetten voor standaardvragen over openingstijden of retouren, en een geavanceerder model voor complexe klachten of productadvies. OpenRouter kan dat onderscheid automatisch maken op basis van de vraag. Je zou kunnen starten met een test waarbij je een deel van het chatverkeer via OpenRouter laat lopen en de kosten en klanttevredenheid vergelijkt.

Als je een team aanstuurt dat AI gebruikt voor uiteenlopende taken, zoals het schrijven van marketingteksten, het analyseren van data en het genereren van code, dan kun je per taak het beste model kiezen. Een optie is om een inventarisatie te maken van welke AI-taken je team uitvoert en welk model daar nu voor wordt gebruikt. Vervolgens kun je via OpenRouter testen of een ander model betere resultaten geeft tegen lagere kosten. Voor een simpele samenvatting van een artikel heb je bijvoorbeeld niet het duurste model nodig.

Als je in de zorg of een andere sector met strenge privacy-eisen werkt, kun je OpenRouter gebruiken om modellen te kiezen die in Europa worden gehost of die voldoen aan specifieke wetgeving. Het platform biedt de mogelijkheid om te schakelen tussen aanbieders, waardoor je minder afhankelijk wordt van Amerikaanse leveranciers. Overweeg om een lijst te maken van de modellen die je nu gebruikt en te controleren of er Europese alternatieven beschikbaar zijn via OpenRouter. Je zou kunnen beginnen met één niet-kritische toepassing om de werking te testen.

Als je een SaaS-product bouwt waarin AI-functionaliteit zit, kun je OpenRouter gebruiken om je gebruikers de keuze te geven tussen verschillende modellen zonder dat je zelf meerdere integraties hoeft te onderhouden. Een mogelijkheid is om een abonnementsmodel te ontwikkelen waarbij klanten kunnen kiezen voor een basis- of premium-AI-laag, elk met een ander model. Je zou kunnen starten met een A/B-test waarbij een deel van je gebruikers een alternatief model krijgt aangeboden via OpenRouter.

Bron: Emerce