OpenAI heeft nieuwe functies aan ChatGPT Enterprise toegevoegd waarmee organisaties hun AI-uitgaven beter kunnen beheren en onverwachte kosten kunnen voorkomen. De update bevat uitgebreide gebruiksanalyses en verbeterde kostencontroles, specifiek gericht op bedrijven die AI op schaal inzetten.

Wat er aan de hand is

OpenAI heeft twee nieuwe functionaliteiten gelanceerd voor ChatGPT Enterprise: usage analytics en spend controls. De usage analytics geven organisaties inzicht in hoe medewerkers ChatGPT gebruiken, inclusief welke functies het vaakst worden gebruikt en hoeveel tokens er worden verbruikt. De spend controls stellen beheerders in staat om budgetlimieten in te stellen per team, afdeling of gebruiker. Dit betekent dat bedrijven niet langer achteraf worden verrast door hoge rekeningen, maar vooraf kunnen bepalen hoeveel er maximaal wordt uitgegeven. De aankondiging past in een bredere trend waarbij AI-leveranciers hun enterprise-aanbod verfijnen om tegemoet te komen aan de vraag van bedrijven naar voorspelbare kosten en governance.

Wat dit betekent

Voor Nederlandse MKB-bedrijven die AI inzetten voor klantenservice, contentcreatie of data-analyse, wordt het beheersen van kosten een stuk eenvoudiger. Waar voorheen de uitgaven voor AI-tools vaak ondoorzichtig waren, kunnen ondernemers nu per afdeling of project zien wie wat verbruikt. Dit is vooral relevant voor bedrijven die meerdere teams met ChatGPT laten werken, zoals een marketingafdeling die dagelijks teksten genereert en een salesafdeling die klantmails laat opstellen. Zonder deze controles konden de kosten ongemerkt oplopen, bijvoorbeeld doordat een team onbedoeld veel tokens verbruikte voor experimenten. Met de nieuwe functies kunnen ondernemers budgetten toewijzen en overschrijdingen voorkomen.

Hoe je dit kunt toepassen

Als je een klein team van vijf tot tien medewerkers hebt die ChatGPT gebruiken, kun je overwegen om per medewerker een maandbudget in te stellen. Stel dat je marketingmedewerker veel AI gebruikt voor het schrijven van blogs en social media posts, terwijl de boekhouder het alleen af en toe gebruikt voor het samenvatten van documenten. Door een budget per gebruiker in te stellen, voorkom je dat één persoon onbedoeld het hele maandbudget verbruikt. Je zou kunnen beginnen met een proefperiode van een maand waarin je de analytics bekijkt om te zien wie hoeveel verbruikt, en op basis daarvan realistische limieten instelt.

Als je een webshop runt en ChatGPT inzet voor klantenservice, is een optie om een apart budget voor de klantenservice-afdeling in te stellen. De chatbot die klantvragen beantwoordt, kan veel tokens verbruiken tijdens piekuren, zoals Black Friday of na een grote marketingcampagne. Door een apart budget voor deze afdeling te reserveren, zorg je dat andere AI-toepassingen, zoals het genereren van productbeschrijvingen, niet worden beïnvloed door pieken in de klantenservice. Overweeg om de analytics te gebruiken om te zien op welke dagen en tijden het verbruik het hoogst is, zodat je het budget daarop kunt afstemmen.

Als je een team aanstuurt dat experimenteert met AI-toepassingen, zoals het ontwikkelen van interne tools of het testen van nieuwe prompts, kun je een apart ’experimenteerbudget’ instellen. Dit voorkomt dat experimentele projecten de kosten voor productieomgevingen opdrijven. Je zou kunnen afspreken dat elk teamlid een vast aantal tokens per week krijgt voor experimenten, en dat overschrijdingen alleen met goedkeuring van de leidinggevende mogelijk zijn. De usage analytics helpen je om te zien welke experimenten de meeste tokens verbruiken, zodat je gericht kunt sturen.

Als je een consultancybureau of adviesbureau runt dat ChatGPT gebruikt voor het opstellen van rapporten en analyses, kun je per project of klant een budget instellen. Dit is handig als je de AI-kosten doorberekent aan klanten of als je per project wilt weten wat de AI-kosten zijn. Door de analytics te combineren met projectcodes of tags, krijg je inzicht in de kostenefficiëntie van elk project. Een mogelijkheid is om maandelijks een overzicht te genereren van de AI-kosten per klant, zodat je deze kunt verwerken in je facturatie of projectevaluatie.

Bron: OpenAI (https://openai.com/index/chatgpt-enterprise-spend-controls)