Google heeft een nieuw AI-model gelanceerd dat klein genoeg is om op een gemiddelde zakelijke laptop te draaien, zonder dat je een dure internetverbinding of cloudabonnement nodig hebt. Het model heet Gemma 4 12B en werkt op elke computer met 16GB werkgeheugen. Voor ondernemers betekent dit dat je AI-taken zoals klantchatbots of documentanalyse lokaal kunt uitvoeren, zonder maandelijkse cloudkosten.

Wat er aan de hand is

Google heeft de Gemma 4-familie uitgebreid met een nieuw model dat precies in het midden valt van de bestaande reeks. Eerder dit jaar lanceerde Google vier modellen: twee mobiele versies (E2B en E4B) en twee zware modellen voor serieus werk (26B Mixture of Experts en 31B Dense). Daartussen zat een gat, en dat vult Google nu met de Gemma 4 12B. Het model heeft 12 miljard parameters, ongeveer de helft van het geheugenverbruik van de 26B-versie. Volgens Google is het nieuwe model bijna net zo capabel als de grotere variant, althans volgens de benchmarks. Het model valt onder de open Apache 2.0-licentie, wat betekent dat je het vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor het MKB is dit een belangrijke verschuiving. Tot nu toe waren krachtige AI-modellen vaak alleen toegankelijk via clouddiensten, met maandelijkse kosten per gebruiker of per API-aanroep. Die kosten kunnen snel oplopen, zeker als je AI structureel inzet voor klantcontact of dataverwerking. Met een lokaal draaiend model verdwijnen die variabele kosten. Je betaalt eenmalig voor de hardware, en verder zijn er geen terugkerende abonnementskosten. Het betekent ook dat je niet afhankelijk bent van een internetverbinding: het model werkt offline. Dat is relevant voor bedrijven die werken met gevoelige klantdata en liever niet alles naar de cloud sturen. De drempel om AI te gebruiken wordt lager: je hebt geen dure server of speciale AI-chip nodig, alleen een laptop met 16GB RAM.

Hoe je dit kunt toepassen

Als je een webshop runt en een klantchatbot wilt inzetten. Je zou Gemma 4 12B lokaal kunnen draaien op een dedicated laptop of mini-pc in je kantoor. De chatbot kan vragen beantwoorden over voorraad, levertijden en retourbeleid, zonder dat je per gesprek betaalt aan een cloudprovider. Overweeg om het model te trainen op je eigen productcatalogus en veelgestelde vragen, zodat de antwoorden specifiek zijn voor jouw assortiment.

Als je als consultancybureau documentanalyse doet voor klanten. Denk aan het samenvatten van jaarverslagen, contracten of onderzoeksrapporten. Omdat het model lokaal draait, blijven de documenten op je eigen systeem. Dat is niet alleen veiliger, maar ook sneller: je hoeft geen grote bestanden te uploaden. Een mogelijkheid is om een vaste werkplek in te richten met een laptop die alleen dit model draait, en medewerkers daar documenten naartoe te laten sturen voor analyse.

Als je een klein team aanstuurt en interne kennisdeling wilt verbeteren. Je zou een lokale AI-assistent kunnen maken die antwoord geeft op vragen uit jullie handleidingen, procedures en eerdere projecten. Het model kan getraind worden op jullie eigen documentatie. Omdat alles lokaal blijft, hoef je je geen zorgen te maken over datalekken naar externe servers. Overweeg om een medewerker een middag te laten besteden aan het structureren van jullie kennis, en het model daarmee te voeden.

Als je in de logistiek werkt en routinematige data wilt verwerken. Denk aan het extraheren van ordergegevens uit inkomende e-mails of het categoriseren van retourzendingen. Het model kan op een gewone kantoorlaptop draaien en taken uitvoeren die normaal handmatig gebeuren. Een optie is om het model te koppelen aan een eenvoudig script dat elke ochtend de nieuwe berichten verwerkt en de uitkomsten in een spreadsheet zet.

Bron: Arstechnica