Google heeft een nieuw AI-model uitgebracht dat klein genoeg is om op een gemiddelde zakelijke laptop te draaien. De Gemma 4 12B heeft 12 miljard parameters en werkt op elke computer met 16GB werkgeheugen, zonder dat je clouddiensten of dure hardware nodig hebt. Dit betekent dat je gevoelige bedrijfsgegevens lokaal kunt verwerken, zonder dat ze naar externe servers gaan.

Wat er aan de hand is

Google heeft de Gemma 4-familie uitgebreid met een nieuw model dat precies in het gat valt tussen de mobiele versies en de zware professionele modellen. De eerdere release in april 2025 bevatte vier modellen: twee mobiel-geoptimaliseerde varianten (E2B en E4B) en twee krachtige modellen voor serieus werk (26B Mixture of Experts en 31B Dense). De 12B-versie is nu beschikbaar en gebruikt ongeveer de helft van het geheugen van de 26B-variant. Volgens Google is de nieuwe 12B qua prestaties bijna even goed, althans volgens de benchmarks. Het model valt onder de open Apache 2.0-licentie, wat betekent dat je het vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor ondernemers betekent dit dat AI-toepassingen die voorheen alleen in de cloud of op dure werkstations mogelijk waren, nu op een gewone laptop draaien. De drempel om AI lokaal in te zetten wordt aanzienlijk lager. Waar je eerder een investering van tienduizenden euro’s nodig had voor speciale AI-versnellers, kun je nu met een laptop van rond de duizend euro aan de slag. Dit opent mogelijkheden voor kleine bedrijven die gevoelige data liever niet naar de cloud sturen, zoals klantgegevens, financiële administratie of bedrijfsgeheimen. Ook bespaar je op maandelijkse cloudkosten, die bij intensief gebruik snel kunnen oplopen.

Hoe je dit kunt toepassen

Als je een administratiekantoor runt en dagelijks grote hoeveelheden facturen, contracten of rapporten verwerkt, kun je overwegen om Gemma 4 12B lokaal te draaien voor het samenvatten en classificeren van documenten. Omdat alles op je eigen computer blijft, hoef je geen privacyrisico’s te nemen met clouddiensten. Je zou kunnen beginnen met het testen van het model op een batch van vertrouwelijke documenten om te zien hoe nauwkeurig de samenvattingen zijn.

Als je een webshop beheert en productbeschrijvingen, reviews of klantvragen wilt analyseren, biedt dit model een veilige optie. Je kunt het inzetten voor het genereren van gestandaardiseerde antwoorden op veelgestelde vragen of het extraheren van trends uit klantfeedback. Een mogelijkheid is om het model te integreren in een lokale applicatie die draait op een server met 16GB RAM, zodat je geen datalekrisico loopt via externe API’s.

Als je in de consultancy werkt en vertrouwelijke bedrijfsstrategieën of marktanalyses uitvoert, kun je Gemma 4 12B gebruiken om grote datasets lokaal te doorzoeken en te structureren. Overweeg om het model te trainen op een kleine, eigen dataset met specifieke terminologie uit jouw vakgebied. Omdat het model open source is, kun je het aanpassen zonder dat je afhankelijk bent van een externe partij.

Als je een team aanstuurt en interne processen wilt automatiseren, denk dan aan het gebruik van dit model voor het opstellen van notulen, het samenvatten van e-mailconversaties of het genereren van projectupdates. Je zou een eenvoudige tool kunnen bouwen die draait op een gedeelde laptop of server, waarmee teamleden veilig documenten kunnen laten verwerken zonder dat data het bedrijfsnetwerk verlaat.

Bron: Arstechnica