Google heeft een nieuw AI-model uitgebracht dat klein genoeg is om op een gemiddelde zakelijke laptop te draaien. De Gemma 4 12B heeft 12 miljard parameters en werkt op elke computer met 16GB werkgeheugen. Dat betekent dat je AI-taken lokaal en offline kunt uitvoeren, zonder afhankelijk te zijn van dure clouddiensten of speciale hardware.

Wat er aan de hand is

Google heeft de Gemma 4-familie in april 2025 gelanceerd met vier modellen, waaronder twee mobiele varianten (E2B en E4B) en twee zwaardere modellen (26B Mixture of Experts en 31B Dense). Daartussen zat een gat: een model dat krachtiger is dan de mobiele versies, maar niet de dure hardware vereist van de grote modellen. Dat gat vult Google nu met de Gemma 4 12B.

Volgens Google is dit model uniek omdat het op veel consumentenlaptops werkt zonder in te leveren op kwaliteit. De 12 miljard parameters vragen ongeveer de helft van het geheugen van de 26B-variant. Het bedrijf claimt dat de prestaties in benchmarks bijna gelijkwaardig zijn aan die van het grotere model. De modellen vallen onder een Apache 2.0-licentie, wat betekent dat je ze vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor ondernemers en professionals betekent dit dat AI-toepassingen niet langer gebonden zijn aan een internetverbinding of een dure cloudomgeving. Je kunt een AI-model draaien op je eigen laptop, zonder dat gegevens je apparaat verlaten. Dat is vooral relevant voor sectoren waar privacy en gegevensbescherming belangrijk zijn, zoals de juridische, medische of financiële dienstverlening.

Waar je eerder een workstation met een speciale grafische kaart nodig had of een cloudabonnement van honderden euro’s per maand, kun je nu met een laptop van rond de duizend euro aan de slag. De drempel voor lokale AI wordt hiermee aanzienlijk lager. Het model is niet bedoeld voor het trainen van nieuwe AI’s, maar wel voor het uitvoeren van taken zoals tekstanalyse, samenvattingen maken en het beantwoorden van vragen.

Hoe je dit kunt toepassen

Als je een administratiekantoor runt en werkt met vertrouwelijke klantgegevens. Je kunt het model lokaal draaien om documenten te analyseren, contracten samen te vatten of vragen uit dossiers te beantwoorden. Omdat alles op je eigen laptop gebeurt, verlaten geen gegevens je netwerk. Een mogelijke aanpak is om het model te gebruiken voor het doorzoeken van een set PDF’s, zonder dat je die naar een clouddienst hoeft te uploaden.

Als je een webshop beheert en klantbeoordelingen wilt analyseren. Het model kan helpen om trends in feedback te herkennen, zoals veelgenoemde klachten of complimenten. Je zou kunnen experimenteren met het laten samenvatten van de laatste honderd reviews, om snel te zien waar je verbeteringen kunt doorvoeren. Omdat het model offline werkt, ben je niet afhankelijk van een internetverbinding of externe API.

Als je een team aanstuurt en interne documentatie toegankelijker wilt maken. Denk aan het omzetten van een stapel handleidingen of beleidsstukken in een doorzoekbare kennisbank. Het model kan vragen beantwoorden op basis van die documenten, zonder dat je een dure server hoeft aan te schaffen. Een optie is om te beginnen met een klein aantal documenten en te testen hoe goed de antwoorden aansluiten bij wat je medewerkers nodig hebben.

Als je in de zorg werkt en patiëntgegevens wilt verwerken zonder privacyrisico’s. Het model kan helpen bij het structureren van aantekeningen of het genereren van samenvattingen van consulten. Omdat alles lokaal blijft, voldoe je aan strenge privacyregels. Overweeg om het model eerst te testen met geanonimiseerde gegevens om te zien of de output bruikbaar is voor jouw specifieke werkprocessen.

Bron: Arstechnica