Google heeft een nieuw AI-model uitgebracht dat je zelf op een gewone laptop kunt draaien, zonder dure cloudabonnementen. Het model heet Gemma 4 12B en werkt op elke computer met 16GB werkgeheugen. Dat opent de deur naar lokale AI-toepassingen voor kleine bedrijven die geen maandelijkse cloudkosten willen betalen.

Wat er aan de hand is

Google heeft een nieuw model aan zijn Gemma 4-familie toegevoegd, zo meldt Ars Technica. De familie, die in april dit jaar werd gelanceerd, bestond uit twee mobiele modellen (E2B en E4B) en twee zware modellen voor serieus werk (26B Mixture of Experts en 31B Dense). Daartussen zat een gat, dat nu wordt opgevuld door Gemma 4 12B. Het model heeft 12 miljard parameters en is volgens Google uniek omdat het op veel consumentenlaptops werkt zonder in te leveren op kwaliteit. De enige vereiste is 16GB aan systeem-RAM of VRAM. Dat is ongeveer de helft van het geheugengebruik van het grotere 26B-model, en Google claimt dat het nieuwe model qua prestaties bijna net zo goed is. Het model valt onder de open Apache 2.0-licentie, wat betekent dat je het vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor ondernemers betekent dit dat AI-toepassingen niet langer exclusief zijn voor bedrijven met dure cloudcontracten of speciale hardware. Een laptop van een paar honderd euro met 16GB RAM is voldoende. Dat is het geheugen dat in de meeste moderne zakelijke laptops zit. Je hebt geen internetverbinding nodig om het model te gebruiken, geen maandelijkse abonnementskosten en geen risico dat je data naar een externe server wordt gestuurd. Voor sectoren waarin privacy belangrijk is, zoals de juridische of medische sector, is dat een groot voordeel. Het model is minder krachtig dan de duurste cloud-AI’s, maar voor veel dagelijkse taken – zoals het samenvatten van documenten, het genereren van teksten of het beantwoorden van klantvragen – is het meer dan voldoende.

Hoe je dit kunt toepassen

Als je een administratiekantoor runt en vertrouwelijke documenten verwerkt. Je kunt Gemma 4 12B op je laptop installeren en gebruiken om concepten te genereren voor brieven, offertes of rapporten, zonder dat de data ooit je computer verlaat. Overweeg om het model te testen met een paar standaarddocumenten om te zien of de kwaliteit voor jouw type werk voldoende is.

Als je een webshop hebt en productbeschrijvingen moet schrijven. Je zou het model kunnen gebruiken om snel basisbeschrijvingen te genereren voor nieuwe producten, op basis van een paar steekwoorden. Omdat het lokaal draait, kun je onbeperkt experimenteren zonder dat de kosten oplopen. Een mogelijke aanpak is om eerst een paar beschrijvingen te maken en die handmatig te controleren en aan te passen.

Als je een team aanstuurt en notulen of samenvattingen nodig hebt. Je kunt het model inzetten om lange e-mails, vergaderverslagen of artikelen samen te vatten. Het voordeel van een lokaal model is dat je het altijd bij de hand hebt, ook offline. Probeer het eens met een paar recente documenten om te zien of de samenvattingen de kern goed raken.

Als je in de zorg of juridische sector werkt en gevoelige data verwerkt. Dit is een van de sterkste use cases. Omdat het model lokaal draait, hoef je geen data naar een cloudprovider te sturen. Je zou het kunnen gebruiken om concepten te genereren voor patiëntbrieven of juridische memo’s, mits je de output altijd controleert op accuraatheid. Het is een manier om AI in te zetten zonder privacyrisico’s.

Als je gewoon wilt weten of jouw laptop het aankan. De praktische test is eenvoudig: zorg dat je laptop 16GB RAM heeft, download het model via de officiële kanalen van Google en probeer het uit. Je hoeft geen technische expert te zijn; er zijn gebruiksvriendelijke tools die het installeren vereenvoudigen. Het kost je een uurtje om te ontdekken of het voor jouw werk nuttig is.

Bron: Ars Technica