Google heeft een nieuw AI-model uitgebracht dat klein genoeg is om op een gemiddelde laptop te draaien. De Gemma 4 12B heeft 12 miljard parameters en werkt op elke computer met 16GB RAM of VRAM. Dit betekent dat je AI-taken zoals samenvatten en data-analyse lokaal kunt uitvoeren, zonder afhankelijk te zijn van dure clouddiensten.

Wat er aan de hand is

Google heeft de Gemma 4-familie in april gelanceerd met vier modellen, variërend van mobiel-geoptimaliseerde versies tot zware modellen voor serieuze werkzaamheden. Het nieuwe 12B-model vult een gat in het midden: het is krachtiger dan de mobiele varianten, maar vereist geen dure AI-versnellers om lokaal te draaien. Volgens Google is de Gemma 4 12B uniek omdat hij op consumentenlaptops werkt zonder kwaliteitsverlies. Het model gebruikt ongeveer de helft van het geheugen van de grotere Gemma 4 26B MoE, en Google claimt dat het qua prestaties bijna net zo goed is, althans volgens benchmarks. Het model valt onder de open Apache 2.0-licentie, wat betekent dat je het vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor ondernemers en professionals betekent dit dat AI-taken die normaal gesproken cloudkosten met zich meebrengen, nu lokaal kunnen worden uitgevoerd. Denk aan het samenvatten van lange documenten, het analyseren van spreadsheets of het genereren van rapporten. Je hebt geen dure hardware of maandelijkse abonnementen nodig; een laptop met 16GB RAM is voldoende. Dit verlaagt de drempel voor kleine bedrijven die AI willen inzetten zonder afhankelijk te zijn van internetverbindingen of externe servers. Vooral in sectoren waar privacy belangrijk is, zoals de juridische of medische sector, biedt lokaal draaiende AI een veilig alternatief.

Hoe je dit kunt toepassen

Als je een webshop runt en productbeschrijvingen moet schrijven. Je kunt Gemma 4 12B lokaal draaien om bulkbeschrijvingen te genereren op basis van productspecificaties. Omdat het model op je laptop draait, zijn er geen extra kosten per verzoek. Overweeg om een script te schrijven dat de productsheet inleest en de output direct in je CMS plaatst.

Als je een team aanstuurt en wekelijks vergaderverslagen moet maken. Je zou het model kunnen gebruiken om notulen samen te vatten tot actiepunten. Een mogelijkheid is om de ruwe transcriptie van een vergadering in te voeren en het model een beknopte samenvatting te laten maken. Dit bespaart tijd en zorgt dat iedereen dezelfde informatie heeft.

Als je in de juridische sector werkt en contracten moet doornemen. Het model kan helpen bij het identificeren van belangrijke clausules of het samenvatten van lange documenten. Omdat alles lokaal gebeurt, blijft gevoelige informatie op je eigen apparaat. Overweeg om het model te trainen op specifieke juridische terminologie voor nog betere resultaten.

Als je data-analyse doet voor marketingrapporten. Je kunt Gemma 4 12B gebruiken om ruwe data uit spreadsheets te interpreteren en inzichtelijke samenvattingen te genereren. Een optie is om het model te vragen trends of afwijkingen te benoemen, zodat je sneller beslissingen kunt nemen op basis van de cijfers.

Als je een freelancer bent en offertes of voorstellen maakt. Het model kan helpen bij het opstellen van gestandaardiseerde teksten op basis van eerdere projecten. Je zou een template kunnen maken waarin je alleen de specifieke details invult, en het model de rest laat genereren. Dit versnelt het proces en zorgt voor consistentie.

Bron: Arstechnica