Google heeft een nieuw AI-model uitgebracht dat klein en efficiënt genoeg is om op een gemiddelde consumentenlaptop te draaien. Dit betekent dat je als ondernemer AI-taken zoals samenvatten en e-mails opstellen lokaal kunt uitvoeren, zonder cloudkosten en met volledige controle over je data.

Wat er aan de hand is

Google heeft de Gemma 4 12B aangekondigd, een nieuw model in de open-source Gemma 4-familie. Waar de eerdere modellen varieerden van mobiele versies (E2B en E4B) tot zware varianten voor servers (26B en 31B), vult deze 12B-versie een gat in het midden. Volgens Google draait het model op elke laptop met 16GB aan systeem-RAM of VRAM. Dat is ongeveer de helft van het geheugengebruik van de 26B-variant, terwijl de prestaties volgens de benchmarks bijna gelijkwaardig zijn. De modellen worden uitgebracht onder de open Apache 2.0-licentie, wat betekent dat je ze vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor het MKB is dit een belangrijke verschuiving. Tot nu toe waren krachtige AI-modellen vaak alleen toegankelijk via dure clouddiensten of speciale hardware. Met Gemma 4 12B kun je AI lokaal draaien op een laptop die veel ondernemers al hebben. Dat bespaart niet alleen maandelijkse cloudkosten, maar geeft ook meer privacy: je data verlaat je computer niet. Dit is vooral relevant voor sectoren waar vertrouwelijkheid belangrijk is, zoals de juridische, medische of financiële dienstverlening. Het model is geschikt voor taken als tekstsamenvatting, e-mailopstelling en documentanalyse, zonder dat je een dure AI-versneller nodig hebt.

Hoe je dit kunt toepassen

Als je een juridisch of financieel adviseur bent en werkt met vertrouwelijke documenten, dan kun je Gemma 4 12B gebruiken om contracten of rapporten samen te vatten zonder dat je data naar een cloudserver gaat. Je zou het model lokaal kunnen draaien op je werklaptop en er eenvoudig teksten aan kunnen voordragen. Een optie is om te experimenteren met het model via een lokale interface zoals Ollama of LM Studio, die het model voor je kunnen laden en beheren.

Als je een eenmanszaak runt en veel e-mails verstuurt, kun je het model inzetten om concepten te schrijven of antwoorden te formuleren. Omdat het model op je eigen laptop draait, zijn er geen extra kosten per bericht. Je zou kunnen overwegen om een lokale AI-assistent in te richten die je helpt bij standaard correspondentie, zonder dat je afhankelijk bent van een internetverbinding of cloudabonnement.

Als je een klein team aanstuurt en werkt met gevoelige klantdata, biedt lokaal draaiende AI een manier om processen te versnellen zonder privacyrisico’s. Denk aan het samenvatten van lange e-mailthreads of het extraheren van actiepunten uit notulen. Een mogelijkheid is om het model te integreren in een interne tool, bijvoorbeeld via een simpele Python-script, zodat teamleden het kunnen gebruiken zonder dat data het bedrijfsnetwerk verlaat.

Als je een contentmaker of marketeer bent, kun je het model gebruiken om ruwe notities om te zetten in gestructureerde teksten, zoals blogposts of social media-berichten. Omdat het model lokaal draait, kun je onbeperkt experimenteren zonder dat elke prompt geld kost. Overweeg om het model te testen met een paar van je eigen documenten om te zien hoe goed het past bij jouw schrijfstijl en onderwerpen.

Bron: Arstechnica