Google heeft een nieuw AI-model uitgebracht dat klein genoeg is om op een gewone laptop te draaien, zonder dat je een dure server of internetverbinding nodig hebt. Het model heet Gemma 4 12B en werkt op elke computer met 16GB werkgeheugen. Voor ondernemers betekent dit dat je AI-taken als tekstanalyse, samenvattingen en data-extractie veilig en offline kunt uitvoeren, zonder maandelijkse abonnementskosten.

Wat er aan de hand is

Google heeft de Gemma 4-familie uitgebreid met een nieuw model dat precies tussen de bestaande versies in valt. In april lanceerde Google vier modellen: twee mobiele varianten (E2B en E4B) en twee zware modellen (26B Mixture of Experts en 31B Dense). Daartussen zat een gat, dat nu wordt opgevuld door de Gemma 4 12B. Volgens Google is dit model uniek omdat het op veel consumentenlaptops werkt zonder in te leveren op kwaliteit. De 12 miljard parameters tellende AI heeft ongeveer de helft van het geheugen nodig van het 26B-model, terwijl de prestaties volgens Google in benchmarks bijna even goed zijn. Het model valt onder de open Apache 2.0-licentie, wat betekent dat je het vrij kunt gebruiken en aanpassen.

Wat dit betekent

Voor het MKB is dit een belangrijke verschuiving. Tot nu toe waren krachtige AI-modellen vaak alleen toegankelijk via clouddiensten, met terugkerende kosten en afhankelijkheid van een internetverbinding. Of je had een dure workstation nodig. Met de Gemma 4 12B kun je AI lokaal draaien op een laptop die veel ondernemers al hebben. Dat betekent geen datalekrisico door gevoelige informatie naar een externe server te sturen, geen maandelijkse rekeningen voor API-gebruik, en geen vertraging door een trage internetverbinding. Voor sectoren zoals juridisch advies, medische administratie, financiële dienstverlening of klantenservice, waar privacy en snelheid cruciaal zijn, opent dit nieuwe mogelijkheden.

Hoe je dit kunt toepassen

Als je een webshop runt en productbeschrijvingen moet schrijven. Je kunt het model lokaal draaien om automatisch korte, pakkende teksten te genereren op basis van productspecificaties. Omdat alles op je eigen laptop gebeurt, hoef je geen productdata naar een externe dienst te sturen. Een mogelijkheid is om een batch met ruwe productinformatie in te laden en het model in één keer tientallen beschrijvingen te laten maken, die je daarna handmatig controleert.

Als je een team aanstuurt en notulen van vergaderingen wilt samenvatten. Het model kan lange transcripten of notities omzetten in beknopte actiepunten. Overweeg om het model te gebruiken na elke teamvergadering: plak de ruwe aantekeningen erin en vraag om een samenvatting met besluiten en vervolgstappen. Omdat het offline werkt, blijven vertrouwelijke gespreksonderwerpen binnen je eigen laptop.

Als je in de zorg werkt en patiëntendossiers wilt analyseren. Je kunt het model gebruiken om lange medische rapporten te doorzoeken op specifieke termen, medicijnen of diagnoses. Een optie is om een standaardvraag te maken, zoals ’noem alle medicijnen die in dit dossier worden genoemd’, en die voor elk dossier te herhalen. Omdat de data nooit je computer verlaat, voldoe je aan privacyregels.

Als je een freelance consultant bent en offertes of contracten moet opstellen. Het model kan helpen bij het genereren van standaardteksten op basis van eerdere documenten. Je zou bijvoorbeeld een template kunnen maken voor een offerte en het model vragen om de specifieke projectdetails in te vullen. Het voordeel is dat je geen internet nodig hebt, dus je kunt ook werken in de trein of op een afgelegen locatie.

Als je data uit facturen of bonnen moet halen. Het model kan ongestructureerde tekst uit gescande documenten omzetten in gestructureerde data, zoals bedragen, data en leveranciersnamen. Overweeg om een map met gescande PDF’s te gebruiken en het model per document dezelfde vragen te stellen. Dit bespaart uren handmatig overtypen.

Bron: Arstechnica