Google heeft een nieuw AI-model uitgebracht dat klein en efficiënt genoeg is om op een gemiddelde zakelijke laptop te draaien. Het model, Gemma 4 12B, heeft 12 miljard parameters en werkt met 16GB RAM. Voor ondernemers betekent dit dat je AI-taken zoals klantenservice of data-analyse lokaal kunt uitvoeren, zonder maandelijkse cloudkosten.

Wat er aan de hand is

Google heeft de Gemma 4 12B aangekondigd, een nieuw open-source AI-model dat is ontworpen om lokaal te draaien op consumentenlaptops. Het model vult een gat in de bestaande Gemma 4-familie, die eerder dit jaar werd gelanceerd. Waar de eerdere modellen varieerden van mobiele versies (E2B en E4B) tot zware modellen voor servers (26B en 31B), is de 12B-versie bedoeld voor het middensegment. Volgens Google kan het model draaien op elke computer met 16GB systeem-RAM of VRAM. Dat is ongeveer de helft van het geheugengebruik van de 26B-variant, terwijl de prestaties volgens het bedrijf bijna even goed zijn. Het model wordt uitgebracht onder de open Apache 2.0-licentie.

Wat dit betekent

Voor het MKB is dit een directe verlaging van de drempel om AI in te zetten. Tot nu toe waren krachtige AI-modellen vaak alleen toegankelijk via clouddiensten, met terugkerende kosten voor API-gebruik of abonnementen. Met een lokaal draaiend model verdwijnen die maandelijkse lasten. Ook privacygevoelige gegevens, zoals klantdata of bedrijfsinformatie, hoeven niet meer naar externe servers te worden gestuurd. Het model is krachtig genoeg voor serieuze taken, maar licht genoeg om op een standaard laptop te draaien. Dit opent mogelijkheden voor bedrijven die geen groot IT-budget hebben, maar wel AI willen inzetten voor dagelijkse processen.

Hoe je dit kunt toepassen

Als je een webshop runt en klantvragen automatisch wilt afhandelen. Je zou het model lokaal kunnen inzetten om veelgestelde vragen over verzending, retouren of productinformatie te beantwoorden. Omdat het model op je eigen laptop draait, zijn er geen cloudkosten per transactie. Een mogelijkheid is om een eenvoudige chatbot te bouwen die draait op een lokale server of een krachtige laptop, en die alleen reageert op basis van een vaste set productgegevens.

Als je een team aanstuurt en data-analyse wilt versnellen. Overweeg om Gemma 4 12B te gebruiken voor het samenvatten van lange rapporten, het extraheren van kerncijfers uit spreadsheets of het genereren van eerste concepten voor presentaties. Omdat het model lokaal draait, kun je gevoelige bedrijfsdata veilig verwerken zonder deze naar een externe partij te sturen. Je zou het kunnen inzetten als een persoonlijke assistent die draait op de laptop van een medewerker.

Als je in de zorg werkt en patiëntgegevens wilt analyseren zonder privacyrisico’s. Het model kan worden gebruikt om anonieme patiëntendossiers te doorzoeken op trends of om samenvattingen te maken van medische literatuur. Omdat alles lokaal blijft, voldoe je aan strenge privacyregels zoals de AVG. Een optie is om het model te laten draaien op een beveiligde laptop die alleen in het netwerk van de praktijk is aangesloten.

Als je een klein productiebedrijf runt en processen wilt optimaliseren. Je zou het model kunnen gebruiken om onderhoudslogs te analyseren of om instructies voor machinebediening te genereren op basis van technische documentatie. Omdat het model geen internetverbinding nodig heeft, werkt het ook in afgelegen of offline omgevingen. Overweeg om een medewerker een laptop met 16GB RAM te geven die het model lokaal draait voor deze taken.

Bron: Arstechnica