Een nieuwe ontwikkeling maakt het voor bedrijven met beperkte rekenkracht mogelijk om toch geavanceerde AI-modellen te gebruiken. Het bedrijf Multiverse Computing heeft een techniek ontwikkeld om grote taalmodellen van onder andere OpenAI, Meta en Mistral AI te comprimeren. Volgens het bedrijf behouden deze gecomprimeerde versies hun prestaties, maar hebben ze aanzienlijk minder rekenkracht en geheugen nodig om te draaien. Dit kan de drempel verlagen om AI in te zetten voor specifieke bedrijfsprocessen.

De kern van de aankondiging is de lancering van een openbare API. Deze API stelt ontwikkelaars in staat om de gecomprimeerde modellen eenvoudig in hun eigen applicaties te integreren. Daarnaast is er een showcase-app gelanceerd waar gebruikers de mogelijkheden van de gecomprimeerde modellen direct kunnen testen. De techniek zelf, genaamd Singularity, is niet nieuw, maar wordt nu voor het eerst breder beschikbaar gesteld via deze programmeerinterface.

Wat betekent dit voor ondernemers?

Voor ondernemers die geïnteresseerd zijn in AI maar tegen de kosten of complexiteit van de benodigde infrastructuur aanlopen, kan dit een interessante ontwikkeling zijn. In plaats van dure, gespecialiseerde hardware aan te schaffen of hoge cloudkosten te maken voor het gebruik van de grootste modellen, zouden gecomprimeerde versies een alternatief kunnen bieden. Het idee is dat je voor bepaalde taken, zoals het analyseren van interne documenten, het genereren van productbeschrijvingen of het categoriseren van klantfeedback, mogelijk niet het allerzwaarste model nodig hebt. Een geoptimaliseerde, lichtere versie kan dan voldoende zijn.

Het is belangrijk om te benadrukken dat dit een aankondiging is van een specifiek bedrijf. De beweringen over de prestaties van de gecomprimeerde modellen zijn op dit moment vendorclaims. Onafhankelijke tests moeten uitwijzen hoe de kwaliteit in de praktijk overeind blijft bij verschillende soorten taken. De beweging naar efficiëntere, kleinere modellen is echter een bredere trend in de AI-industrie, wat de bredere relevantie van dit nieuws onderstreept.

Hoe kun je dit vandaag toepassen?

De praktische toepassing hangt sterk af van jouw specifieke situatie en technische mogelijkheden. De API van Multiverse Computing is gericht op ontwikkelaars. Als ondernemer zonder ontwikkelteam in huis, is dit waarschijnlijk niet iets wat je morgen direct kunt implementeren. Het nieuws is vooral een signaal dat de toegankelijkheid van geavanceerde AI toeneemt. Hier zijn enkele manieren waarop je dit signaal kunt vertalen naar je eigen bedrijf.

Als je een webshop runt en overweldigd wordt door het schrijven van unieke productbeschrijvingen, dan zou je kunnen onderzoeken of je webdeveloper of een agency die voor je werkt, bekend is met lichtere AI-modellen. In plaats van altijd het duurste model via een grote leverancier te gebruiken, kun je vragen of er geoptimaliseerde alternatieven zijn die specifiek goed zijn in marketingteksten, tegen lagere operationele kosten.

Als je een adviesbureau hebt en veel tijd steekt in het samenvatten van lange rapporten voor klanten, dan is dit een aanwijzing om bij softwareleveranciers of IT-partners te informeren naar AI-tools die on-premise of op een goedkope cloudserver kunnen draaien. Je zou kunnen vragen naar oplossingen die gebruikmaken van gecomprimeerde modellen voor documentanalyse, zodat gevoelige klantdata niet per se naar een externe API hoeft.

Als je productieprocessen wilt optimaliseren met computervisie maar beperkt budget hebt voor camera-systemen met enorme rekenkracht, dan wijst dit nieuws op de richting van efficiëntere modellen. Je zou in gesprek kunnen gaan met een leverancier van industriële AI-software of een systeemintegrator of zij werken met modellen die geoptimaliseerd zijn voor edge devices (apparaten ter plekke) in plaats van de cloud.

Als je als ZZP’er onderzoek doet en vaak wetenschappelijke artikelen moet doorzoeken, dan kun je dit zien als een bemoedigend teken voor de toekomst. Toepassingen die deze gecomprimeerde modellen gebruiken, kunnen over een jaar wellicht als betaalbare desktopsoftware of goedkope SaaS-diensten beschikbaar komen. Het is een reden om dit vakgebied in de gaten te houden voor tools die straks wél binnen je budget passen.

De kern is dat je nu vooral bewust wordt van de optie dat niet alle AI even zwaar en duur hoeft te zijn. Bij je volgende gesprek over automatisering of digitale tools, is het een relevante vraag aan een leverancier of partner: “Kunnen we voor deze specifieke taak ook een lichter, efficiënter model overwegen?”

Bron: Techcrunch