Mozilla’s nieuwe Thunderbolt is een AI-client die bedrijven op hun eigen infrastructuur kunnen draaien, als alternatief voor cloud-gebaseerde diensten zoals ChatGPT of Claude. Het is geen zelfstandig AI-model, maar een interface die verbinding maakt met de modellen en tools die je zelf kiest en beheert.

Wat er aan de hand is

Mozilla, bekend van de webbrowser Firefox, heeft Thunderbolt aangekondigd. In tegenstelling tot andere grote techbedrijven die eigen AI-modellen bouwen, positioneert Mozilla Thunderbolt als een “soevereine AI-client”. Het is gebouwd bovenop Haystack, een open-source framework waarmee gebruikers aangepaste, modulaire AI-pijplijnen kunnen bouwen. De client kan volgens Mozilla verbinding maken met een breed scala aan AI-API’s, waaronder die van OpenAI, Claude en andere compatibele diensten. Een belangrijk kenmerk is de mogelijkheid om te integreren met lokaal opgeslagen bedrijfsdata via open protocollen en een offline SQLite-database te gebruiken als lokale “bron van waarheid” voor het AI-model. Mozilla claimt dat het systeem optionele end-to-end encryptie en toegangscontroles op apparaatniveau biedt.

Wat dit betekent

Dit initiatief richt zich specifiek op bedrijven voor wie controle over data en infrastructuur een topprioriteit is. Voor sectoren zoals de zorg, advocatuur, financiële dienstverlening of R&D-afdelingen waar gevoelige intellectuele eigendom wordt gegenereerd, kan een zelf-hostbare oplossing een manier zijn om AI-voordelen te benutten zonder data naar externe cloudproviders te sturen. Het betekent niet dat je geen externe AI-diensten meer gebruikt; Thunderbolt kan er juist mee verbinden. Het betekent wel dat je de regie houdt over waar je data wordt verwerkt en opgeslagen. Voor het MKB introduceert dit de vraag of de investering in eigen IT-infrastructuur en expertise opweegt tegen de voordelen van volledige controle en potentiële besparingen op cloudkosten op de lange termijn.

Hoe je dit kunt toepassen

De praktische toepassing hangt sterk af van jouw specifieke situatie, IT-mogelijkheden en veiligheidseisen. Thunderbolt is een technisch instrument dat vooral waarde biedt als je al de capaciteit hebt of wilt opbouwen om AI-tools zelf te beheren.

Als je werkt met zeer gevoelige klant- of patiëntendata… dan kan een zelf-hostbare client zoals Thunderbolt een optie zijn om AI-workflows te verkennen zonder data de deur uit te doen. Je zou kunnen beginnen met het opzetten van een geïsoleerde testomgeving met een lokaal model, gekoppeld aan een anonieme dataset, om te zien of AI-processen zoals documentanalyse waarde toevoegen. De belofte van lokale verwerking kan helpen om aan compliance-eisen te voldoen.

Als je een technisch team hebt dat al servers beheert… dan biedt dit een nieuwe laag om te onderzoeken. Je team zou kunnen experimenteren met het koppelen van Thunderbolt aan jullie bestaande data-opslag, om te zien of het mogelijk is om een interne, veilige chatbot te creëren die antwoorden haalt uit jullie eigen handleidingen, kennisbanken of historische projectdata, zonder dat die informatie een extern platform raakt.

Als je afhankelijk bent van meerdere cloud-AI-diensten… dan zou Thunderbolt kunnen fungeren als een centraal dashboard. In plaats dat medewerkers los in ChatGPT, Claude en andere tools werken, kun je overwegen om één gecontroleerde interface te bieden die verbinding maakt met al deze diensten. Dit geeft IT-beheer meer inzicht en controle over het gebruik, terwijl de functionaliteit behouden blijft.

Als je kosten van cloud-API’s wilt beheersen en voorspelbaar maken… dan is de belofte van lokale verwerking interessant. Voor taken die niet de allerhoogste AI-prestaties vereisen, zou je kunnen onderzoeken of een kleiner, lokaal draaiend model via dit framework bepaalde repetitieve taken kan afhandelen. Dit kan op termijn leiden tot lagere, vaste kosten in plaats van variabele API-kosten per vraag.

Bron: Arstechnica