Mozilla’s nieuwe Thunderbolt AI-client stelt bedrijven in staat om AI-tools te gebruiken terwijl alle data en modellen op hun eigen servers blijven draaien. Het is een front-end voor zelf gehoste AI-infrastructuur, ontworpen voor ondernemers die de controle over hun bedrijfsgegevens niet willen uitbesteden aan clouddiensten.

Wat er aan de hand is

Mozilla, bekend van de Firefox-browser, heeft Thunderbolt gelanceerd. Dit is geen zelfstandig AI-model, maar een zogenaamde “sovereign AI client”. Het is een interface die bovenop bestaande, open-source infrastructuur wordt gelegd, specifiek het Haystack-framework. Dit framework stelt gebruikers in staat om modulaire AI-pijplijnen te bouwen met zelfgekozen componenten. Thunderbolt fungeert als de gebruikersvriendelijke toegangspoort tot die zelf opgezette systemen. Volgens Mozilla kan de client verbinding maken met een breed scala aan AI-diensten, waaronder API’s die compatibel zijn met OpenAI, Claude en andere grote modellen. Een kernfunctionaliteit is de integratie met lokaal opgeslagen bedrijfsdata via open protocollen en een offline SQLite-database, die als lokale “bron van waarheid” voor het AI-model dient. Het bedrijf claimt dat dit, in combinatie met optionele end-to-end encryptie en toegangscontroles op apparaatniveau, een volledig gecontroleerde AI-stack mogelijk maakt.

Wat dit betekent

Dit is vooral relevant voor bedrijven met specifieke zorgen over datasoevereiniteit, compliance of intellectueel eigendom. Denk aan advocatenkantoren, zorginstellingen, ingenieursbureaus of productiebedrijven die met gevoelige ontwerpen of klantgegevens werken. Voor hen betekent Thunderbolt dat ze de kracht van grote AI-modellen kunnen benutten zonder hun trainingsdata of prompts naar de servers van externe partijen te sturen. Het verschuift de verantwoordelijkheid en controle naar de gebruiker: je moet zelf de hardware (servers) beheren en de IT-kennis in huis hebben om het systeem draaiende te houden. Dit maakt het minder geschikt voor het kleine MKB zonder eigen IT-personeel, maar juist een interessante optie voor middelgrote tot grote bedrijven die al een serveromgeving of IT-beheerder hebben. Het is een antwoord op de groeiende vraag naar “on-premise” AI-oplossingen, waarbij de software lokaal draait in plaats van in de cloud.

Hoe je dit kunt toepassen

De praktische toepassing hangt sterk af van jouw IT-infrastructuur en kennisniveau. Het is geen kant-en-klare SaaS-tool, maar een client voor een zelf opgezette omgeving.

Als je een IT-beheerder of serveromgeving hebt… kun je Thunderbolt verkennen als een manier om AI-diensten veilig aan je collega’s aan te bieden. Je zou het kunnen inzetten om een interne chatbot te bouwen die antwoorden haalt uit je eigen documenten (opgeslagen in de lokale SQLite-database), zonder dat vragen en antwoorden ooit het bedrijfsnetwerk verlaten. Dit is nuttig voor HR-handboeken, interne procesdocumentatie of technische specificaties.

Als je in een sterk gereguleerde sector werkt, zoals de financiële of juridische dienstverlening… biedt een zelf gehoste oplossing zoals Thunderbolt een manier om met AI te experimenteren binnen strikte compliance-kaders. Je kunt bijvoorbeeld een model trainen op een lokaal archief van contracten om standaardclausules te herkennen, met de zekerheid dat de gevoelige contractinhoud nooit een externe server raakt.

Als je een ontwikkelteam hebt dat werkt met propriëtaire code… kan deze aanpak interessant zijn voor AI-ondersteunde code review. Je zou een AI-model dat code begrijpt (via een compatibele API) kunnen koppelen aan je eigen codebase, zodat developers suggesties krijgen zonder dat de broncode wordt geüpload naar een cloudservice van een derde partij.

Overweeg om eerst met je IT-verantwoordelijke te bespreken of zelfhosting van AI-diensten haalbaar is binnen je bestaande infrastructuur. Thunderbolt zelf is een client, de onderliggende modellen en rekenkracht moet je zelf regelen.

Bron: Arstechnica