Bedrijven beoordelen AI niet langer op de vraag of het interessant is, maar of het veilig genoeg is om breed in te zetten. Die verschuiving, aangekaart door de medeoprichter van Databricks tijdens TechCrunch Disrupt 2026, raakt ook kleine en middelgrote ondernemingen. Wie AI wil gebruiken voor klantdata of bedrijfsprocessen, moet eerst kunnen aantonen dat het systeem geen risico’s oplevert.

Wat er aan de hand is

Tijdens TechCrunch Disrupt 2026 stelde de medeoprichter van Databricks dat enterprise AI in een nieuwe fase zit. Waar bedrijven eerst vooral keken naar wat AI kan, draait het nu om de vraag of het veilig is om breed uit te rollen. De drempel voor adoptie is niet langer techniek, maar vertrouwen. Grote organisaties eisen steeds vaker bewijs dat AI-systemen geen data lekken, geen hallucinaties produceren die schadelijk zijn, en voldoen aan wet- en regelgeving. Deze trend sijpelt door naar kleinere bedrijven die met dezelfde leveranciers en platforms werken.

Wat dit betekent

Voor Nederlandse MKB’ers betekent dit dat je niet zomaar een AI-tool kunt aanschaffen en inzetten. Of je nu een chatbot voor klantenservice gebruikt, een AI-systeem voor voorraadbeheer of een tool die offertes genereert: de vraag ‘is dit veilig?’ wordt steeds vaker gesteld door klanten, partners en toezichthouders. Het risico is dat je een systeem implementeert dat gevoelige data blootstelt, foutieve beslissingen neemt of niet voldoet aan de AVG. De kosten van een incident kunnen hoog zijn, zowel financieel als qua reputatie.

Hoe je dit kunt toepassen

Als je een webshop runt en AI gebruikt voor klantenservice. Je zou kunnen beginnen met een eenvoudige veiligheidstest: laat de chatbot een aantal scenario’s doorlopen waarin hij klantgegevens moet verwerken, zoals namen, adressen of betaalgegevens. Controleer of hij deze informatie niet onbedoeld deelt met andere gebruikers of in antwoorden herhaalt. Een optie is om een testomgeving op te zetten waarin je het systeem kunt uitproberen zonder echte klantdata. Overweeg om een externe partij een pen-test te laten doen op de AI-interface.

Als je een team aanstuurt dat AI gebruikt voor interne processen. Denk aan een AI-tool die sollicitatiebrieven beoordeelt of planningen maakt. Een mogelijkheid is om een checklist op te stellen met veiligheidseisen voordat je de tool uitrolt. Vraag jezelf af: welke data stopt het systeem in het model? Worden die data opgeslagen bij de leverancier? Kun je de output controleren op fouten of bias? Je zou kunnen afspreken dat elk AI-voorstel eerst door een mens wordt gecontroleerd voordat het wordt uitgevoerd.

Als je in de zorg werkt en AI overweegt voor patiëntcommunicatie. Dit is een sector waar veiligheid en privacy extra zwaar wegen. Overweeg om alleen AI-tools te gebruiken die een expliciete verklaring hebben over datalokalisatie: waar worden de gegevens opgeslagen en verwerkt? Je zou kunnen eisen dat de leverancier een Data Processing Agreement (DPA) ondertekent die voldoet aan de AVG. Een praktische stap is om een proefperiode van een maand in te plannen waarin je het systeem alleen met geanonimiseerde data test.

Als je een adviesbureau runt en AI inzet voor rapportages. Wanneer je AI gebruikt om analyses te draaien op klantdata, is het verstandig om vooraf te vragen hoe het model is getraind. Een optie is om te kiezen voor een ‘private’ versie van een AI-tool, waarbij de data niet worden gebruikt om het algemene model verder te trainen. Je zou kunnen afspreken dat je alleen samenvattingen of geaggregeerde data aan het systeem voert, niet de ruwe klantgegevens.

Als je een productiebedrijf bent en AI gebruikt voor kwaliteitscontrole. In dit geval gaat het minder om privacy, maar wel om betrouwbaarheid. Een mogelijkheid is om een validatiedataset te maken met bekende fouten en te testen of het AI-systeem deze correct detecteert. Je zou kunnen overwegen om een ‘human-in-the-loop’ in te bouwen: het AI-systeem markeert afwijkingen, maar een medewerker neemt de eindbeslissing. Zo voorkom je dat een foutieve AI-uitspraak direct leidt tot een productiestop of afkeur.

Bron: TechCrunch