Het antwoord op de vraag of AI veilig is voor jouw bedrijf, begint niet bij een dure consultant, maar bij een simpele vraag: wat gebeurt er als het fout gaat? Volgens Databricks-medeoprichter Ion Stoica, sprekend op TechCrunch Disrupt 2026, maken bedrijven de overstap van ‘is AI interessant?’ naar ‘is het veilig om breed in te zetten?’. Die vraag kun je als MKB’er zelf beantwoorden met een paar concrete checks.

Wat er aan de hand is

Op TechCrunch Disrupt 2026 gaf Databricks-medeoprichter Ion Stoica aan dat enterprise AI een nieuwe fase ingaat. Waar bedrijven eerst vooral keken of AI indrukwekkend was, draait het nu om veiligheid. Stoica stelde dat de grootste dealbreakers voor AI-implementaties niet technisch zijn, maar liggen in onzekerheid over betrouwbaarheid en controle. De boodschap: zonder heldere veiligheidseisen durven bedrijven niet te schalen. Dit geldt niet alleen voor grote ondernemingen, maar ook voor het MKB dat AI in klantprocessen of interne systemen wil inzetten.

Wat dit betekent

Voor Nederlandse MKB’ers betekent deze verschuiving dat je niet kunt vertrouwen op een ‘het werkt wel’-houding. Een AI-tool die foute antwoorden geeft in een klantchat, kan reputatieschade opleveren. Een model dat per ongeluk vertrouwelijke data lekt, kan juridische problemen geven. De veiligheidsvraag is niet langer een luxe voor grote bedrijven met compliance-afdelingen. Het is een basisvoorwaarde om AI veilig te kunnen gebruiken. Stoica’s punt is dat de drempel niet technisch is, maar organisatorisch: je moet weten wat je test en waarom.

Hoe je dit kunt toepassen

Als je een webshop runt en een AI-chatbot wilt inzetten voor klantenservice. Begin met een eenvoudige stresstest. Geef de chatbot opzettelijk foute of grensoverschrijdende vragen, zoals ‘hoe kan ik een product ruilen zonder bon’ of ‘wat is het retouradres voor een defect artikel’. Kijk of de antwoorden consistent en veilig zijn. Als de chatbot vage of onjuiste informatie geeft, is het model niet klaar voor livegang. Overweeg om een aparte testomgeving te gebruiken waarin je scenario’s naspeelt zonder dat echte klanten er last van hebben.

Als je een team aanstuurt en AI gebruikt voor interne documentatie of samenvattingen. Test of het model geen vertrouwelijke informatie lekt. Geef het een document met fictieve, maar realistische bedrijfsgegevens, zoals salarissen of klantnamen. Vraag het model om een samenvatting. Controleer of die gegevens niet in de output verschijnen. Als dat wel gebeurt, is het model onveilig voor interne processen. Een optie is om een lokaal model te draaien dat geen data naar externe servers stuurt.

Als je in de zorg werkt en AI gebruikt voor het analyseren van patiëntgegevens. Veiligheid is hier cruciaal. Test of het model voldoet aan de AVG door een nep-dataset te maken met fictieve medische gegevens. Laat de AI een diagnose of behandeladvies geven. Vergelijk de output met een handmatige controle. Als de AI onjuiste of riskante adviezen geeft, is het niet veilig om in te zetten. Overweeg om alleen AI te gebruiken voor niet-kritische taken, zoals het ordenen van dossiers, en niet voor directe patiëntenzorg.

Als je een administratiekantoor hebt en AI gebruikt voor het verwerken van facturen. Test of het model foutgevoelig is bij afwijkende formaten. Stuur een factuur met een typfout in het btw-nummer of een ongebruikelijke valuta. Kijk of de AI de fout opmerkt of deze klakkeloos overneemt. Als het model fouten niet signaleert, loop je risico op verkeerde boekingen. Een mogelijkheid is om een controlelaag in te bouwen: laat de AI alleen voorstellen doen, die een medewerker handmatig goedkeurt.

De praktische toepassing hangt af van jouw situatie, maar de kern is simpel: test voordat je vertrouwt. Gebruik scenario’s die dicht bij jouw dagelijkse processen liggen, en wees niet bang om een model af te keuren als het niet veilig genoeg is.

Bron: TechCrunch (https://techcrunch.com/2026/05/28/techcrunch-disrupt-2026-databricks-co-founder-on-what-kills-enterprise-ai-deals/)