Het antwoord is simpel: voordat je AI uitrolt in je bedrijf, moet je drie vragen kunnen beantwoorden. Volgens de medeoprichter van Databricks, gesproken op TechCrunch Disrupt 2026, is het tijdperk van ‘AI is spannend’ voorbij. De echte vraag is nu: is het veilig genoeg om breed in te zetten? Als je die vraag niet met ja kunt beantwoorden, kun je beter wachten.

Wat er aan de hand is

Op TechCrunch Disrupt 2026 gaf de medeoprichter van Databricks een heldere boodschap: enterprise AI-deals lopen stuk op veiligheid en betrouwbaarheid, niet op techniek. Bedrijven zijn niet langer bezig met de vraag of AI interessant is. Ze willen weten of het veilig is om op grote schaal te gebruiken. Databricks, een groot platform voor data en AI, ziet dat veel projecten stranden omdat ondernemers de risico’s niet goed inschatten. Het nieuws is dat de focus verschuift van ‘kan het?’ naar ‘mag het?’ en ‘is het te vertrouwen?’.

Wat dit betekent

Voor jou als ondernemer betekent dit dat je niet meer wegkomt met een experimenteel AI-projectje in een hoekje van je bedrijf. De lat ligt hoger. Klanten, medewerkers en toezichthouders verwachten dat je kunt uitleggen hoe je AI werkt, wat de data doet en wat er gebeurt als het fout gaat. Vooral in sectoren zoals financiële dienstverlening, zorg en logistiek is dit cruciaal. Een AI die foute beslissingen neemt, kan je reputatie beschadigen of juridische problemen opleveren. De boodschap van Databricks is helder: als je AI wilt opschalen, moet je eerst de veiligheidsvragen beantwoorden.

Hoe je dit kunt toepassen

Als je een webshop runt en AI wilt gebruiken voor prijsoptimalisatie… Stel jezelf de vraag: wat gebeurt er als de AI een prijsadvies geeft dat te hoog of te laag is? Een mogelijkheid is om een menselijke check in te bouwen voordat prijzen automatisch worden doorgevoerd. Je zou kunnen beginnen met een pilot op een klein deel van je assortiment, zodat je de impact kunt meten zonder grote risico’s.

Als je een team aanstuurt en AI inzet voor het screenen van sollicitaties… Overweeg om te controleren of de AI geen onbedoelde vooroordelen heeft. Een optie is om de uitkomsten van de AI te vergelijken met eerdere, handmatige selecties. Je zou kunnen afspreken dat de AI alleen een shortlist maakt, maar dat de eindbeslissing altijd door een mens wordt genomen.

Als je in de zorg werkt en AI gebruikt voor het analyseren van patiëntgegevens… De veiligheid is hier extra belangrijk. Een mogelijkheid is om een aparte testomgeving in te richten waar de AI alleen met geanonimiseerde data werkt. Je zou kunnen overwegen om een externe partij de AI te laten controleren op fouten, voordat je hem in de praktijk gebruikt.

Als je een productiebedrijf hebt en AI inzet voor kwaliteitscontrole… Stel de vraag: wat als de AI een fout product niet opmerkt? Een optie is om de AI te laten samenwerken met een tweede, onafhankelijke sensor of camera. Je zou kunnen beginnen met het laten controleren van een klein percentage van de producten, en dat langzaam uitbreiden als de resultaten goed zijn.

Als je een administratiekantoor runt en AI gebruikt voor het verwerken van facturen… Overweeg om een logboek bij te houden van alle beslissingen die de AI neemt. Een mogelijkheid is om elke maand een steekproef te nemen en die handmatig te controleren. Je zou kunnen afspreken dat de AI alleen facturen onder een bepaald bedrag automatisch verwerkt, en grotere bedragen altijd door een mens laat beoordelen.

Bron: TechCrunch