Het antwoord: AI-hallucinaties zijn geen technisch detail, maar een direct risico voor je bedrijfsvoering. Een recente audit in Ontario toont aan dat goedgekeurde AI-scribes systematisch fouten maken, van verzonnen diagnoses tot verkeerde medicijnnamen, met mogelijk ernstige gevolgen voor patiënten. Dit probleem beperkt zich niet tot de zorg: elke ondernemer die AI inzet voor klantcommunicatie, contracten of rapportages loopt hetzelfde risico.

Wat er aan de hand is

De Canadese provincie Ontario liet een audit uitvoeren naar AI-scribes die door de overheid waren aanbevolen voor gebruik in de zorg. Deze systemen moeten gesprekken tussen arts en patiënt samenvatten in medische dossiers. De auditor general testte twintig goedgekeurde AI-scribes met twee gesimuleerde gesprekken. Geen enkel systeem scoorde foutloos. Negen vendors produceerden hallucinaties: verzonnen verwijzingen voor bloedtesten of therapie, verkeerd getranscribeerde medicijnnamen. Zeventien systemen misten belangrijke details over besproken psychische problemen. Twaalf systemen noteerden informatie onjuist. De audit concludeert dat deze fouten kunnen leiden tot ontoereikende of schadelijke behandelplannen.

Wat dit betekent

Deze audit is geen incident, maar een signaal. Als AI-systemen die door een overheid zijn goedgekeurd en getest zulke fouten maken, dan geldt dat zeker voor systemen die zonder toezicht worden ingezet. Voor ondernemers betekent dit dat AI-output nooit blindelings te vertrouwen is. Of je nu AI gebruikt voor klantgesprekken, offertes, juridische documenten of interne rapportages: het risico op hallucinaties is reëel. De impact verschilt per sector. In de zorg kan een fout levensbedreigend zijn. In een webshop kan een verzonnen productbeschrijving leiden tot retourzendingen en klachten. In een juridische context kan een hallucinatie leiden tot aansprakelijkheid.

Hoe je dit kunt toepassen

Als je AI inzet voor klantcommunicatie, bijvoorbeeld chatbots of automatische samenvattingen van telefoongesprekken, dan loop je het risico dat klantvragen verkeerd worden geïnterpreteerd of dat afspraken niet correct worden vastgelegd. Je zou kunnen overwegen om een menselijke medewerker een steekproef van de output te laten controleren, vooral bij gesprekken die leiden tot betalingsverplichtingen of contractuele afspraken. Een mogelijke aanpak is om AI alleen te gebruiken voor een eerste concept, dat daarna door een teamlid wordt geverifieerd.

Als je AI gebruikt voor het genereren van rapportages of analyses, bijvoorbeeld in de financiële dienstverlening of consultancy, dan kunnen hallucinaties leiden tot verkeerde beslissingen. Een optie is om een vast controlemoment in te bouwen waarin de AI-output wordt vergeleken met de brondata. Je zou kunnen werken met een checklist: controleer namen, data, bedragen en conclusies. Dit kost tijd, maar voorkomt dat je klanten verkeerde informatie geeft.

Als je een team aanstuurt dat met AI werkt, dan is het belangrijk om duidelijke richtlijnen op te stellen. Overweeg om een protocol te maken waarin staat welke AI-output altijd door een mens moet worden gecontroleerd, en welke output direct gebruikt mag worden. De audit in Ontario laat zien dat zelfs goedgekeurde systemen falen. Een mogelijkheid is om per afdeling een ‘AI-kwaliteitsmedewerker’ aan te wijzen die verantwoordelijk is voor steekproeven en het signaleren van hallucinaties.

Als je overweegt AI aan te schaffen voor een kritisch bedrijfsproces, zoals het opstellen van offertes of het verwerken van medische gegevens, dan is het verstandig om eerst een eigen test uit te voeren. Je zou een aantal realistische scenario’s kunnen bedenken en de output van het systeem kunnen controleren op juistheid en volledigheid. Vraag de leverancier om garanties over nauwkeurigheid, maar vertrouw niet alleen op hun claims. De audit toont aan dat onafhankelijke tests essentieel zijn.

Bron: Arstechnica (https://arstechnica.com/health/2026/05/your-doctors-ai-notetaker-may-be-making-things-up-ontario-audit-finds/)