AI-hallucinaties zijn niet alleen een probleem voor artsen. Ook in zakelijke AI-toepassingen zoals gesprekssamenvattingen, rapportages of data-analyse kunnen AI-systemen informatie verzinnen, fouten maken of cruciale details missen. Een recente audit in Ontario laat zien hoe groot dat risico is, zelfs bij goedgekeurde AI-tools.

Wat er aan de hand is

De Canadese provincie Ontario liet een audit uitvoeren naar AI-scribers die door de overheid waren aanbevolen voor gebruik in de zorg. Deze systemen moeten dokters helpen door gesprekken met patiënten automatisch samen te vatten in medische dossiers. De audit testte twintig verschillende AI-scribers met twee gesimuleerde doktersgesprekken. Alle twintig systemen vertoonden problemen met nauwkeurigheid of volledigheid. Negen systemen verzonnen patiëntinformatie die nooit was besproken, twaalf noteerden informatie onjuist en zeventien misten belangrijke details over besproken psychische klachten. Concrete voorbeelden uit het rapport: een AI-schrijver verzon een verwijzing voor een bloedtest die nooit was besproken, een ander schreef de naam van een medicijn verkeerd over, en meerdere systemen negeerden essentiële informatie over psychische problemen.

Wat dit betekent

Deze audit laat zien dat AI-hallucinaties geen abstract technisch probleem zijn, maar directe gevolgen kunnen hebben voor de kwaliteit van je werk. Als AI-systemen in jouw bedrijf informatie samenvatten, data analyseren of rapporten genereren, loop je hetzelfde risico. Een fout in een klantgesprekssamenvatting kan leiden tot een verkeerde offerte, een gemiste klacht of een onjuiste factuur. Het probleem is extra gevaarlijk omdat AI-hallucinaties vaak overtuigend klinken. Ze zijn niet willekeurig onsamenhangend, maar lijken op echte informatie. Daardoor is de verleiding groot om de output te vertrouwen zonder controle. Voor ondernemers betekent dit: vertrouw geen AI-output zonder verificatie, ongeacht hoe betrouwbaar de tool lijkt.

Hoe je dit kunt toepassen

Als je AI gebruikt voor het samenvatten van klantgesprekken of e-mails, overweeg dan om een steekproefsgewijze controle in te bouwen. Kies willekeurig tien procent van de samenvattingen en vergelijk ze met de originele gesprekken of berichten. Let daarbij specifiek op informatie die er niet in thuishoort, zoals verwijzingen naar niet-besproken onderwerpen of data die niet kloppen. Je zou een medewerker kunnen aanwijzen die deze controle uitvoert, of zelf periodiek een aantal samenvattingen checken.

Als je AI inzet voor het genereren van rapportages of analyses, is het verstandig om een vaste checklist te gebruiken voordat je de output deelt. Controleer of alle broninformatie correct is overgenomen, of er geen extra cijfers of feiten zijn toegevoegd, en of de conclusies logisch volgen uit de data. Een eenvoudige manier is om de AI-output naast de oorspronkelijke data te leggen en te kijken of de belangrijkste punten kloppen.

Als je een AI-tool overweegt aan te schaffen voor je bedrijf, vraag dan bij de leverancier naar de resultaten van onafhankelijke tests op hallucinaties en nauwkeurigheid. Niet elke AI is even betrouwbaar, en leveranciers zijn niet altijd transparant over de beperkingen. Je zou kunnen vragen naar tests met jouw type data of branche, of zelf een kleine proef doen met een paar realistische scenario’s voordat je de tool in gebruik neemt.

Als je een team aanstuurt dat met AI werkt, overweeg dan om een korte instructie op te stellen over het herkennen van hallucinaties. Leg uit dat AI geen feiten controleert, maar waarschijnlijke tekst genereert. Geef voorbeelden van veelvoorkomende fouten, zoals het verzinnen van namen, data of bedragen. Door je team bewust te maken van dit risico, verklein je de kans dat een hallucinatie onopgemerkt blijft.

Bron: Arstechnica (https://arstechnica.com/health/2026/05/your-doctors-ai-notetaker-may-be-making-things-up-ontario-audit-finds/)