AI-tools hallucineren niet alleen in de zorg, maar ook in jouw bedrijfsprocessen. Een recente audit in Ontario toonde aan dat alle twintig geteste AI-schrijftools fouten maakten, variërend van het verzinnen van niet-bestaande verwijzingen tot het verkeerd noteren van medicijnnamen. Dit probleem speelt net zo goed bij AI-tools die jij gebruikt voor klantgesprekken, offertes of interne verslaglegging.

Wat er aan de hand is

De Canadese provincie Ontario liet een audit uitvoeren naar AI-schrijftools die door de overheid waren goedgekeurd voor gebruik in de zorg. Uit het rapport van de auditor-generaal blijkt dat alle twintig geteste AI-systemen fouten maakten bij het samenvatten van gesimuleerde doktersgesprekken. Negen tools verzonnen patiëntinformatie die er niet was, twaalf noteerden informatie onjuist en zeventien misten belangrijke details over besproken mentale gezondheidsproblemen. Concreet betekende dit dat AI-schrijftools bijvoorbeeld verwezen naar bloedtesten die nooit waren besproken, medicijnnamen verkeerd opschreven of diagnoses oversloegen. De auditor waarschuwt dat dit kan leiden tot ontoereikende of schadelijke behandelplannen.

Wat dit betekent

Dit nieuws is niet alleen relevant voor dokters. Hetzelfde type AI-tool wordt steeds vaker ingezet door ondernemers: voor het samenvatten van klantgesprekken, het genereren van offertes, het notuleren van vergaderingen of het invullen van CRM-systemen. Als een AI-tool in een gecontroleerde testomgeving al zulke fouten maakt, is de kans groot dat dit ook gebeurt in jouw dagelijkse praktijk. De impact kan variëren van een misverstand met een klant tot een foutieve factuur of een gemiste afspraak. De audit laat zien dat hallucinaties geen uitzondering zijn, maar een structureel risico vormen bij het gebruik van generatieve AI.

Hoe je dit kunt toepassen

Als je AI gebruikt voor het samenvatten van klantgesprekken, overweeg dan om een vast controleprotocol in te voeren. Laat medewerkers niet blindelings vertrouwen op de samenvatting, maar vraag hen altijd de AI-output te vergelijken met een eigen korte aantekening. Een eenvoudige checklist met drie punten – kloppen de namen, data en bedragen? – kan al veel problemen voorkomen.

Als je AI inzet voor het genereren van offertes of contracten, is het verstandig om een tweede controlelaag in te bouwen. Laat een collega de AI-gegenereerde documenten nakijken op feitelijke juistheid, vooral bij bedragen, productcodes en leveringsdata. Je zou kunnen overwegen om dit onderdeel te maken van een standaard kwaliteitscheck voordat een document de deur uitgaat.

Als je een team aanstuurt dat met AI-tools werkt, kun je een korte training geven over hallucinaties. Leg uit dat AI geen feitenchecker is, maar een taalmodel dat waarschijnlijke tekst genereert. Een mogelijkheid is om een ‘hallucinatie-jacht’ te organiseren waarbij teamleden bewust fouten in AI-output leren herkennen. Dit verhoogt de alertheid zonder dat het veel tijd kost.

Als je AI gebruikt voor interne verslaglegging, zoals notulen of rapportages, overweeg dan om de AI-output altijd te voorzien van een duidelijke disclaimer. Zet erbij dat de tekst gegenereerd is en niet is gecontroleerd op feitelijke juistheid. Dit beschermt je tegen aansprakelijkheid en maakt medewerkers bewust van de noodzaak tot controle.

Als je overweegt een nieuwe AI-tool aan te schaffen, vraag dan altijd naar testresultaten over nauwkeurigheid. Veel aanbieders publiceren geen onafhankelijke audits. Je zou zelf een simpele test kunnen doen met een standaardgesprek of document dat je goed kent, en de output controleren op fouten. Dit geeft een reëel beeld van wat je kunt verwachten.

Bron: Arstechnica (https://arstechnica.com/health/2026/05/your-doctors-ai-notetaker-may-be-making-things-up-ontario-audit-finds/)