Het antwoord is dat AI-hallucinaties niet alleen een probleem zijn in de zorg, maar ook in jouw bedrijf. Een recente audit in Ontario toont aan dat AI-systemen die gesprekken samenvatten in negen van de twintig geteste gevallen verzonnen informatie produceerden. Dit betekent dat je nooit blind kunt vertrouwen op AI-output, of het nu gaat om notulen, klantgesprekken of rapportages.

Wat er aan de hand is

De Canadese provincie Ontario heeft een audit laten uitvoeren naar AI-schrijvers die artsen helpen om patiëntgesprekken samen te vatten. De auditor-generaal testte twintig door de overheid goedgekeurde AI-systemen met twee gesimuleerde doktersgesprekken. De resultaten waren zorgwekkend: alle twintig systemen vertoonden fouten in ten minste één test. Negen systemen hallucineerden patiëntinformatie, twaalf registreerden informatie onjuist en zeventien misten belangrijke details over besproken psychische problemen. Concreet verzonnen AI-systemen bijvoorbeeld verwijzingen voor bloedtesten of therapie, schreven medicijnnamen verkeerd, of negeerden cruciale informatie over mentale gezondheid. Volgens de auditor-generaal kunnen deze fouten leiden tot ontoereikende of schadelijke behandelplannen.

Wat dit betekent

Voor jou als ondernemer is dit een waarschuwing. AI-tools worden steeds vaker ingezet voor het samenvatten van vergaderingen, het verwerken van klantvragen, het genereren van offertes of het opstellen van rapporten. De audit laat zien dat zelfs eenvoudige, gestandaardiseerde tests tot hallucinaties leiden. Als dit gebeurt in een gereguleerde omgeving met goedgekeurde systemen, dan is de kans groot dat het ook in jouw bedrijf gebeurt. De impact kan variëren van een misverstand in een notulen tot een foutieve factuur of een gemiste afspraak. In sectoren zoals de zorg, juridische dienstverlening, financiële administratie of klantenservice kunnen deze fouten directe gevolgen hebben voor klanttevredenheid, compliance of zelfs aansprakelijkheid.

Hoe je dit kunt toepassen

Als je AI gebruikt om vergaderingen of gesprekken samen te vatten, overweeg dan om een vaste validatiestap in te bouwen. Laat een medewerker de AI-output controleren op feitelijke juistheid, vooral bij namen, data, bedragen en actiepunten. Je zou kunnen afspreken dat elk AI-gegenereerd document een ‘gecontroleerd door’-veld krijgt, zodat er altijd een menselijke check is voordat het document wordt gedeeld.

Als je AI inzet voor klantcommunicatie, zoals het opstellen van offertes of antwoorden op vragen, is het verstandig om steekproefsgewijs de output te toetsen. Een mogelijkheid is om een checklist te maken met de vijf meest kritische punten die altijd kloppen moeten: klantnaam, product of dienst, prijs, datum en eventuele voorwaarden. Laat een teamlid deze punten controleren voordat de communicatie de deur uitgaat.

Als je AI gebruikt voor rapportages of data-analyse, overweeg dan om een tweede, onafhankelijke bron te gebruiken voor verificatie. Als de AI bijvoorbeeld een trend rapporteert op basis van verkoopcijfers, kun je die trend handmatig narekenen met een steekproef uit de ruwe data. Dit kost tijd, maar voorkomt dat je beslissingen neemt op basis van verzonnen cijfers.

Als je een team aanstuurt dat met AI werkt, is het nuttig om een korte training te geven over hallucinaties. Leg uit dat AI geen feitenchecker is, maar een patroonherkenner die soms verzint. Je zou een eenvoudige regel kunnen introduceren: ‘twijfel je aan de output, vraag dan om een bron of controleer het handmatig.’ Dit verlaagt de drempel voor medewerkers om kritisch te blijven.

Als je overweegt een nieuwe AI-tool aan te schaffen, vraag dan bij de leverancier naar de resultaten van onafhankelijke tests op hallucinaties. Niet elke aanbieder is even transparant, maar een serieuze partij kan voorbeelden geven van foutpercentages in gestandaardiseerde tests. Gebruik deze informatie om een realistische inschatting te maken van het risico in jouw specifieke toepassing.

Bron: Arstechnica