Een rechtszaak tegen Google laat zien dat foutieve AI-output kan leiden tot claims van anderhalf miljoen dollar. Voor MKB-ondernemers die AI gebruiken in hun bedrijfsvoering is dit een signaal: je kunt aansprakelijk worden gesteld voor wat een AI-systeem produceert, ook als je dat systeem niet zelf hebt gebouwd.

Wat er aan de hand is

Google wordt aangeklaagd voor een fout in AI Overview, de functie die AI-gegenereerde antwoorden bovenaan zoekresultaten plaatst. De AI identificeerde de Canadese muzikant Ashley MacIsaac ten onrechte als een zedendelinquent. De eiser eist 1,5 miljoen dollar schadevergoeding wegens smaad en reputatieschade. De zaak, ingediend in de VS, is een van de eerste grote juridische uitdagingen rondom AI-output van een techgigant. Volgens Search Engine Journal toont dit aan dat AI-systemen niet alleen technische fouten maken, maar ook juridische gevolgen kunnen hebben voor de partijen die ze inzetten.

Wat dit betekent

Deze zaak heeft directe impact op ondernemers die AI gebruiken voor klantcontact, contentproductie of beslissingsondersteuning. Het principe is simpel: als jij een AI-tool inzet en die tool produceert onjuiste of schadelijke informatie, kun jij als gebruiker aansprakelijk worden gesteld. Dat geldt niet alleen voor grote techbedrijven, maar ook voor kleine ondernemers die AI-chatbots op hun website zetten, AI-gegenereerde productbeschrijvingen publiceren of geautomatiseerde klantenservice draaien. De drempel voor claims wordt lager naarmate er meer jurisprudentie ontstaat. Vooral in sectoren waar reputatiegevoelige informatie wordt verwerkt – zoals juridisch advies, medische informatie, financiële dienstverlening en persoonsgegevens – is het risico groter.

Hoe je dit kunt toepassen

Als je een AI-chatbot op je website hebt staan die vragen beantwoordt van klanten, is het verstandig om te controleren of de chatbot disclaimer-teksten toont. Je zou kunnen overwegen om een duidelijke melding toe te voegen dat de antwoorden door AI worden gegenereerd en niet als definitief advies moeten worden beschouwd. Een optie is om de chatbot alleen te laten antwoorden op basis van een vaste, door jou goedgekeurde kennisbank, in plaats van een open taalmodel dat zelf informatie kan verzinnen.

Als je AI gebruikt voor het schrijven van productbeschrijvingen, blogartikelen of social media-berichten, is het verstandig om een controleproces in te bouwen. Overweeg om alle AI-gegenereerde content door een mens te laten checken voordat deze online gaat. Een mogelijkheid is om een checklist te maken met punten waarop je controleert: feitelijke juistheid, geen smadelijke uitspraken over personen of bedrijven, en geen ongegronde claims over producten of diensten.

Als je AI inzet voor het verwerken van persoonsgegevens – bijvoorbeeld voor het genereren van klantprofielen of het beantwoorden van vragen over klanten – is het belangrijk om te weten welke data de AI gebruikt. Je zou kunnen overwegen om een logboek bij te houden van AI-output die betrekking heeft op personen. Een optie is om een procedure af te spreken voor het geval een klant een foutieve AI-uitspraak over zichzelf aantreft: wie handelt dat af en hoe wordt de fout gecorrigeerd.

Als je overweegt om AI in te zetten voor juridische of financiële dienstverlening, is voorzichtigheid geboden. Overweeg om een juridisch adviseur te raadplegen over de aansprakelijkheidsrisico’s in jouw specifieke sector. Een mogelijkheid is om een verzekering te checken op dekking voor schade door AI-output, of om specifieke AI-aansprakelijkheidsverzekering te onderzoeken.

De praktische toepassing hangt af van jouw situatie, maar de kern is: behandel AI-output niet als feit, maar als een concept dat menselijke controle nodig heeft. Documenteer je processen, zodat je kunt aantonen dat je zorgvuldig hebt gehandeld als er een claim komt.

Bron: Search Engine Journal (https://www.searchenginejournal.com/google-sued-over-false-ai-overview-about-musician/573944/)