Google wordt aangeklaagd omdat zijn AI-overzicht een Canadese muzikant ten onrechte bestempelde als zedendelinquent. De zaak vraagt 1,5 miljoen dollar schadevergoeding en laat zien dat foute AI-output niet alleen een reputatierisico is, maar ook een juridisch risico. Voor ondernemers is dit een waarschuwing: als je AI gebruikt voor klantcommunicatie, productbeschrijvingen of content, dan ben jij verantwoordelijk voor wat eruit komt.

Wat er aan de hand is

Volgens Search Engine Journal heeft een rechtszaak Google aangeklaagd vanwege een fout in de AI Overview-functie. De AI genereerde een samenvatting waarin de Canadese folkmuzikant Ashley MacIsaac ten onrechte werd beschreven als een veroordeelde zedendelinquent. De eiser eist 1,5 miljoen dollar schadevergoeding. Het is een van de eerste grote rechtszaken waarin een AI-samenvatting van een zoekmachine centraal staat. De zaak onderstreept dat AI-systemen feitelijke fouten kunnen maken, en dat de gevolgen daarvan groot kunnen zijn.

Wat dit betekent

Voor ondernemers betekent deze zaak dat je niet blind kunt vertrouwen op AI-output, of die nu van Google komt of van een andere tool. Als je AI gebruikt om teksten te genereren voor je website, nieuwsbrief of klantenservice, dan ben jij als bedrijf aansprakelijk voor de inhoud. Een foute claim over een persoon of bedrijf kan leiden tot een rechtszaak, reputatieschade en hoge kosten. Dit geldt voor elk bedrijf dat AI inzet, van een eenmanszaak tot een middelgroot bedrijf. De drempel voor een juridische claim wordt lager naarmate AI vaker fouten maakt en rechters hier strenger naar gaan kijken.

Hoe je dit kunt toepassen

Als je AI gebruikt voor klantcommunicatie, overweeg dan om alle AI-gegenereerde teksten te laten controleren door een medewerker voordat ze de deur uitgaan. Een automatische check op feiten en namen kan veel ellende voorkomen. Je zou kunnen afspreken dat AI alleen concepten levert, en dat een mens de eindverantwoordelijkheid draagt.

Als je een webshop runt en AI inzet voor productbeschrijvingen, is het verstandig om een systeem in te bouwen dat controleert of er geen onjuiste of beledigende claims in staan. Een mogelijkheid is om een eenvoudige lijst met verboden termen of namen te gebruiken, en AI-output daarop te scannen voordat je deze publiceert.

Als je zelf slachtoffer wordt van een foute AI-claim, bijvoorbeeld in een AI-overzicht van Google of een andere tool, overweeg dan om direct juridisch advies in te winnen. Documenteer de fout met screenshots en data, en neem contact op met de aanbieder van de AI-tool. Je zou ook kunnen overwegen om een formele klacht in te dienen, zoals in deze zaak gebeurt.

Als je een team aanstuurt dat AI gebruikt, overweeg om een korte richtlijn op te stellen over aansprakelijkheid en kwaliteitscontrole. Leg vast wie verantwoordelijk is voor het controleren van AI-output en wat de procedure is bij een fout. Dit voorkomt dat een medewerker per ongeluk schadelijke content publiceert.

Bron: Search Engine Journal (https://www.searchenginejournal.com/google-sued-over-false-ai-overview-about-musician/573944/)