Een Duitse rechter heeft Google aansprakelijk gesteld voor foutieve uitspraken in AI Overviews. Dit betekent dat bedrijven die AI-chatbots of AI-samenvattingen op hun website gebruiken, mogelijk zelf verantwoordelijk zijn voor de inhoud die de AI genereert, ook als die inhoud onjuist is.

Wat er aan de hand is

De rechtbank in Duitsland deed een voorlopige uitspraak in een zaak die was aangespannen door twee uitgevers. Google’s AI Overviews hadden ten onrechte beweerd dat deze uitgevers betrokken waren bij dubieuze praktijken of oplichting. De AI had, op basis van bronnen, conclusies getrokken die niet klopten. Toen de uitgevers Google hierop wezen met een sommatie, weigerde Google de foutieve informatie te corrigeren. Google voerde aan dat gebruikers weten dat AI niet altijd accuraat is en dat ze de output moeten verifiëren. De rechter ging daar niet in mee. De uitspraak is een voorlopige, maar zet een belangrijke juridische precedent: wie AI inzet, is verantwoordelijk voor de uitkomsten, ook als die uitkomsten ‘hallucinaties’ zijn.

Wat dit betekent

Deze uitspraak heeft directe gevolgen voor Nederlandse ondernemers die AI gebruiken op hun website. Denk aan een chatbot die klantvragen beantwoordt, een AI die productinformatie samenvat, of een tool die automatisch reviews analyseert. Tot nu toe was het onduidelijk wie er aansprakelijk was voor foute AI-antwoorden: de maker van de AI, de gebruiker, of de website-eigenaar. Deze Duitse uitspraak wijst naar de website-eigenaar. Als een AI op jouw site een foutieve bewering doet over een persoon, bedrijf of product, kun je daarop worden aangesproken. Het argument ‘het was de AI, niet ik’ werkt niet meer. Dit geldt voor elke sector: e-commerce, dienstverlening, media, zorg en recht. De drempel voor aansprakelijkheid wordt lager, en de kans op claims neemt toe.

Hoe je dit kunt toepassen

Als je een chatbot op je website hebt die klantvragen beantwoordt, is het risico groot dat de chatbot een keer iets fouts zegt over een concurrent, een product of een dienst. Overweeg om de chatbot te trainen op een vaste set goedgekeurde antwoorden. Laat hem geen vrijheid om zelf conclusies te trekken. Je kunt ook een disclaimer toevoegen dat de antwoorden niet juridisch bindend zijn, maar reken er niet op dat dat je beschermt. De Duitse rechter vond dat niet voldoende.

Als je AI gebruikt om automatisch samenvattingen te genereren van reviews of nieuwsartikelen, loop je het risico dat de AI feiten verdraait. Een mogelijkheid is om de samenvattingen altijd door een mens te laten controleren voordat ze online komen. Dat kost tijd, maar voorkomt dat je aansprakelijk wordt voor een foutieve samenvatting die iemands reputatie schaadt.

Als je een AI-tool inzet voor het genereren van productbeschrijvingen of prijsinformatie, wees dan extra voorzichtig met feitelijke claims. Een AI kan per ongeluk een foutieve korting of een onjuiste productspecificatie noemen. Overweeg om een logboek bij te houden van alle AI-gegenereerde content, zodat je kunt aantonen dat je zorgvuldig hebt gehandeld als er een claim komt.

Als je overweegt om AI op je site te zetten, wacht dan niet af tot er een Nederlandse uitspraak is. De Duitse zaak is een signaal dat rechters streng gaan kijken naar AI-aansprakelijkheid. Een optie is om eerst een juridisch advies in te winnen over de specifieke toepassing die je voor ogen hebt. Laat je adviseren over welke waarborgen je moet inbouwen.

Als je een AI-chatbot gebruikt voor klantenservice, kun je overwegen om de chatbot alleen te laten antwoorden op basis van een vooraf goedgekeurde FAQ. Voorkom dat de chatbot zelfstandig informatie opzoekt of combineert. Hoe minder vrijheid de AI heeft, hoe kleiner de kans op fouten waarvoor jij aansprakelijk kunt worden gesteld.

Bron: Arstechnica