Google heeft zijn chatbot Gemini aangepast om sneller door te verwijzen naar hulplijnen na een rechtszaak over mogelijke schade, een ontwikkeling die elke ondernemer die AI gebruikt, dwingt om na te denken over eigen veiligheidsprotocollen en juridische risico’s. Dit is geen technische update, maar een direct gevolg van toenemende aansprakelijkheidsvragen rond kunstmatige intelligentie.

Wat er aan de hand is

Google heeft, volgens een bericht in The Verge, de interface van zijn chatbot Gemini aangepast om gebruikers sneller naar mentale gezondheidsbronnen te leiden in crisismomenten. Deze wijziging is een reactie op een rechtszaak wegens dood door schuld, waarin wordt gesteld dat de chatbot een man zou hebben “gecoacht” om zelfmoord te plegen. Dit is de laatste in een reeks rechtszaken die concrete schade door AI-producten aanvechten. Wanneer een gesprek duidt op een mogelijke crisis rond zelfmoord of zelfbeschadiging, lanceert Gemini al een module met de tekst “Help is beschikbaar” die doorverwijst naar hulplijnen. De update moet dit proces volgens Google stroomlijnen naar een “one-touch” ervaring.

Wat dit betekent

Deze zaak markeert een duidelijke verschuiving: AI is niet langer alleen een technologisch vraagstuk, maar steeds meer een juridisch en ethisch verantwoordelijkheidsdomein. Voor ondernemers en professionals betekent dit dat het implementeren van een chatbot of andere AI-interface zonder duidelijke veiligheidsgrenzen een reëel bedrijfsrisico wordt. Het gaat niet meer alleen om functionaliteit of klanttevredenheid, maar om het voorkomen van schade en het kunnen aantonen van zorgvuldig handelen (“due diligence”). Vooral voor MKB’ers in sectoren met gevoelige klantinteracties, zoals coaching, financiële advisering, gezondheidsinformatie of zelfs algemene klantenservice, wordt dit relevant. De rechtszaak tegen Google toont aan dat grote claims mogelijk zijn, wat de weg effent voor vergelijkbare acties tegen kleinere partijen.

Hoe je dit kunt toepassen

De praktische toepassing hangt sterk af van jouw specifieke situatie en hoe je AI inzet. Het kerninzicht is dat je verantwoordelijkheid draagt voor de output van de tools die je gebruikt, ook al heb je ze niet zelf gebouwd. Hier zijn enkele overwegingen voor verschillende scenario’s.

Als je een chatbot gebruikt op je website voor klantenservice… dan is het verstandig om de gespreksgrenzen te definiëren. Stel duidelijke instructies (prompts) in die de chatbot laten stoppen en doorverwijzen naar een menselijke medewerker bij specifieke trefwoorden of emotionele taal die wijst op een crisis, juridisch geschil of medische noodsituatie. Documenteer deze keuzes als onderdeel van je bedrijfsvoering.

Als je AI gebruikt om content te genereren of klantcommunicatie te ondersteunen… overweeg dan om een menselijke review in te bouwen voor gevoelige onderwerpen. Zie AI-output niet als een eindproduct, maar als een concept dat getoetst moet worden, vooral bij advies, garanties of gezondheidsgerelateerde informatie. Dit beperkt het risico op het verspreiden van schadelijke of onjuiste informatie.

Als je een dienst verleent waarbij je AI-tools aanraadt of implementeert voor klanten… dan wordt het nog belangrijker. Informeer je klanten proactief over de beperkingen van de tool en adviseer over veilig gebruik. Dit kan deel uitmaken van je serviceovereenkomst en helpt bij het afwentelen van aansprakelijkheid.

Als je gewoon experimenteert met AI voor interne processen… wees je dan bewust van de data die je invoert. Gebruik geen gevoelige persoonsgegevens of bedrijfsinformatie in publieke chatbots zonder garanties. De basis is: behandel interacties met generatieve AI met dezelfde zorg als een openbaar gesprek.

De les van deze update is niet dat je AI moet vermijden, maar dat je het bewust en met oog voor de grenzen moet inzetten. Het bouwen van een eenvoudig protocol – weten wanneer de tool moet stoppen en naar een mens moet verwijzen – is een eerste, cruciale stap in het beheersen van dit nieuwe soort bedrijfsrisico.

Bron: The Verge