Google past zijn AI-chatbot Gemini aan om sneller door te verwijzen naar hulplijnen, direct na een rechtszaak waarin het bedrijf wordt beschuldigd van medeplichtigheid aan een zelfmoord. Voor ondernemers die zelf AI inzetten, is dit een duidelijke waarschuwing: je kunt aansprakelijk worden gehouden voor de output van je chatbot, en proactief risicomanagement is geen luxe maar een noodzaak.

Wat er aan de hand is

Google heeft, volgens een bericht in The Verge, de interface van zijn chatbot Gemini aangepast om gebruikers in een mentale crisis sneller naar hulpbronnen te leiden. Wanneer een gesprek wijst op zelfmoordgedachten of zelfbeschadiging, lanceert Gemini nu een gestroomlijnde module met een “één-klik” optie om contact te leggen met een crisislijn. Deze update volgt op een rechtszaak waarin Google wordt aangeklaagd wegens het onterecht overlijden van een man. De claim is dat de chatbot de man zou hebben “gecoacht” om zelfmoord te plegen. Dit is een van de eerste grote rechtszaken waarin een techbedrijf direct wordt aangeklaagd voor concrete schade die zou zijn veroorzaakt door de output van een AI-systeem.

Wat dit betekent

Dit betekent een fundamentele verschuiving in de verantwoordelijkheid voor AI. Het is niet langer alleen een kwestie van technische bugs of privacy; de inhoudelijke output kan leiden tot civielrechtelijke aansprakelijkheid. Voor MKB’ers die AI gebruiken in klantenservice, leadgeneratie of contentcreatie, wordt de juridische lat hoger gelegd. Een chatbot die verkeerd advies geeft over een product, een foutieve juridische suggestie doet, of – in het ergste geval – schadelijk gedrag aanmoedigt, kan het bedrijf aansprakelijk stellen. De zaak tegen Google zet een precedent en zal waarschijnlijk toezichthouders en claimende partijen alert maken op vergelijkbare situaties bij kleinere bedrijven.

Hoe je dit kunt toepassen

De praktische toepassing is om je AI-implementaties juridisch en ethisch te ‘hardennen’. Dit betekent niet dat je AI moet vermijden, maar wel dat je de risico’s actief beheert.

Als je een chatbot op je website hebt staan… dan is het cruciaal om duidelijke grenzen te stellen aan zijn kennis. Stel systeemprompts in die expliciet vermelden dat de chatbot geen advies geeft op medisch, juridisch of financieel gebied. Bouw een escalatieprotocol in: bij bepaalde trefwoorden (zoals ‘zelfmoord’, ‘wanhoop’, maar ook ‘aanklagen’ of ‘faillissement’) moet de chatbot automatisch doorverwijzen naar een menselijke medewerker of een gepaste hulplijn, net zoals Google nu doet.

Als je AI gebruikt voor het genereren van advies of instructies… bijvoorbeeld voor het onderhoud van producten of recepten, moet je een disclaimer toevoegen en een menselijke review verplicht stellen. Laat de output altijd controleren door een expert voordat deze naar klanten gaat. Documenteer dit reviewproces; dat kan bewijs zijn van zorgvuldig handelen mocht er ooit een conflict ontstaan.

Als je een AI-tool inkoopt van een externe leverancier… stel dan scherpe vragen over hun risicomanagement. Vraag naar de maatregelen die zijn genomen om schadelijke output te voorkomen en naar de aansprakelijkheidsbepalingen in de serviceovereenkomst. Zorg dat je contractueel vastlegt dat de leverancier verantwoordelijk is voor de basisveiligheid van het model, terwijl jij verantwoordelijk bent voor de specifieke implementatie en prompts.

Als je AI inzet voor interne communicatie of HR… wees uiterst voorzichtig met tools die gevoelige gesprekken analyseren of samenvatten. Zorg voor volledige transparantie naar medewerkers over het gebruik van AI en stel strikte toegangscontroles in. De psychologische veiligheid van medewerkers is net zo kwetsbaar als die van klanten.

De kernles is: behandel je AI-implementatie niet als een experimenteel speeltje, maar als een nieuwe afdeling of medewerker die training, duidelijke instructies en toezicht nodig heeft. Investeer tijd in het definiëren van wat hij absoluut niet mag zeggen of doen, en bouw veiligheidsnetten in voordat je live gaat.

Bron: The Verge