ChatGPT krijgt een optionele veiligheidsfunctie waarmee volwassen gebruikers een noodcontact kunnen instellen. Als OpenAI detecteert dat iemand met de chatbot praat over zelfbeschadiging of suïcide, wordt die contactpersoon gewaarschuwd. Voor MKB-ondernemers roept dit vragen op over zorgplicht, privacy en de grenzen van AI-gebruik op de werkvloer.

Wat er aan de hand is

OpenAI lanceert een functie genaamd ‘Trusted Contact’ voor ChatGPT. Volwassen gebruikers kunnen een vriend, familielid of mantelzorger aanwijzen als contactpersoon. Als OpenAI’s detectiesystemen signaleren dat een gebruiker mogelijk in een crisis verkeert rond zelfbeschadiging of suïcide, wordt die contactpersoon ingelicht. Het bedrijf zegt dat de functie is ontworpen op basis van een eenvoudig, door experts gevalideerd uitgangspunt: wanneer iemand mogelijk in een crisis zit, kan contact met een vertrouwd persoon een betekenisvol verschil maken. De functie komt bovenop de lokale hulplijnen die al in ChatGPT beschikbaar zijn. Het is een optionele instelling, geen verplichting.

Wat dit betekent

Voor MKB-ondernemers die ChatGPT gebruiken in hun bedrijfsvoering, bijvoorbeeld voor klantenservice, interne communicatie of als productiviteitstool voor medewerkers, ontstaat een nieuw aandachtspunt. De functie is bedoeld voor individuele gebruikers, niet voor zakelijke accounts. Maar als medewerkers ChatGPT gebruiken op het werk, kan de aanwezigheid van deze functie vragen oproepen over toezicht en privacy. Wie is de ’trusted contact’ voor een medewerker die via een zakelijk account chat? En wat gebeurt er met de data die OpenAI verzamelt om een crisis te detecteren? Dit raakt aan de zorgplicht van werkgevers, maar ook aan de grenzen van wat een werkgever mag weten over de mentale gezondheid van personeel. Voor bedrijven die ChatGPT inzetten voor klantcontact, is de vraag of deze functie ook van toepassing kan zijn op klantgesprekken. OpenAI specificeert dat niet expliciet in de aankondiging.

Hoe je dit kunt toepassen

Als je medewerkers ChatGPT laat gebruiken voor hun werk. Overweeg om in je beleid voor AI-gebruik een paragraaf op te nemen over deze functie. Leg uit dat de functie optioneel is en dat medewerkers zelf bepalen of ze een contactpersoon instellen. Je zou kunnen aangeven dat het bedrijf geen toegang heeft tot deze instellingen en dat het gebruik ervan volledig vrijwillig is. Dit voorkomt dat medewerkers het gevoel krijgen dat hun mentale gezondheid wordt gemonitord.

Als je als ondernemer zelf ChatGPT gebruikt voor persoonlijke of werkgerelateerde zaken. Je zou kunnen overwegen om zelf een trusted contact in te stellen, bijvoorbeeld een naaste of een collega die je vertrouwt. Het is een extra vangnet voor momenten waarop je misschien niet zelf in de gaten hebt dat je in een moeilijke situatie zit. De functie is eenvoudig in te stellen in de accountinstellingen van ChatGPT.

Als je een team aanstuurt waarin mentaal welzijn een thema is. Je zou de functie kunnen noemen in een breder gesprek over beschikbare ondersteuning, bijvoorbeeld tijdens een teamoverleg of in een interne nieuwsbrief. Benadruk dat het een persoonlijke, optionele functie is en dat het bedrijf geen inzage heeft in wie wat instelt. Dit past bij een cultuur van openheid zonder controle.

Als je juridische of privacy-overwegingen hebt. Overleg met een jurist of privacyfunctionaris of deze functie gevolgen heeft voor je verwerkingsovereenkomst met OpenAI. Omdat de functie detectie van gevoelige onderwerpen vereist, kan dit onder de AVB vallen als het via zakelijke accounts wordt gebruikt. Vraag bij OpenAI na of de functie uitgeschakeld kan worden voor zakelijke omgevingen, als je dat nodig acht.

Bron: The Verge (https://www.theverge.com/ai-artificial-intelligence/925874/chatgpt-trusted-contact-emergency-self-harm-notification)