ChatGPT kan je klanten naar frauduleuze webshops sturen, zonder dat jij of zij het doorhebben. Oplichters manipuleren de uitkomsten van taalmodellen zoals ChatGPT door middel van LLM data poisoning, waardoor nepwinkels worden aanbevolen als betrouwbare opties. Dit is een directe bedreiging voor ondernemers die ChatGPT inzetten voor klantcontact of productaanbevelingen.

Wat er aan de hand is

Oplichters hebben een nieuwe tactiek gevonden: in plaats van alleen websites via SEO te misleiden, richten ze zich nu op taalmodellen zoals ChatGPT. Door LLM data poisoning beïnvloeden ze de trainingsdata of de context waarin het model antwoorden genereert. Het resultaat is dat ChatGPT frauduleuze shops aanraadt als legitieme opties, zonder dat het model zelf doorheeft dat het misleid wordt. Dit is geen theoretisch risico; Bright meldt dat dit al actief gebeurt. Het is een verschuiving van traditionele phishing naar een geavanceerdere vorm van manipulatie die direct inspeelt op de groeiende populariteit van AI-assistenten.

Wat dit betekent

Voor ondernemers die ChatGPT gebruiken voor klantenservice, productaanbevelingen of leadgeneratie, is dit een serieus risico. Als een klant via jouw chatbot of een externe AI-assistent naar een frauduleuze shop wordt gestuurd, kan dat leiden tot datalekken, financiële schade en reputatieverlies. Het probleem is dat je als MKB’er niet direct ziet of ChatGPT een betrouwbare bron gebruikt. De impact is het grootst in sectoren waar productaanbevelingen centraal staan, zoals e-commerce, reisbureaus of dienstverleners die externe tools aanraden. Ook als je ChatGPT inzet voor interne processen, zoals het opstellen van leverancierslijsten, loop je risico.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productaanbevelingen, dan is het verstandig om de uitkomsten van het model te controleren voordat je ze deelt met klanten. Je zou een vaste procedure kunnen inrichten waarbij een medewerker steekproefsgewijs de aanbevolen shops checkt op betrouwbaarheid. Een eenvoudige manier is om te kijken of de shop een fysiek adres, KVK-nummer en contactmogelijkheden heeft. Overweeg om ChatGPT alleen te gebruiken voor algemene informatie en niet voor directe aanbevelingen van externe partijen, tenzij je de bronnen handmatig hebt gevalideerd.

Als je een team aanstuurt dat ChatGPT inzet voor klantcontact, dan kun je duidelijke richtlijnen opstellen. Zeg bijvoorbeeld dat medewerkers nooit blindelings een link of shopnaam uit ChatGPT mogen doorgeven zonder controle. Een optie is om een checklist te maken met signalen van frauduleuze shops, zoals ontbrekende betaalmethoden, vreemde URL’s of extreem lage prijzen. Je zou ook kunnen overwegen om een interne database met goedgekeurde partners te gebruiken, zodat ChatGPT alleen uit die lijst kan putten.

Als je in de marketing werkt en ChatGPT gebruikt voor contentcreatie, dan is het belangrijk om te beseffen dat het model ook in blogs of nieuwsbrieven onbedoeld frauduleuze links kan plaatsen. Een mogelijkheid is om alle gegenereerde content te scannen op URL’s voordat je deze publiceert. Gebruik hiervoor een tool die domeinen controleert op betrouwbaarheid, of laat een medewerker elke link handmatig nakijken. Overweeg om ChatGPT alleen te gebruiken voor concepten en de uiteindelijke content zelf te schrijven of te redigeren.

Als je een klein bedrijf hebt zonder speciale AI-kennis, dan is de eenvoudigste stap om ChatGPT niet te gebruiken voor aanbevelingen van externe producten of diensten. Gebruik het model alleen voor interne taken, zoals het opstellen van e-mails of het samenvatten van documenten. Als je toch aanbevelingen wilt doen, kun je een vaste lijst met betrouwbare partners opstellen en die handmatig delen. De praktische toepassing hangt af van jouw situatie, maar bewustwording is de eerste stap.

Bron: Bright