ChatGPT kan je klanten naar frauduleuze webshops sturen, zonder dat jij of je klanten het doorhebben. Oplichters gebruiken een techniek die LLM data poisoning heet om de aanbevelingen van het taalmodel te manipuleren. Dit betekent dat jouw bedrijf onbedoeld kan worden geassocieerd met oplichters, of dat je klanten worden misleid via schijnbaar betrouwbare AI-adviezen.

Wat er aan de hand is

Oplichters hebben een nieuwe tactiek gevonden om hun frauduleuze webshops onder de aandacht te brengen. Waar ze eerder via SEO (zoekmachineoptimalisatie) probeerden hoog te scoren in Google, richten ze zich nu op taalmodellen zoals ChatGPT. Ze beïnvloeden het algoritme door middel van LLM data poisoning. Dit houdt in dat ze opzettelijk misleidende informatie in de trainingsdata of in de context van het model stoppen, zodat ChatGPT hun producten of shops aanbeveelt. Volgens Bright is dit een groeiend probleem: de oplichters zijn uit op je data en gebruiken AI om hun bereik te vergroten. Het nieuws laat zien dat de dreiging verschuift van traditionele zoekmachines naar AI-chatbots, die steeds vaker worden gebruikt voor productaanbevelingen.

Wat dit betekent

Voor jou als MKB’er betekent dit dat je niet alleen je eigen website en marketing moet beveiligen, maar ook moet opletten hoe AI-modellen jouw bedrijf of branche presenteren. Als ChatGPT een frauduleuze shop aanbeveelt die zich voordoet als een betrouwbare partij, kunnen jouw klanten in de val lopen. Dit kan leiden tot reputatieschade, verlies van vertrouwen en zelfs juridische problemen als klanten denken dat jij achter de fraude zit. Vooral als je in een sector werkt waar productaanbevelingen belangrijk zijn, zoals e-commerce, reizen of financiële dienstverlening, is dit risico reëel. Het is niet alleen een technisch probleem, maar ook een marketing- en vertrouwenskwestie.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor klantenservice of productaanbevelingen, overweeg dan om regelmatig te testen wat het model adviseert. Je zou een aantal zoekopdrachten kunnen simuleren die klanten typisch gebruiken, zoals ‘beste [jouw product] voor [doelgroep]’, en controleren of ChatGPT naar betrouwbare shops verwijst. Als je onverwachte of onbekende aanbevelingen ziet, is dat een signaal dat er mogelijk data poisoning heeft plaatsgevonden. Een optie is om een eigen, gecontroleerde dataset te gebruiken voor de aanbevelingen, in plaats van volledig te vertrouwen op het open model.

Als je een team aanstuurt dat AI inzet voor marketing of klantcontact, kun je een protocol opstellen voor het herkennen van verdachte aanbevelingen. Laat medewerkers bijvoorbeeld altijd controleren of een aanbevolen shop een fysiek adres, KVK-nummer en contactmogelijkheden heeft. Als ChatGPT een shop aanraadt die deze basisinformatie mist, is dat een rode vlag. Je zou ook kunnen overwegen om een interne checklist te maken die medewerkers doorlopen voordat ze AI-adviezen delen met klanten.

Als je in de zorg of een andere vertrouwelijke sector werkt, is het extra belangrijk om te voorkomen dat ChatGPT wordt gebruikt voor product- of dienstaanbevelingen zonder toezicht. Overweeg om een eigen AI-tool te bouwen die alleen is getraind op door jou goedgekeurde bronnen. Dit kost tijd en geld, maar het voorkomt dat klanten naar frauduleuze partijen worden gestuurd. Een eenvoudigere stap is om in je communicatie met klanten expliciet te vermelden dat je geen verantwoordelijkheid neemt voor aanbevelingen van externe AI-modellen.

Als je een klein bedrijf hebt zonder IT-afdeling, kun je beginnen met het monitoren van klantvragen. Vraag klanten die via ChatGPT bij je komen hoe ze je hebben gevonden. Als ze zeggen dat ChatGPT je heeft aanbevolen, vraag dan of het model ook andere shops noemde. Zo krijg je een beeld van wat er speelt. Je zou ook een Google Alert kunnen instellen op je bedrijfsnaam in combinatie met ‘ChatGPT’ of ‘AI aanbevolen’ om snel te reageren op misleidende adviezen.

Bron: Bright