Je kunt niet blind vertrouwen op productaanbevelingen van ChatGPT. Oplichters hebben een nieuwe manier gevonden om hun frauduleuze webshops te promoten: ze vergiftigen de data waar taalmodellen zoals ChatGPT op trainen, zodat het model hun schadelijke links als betrouwbaar presenteert.

Wat er aan de hand is

Fraudeurs richten zich nu niet alleen meer op zoekmachines via SEO, maar ook op AI-chatbots zoals ChatGPT. Ze gebruiken een techniek die LLM data poisoning heet. Door nepdata of misleidende informatie in de trainingsdata van het model te stoppen, beïnvloeden ze de uitkomsten. Het gevolg is dat ChatGPT producten of shops aanraadt die in werkelijkheid zijn opgezet om persoonlijke gegevens te stelen of betalingen te onderscheppen. Bright meldt dat deze vorm van oplichting een directe bedreiging vormt voor zowel consumenten als bedrijven die het model gebruiken voor marktonderzoek of klantadvies.

Wat dit betekent

Voor ondernemers in het MKB heeft dit twee gezichten. Aan de ene kant loop jij het risico dat je zelf een frauduleuze shop binnenstapt via een aanbeveling van ChatGPT, bijvoorbeeld bij het zoeken naar leveranciers of inkoopkortingen. Aan de andere kant kunnen jouw klanten worden misleid als zij via ChatGPT naar jouw concurrenten zoeken en bij een scammer terechtkomen. Het vertrouwen in AI-gedreven aanbevelingen neemt hierdoor af, wat impact heeft op elke ondernemer die ChatGPT inzet voor klantcontact of productadvies. Vooral in sectoren als e-commerce, dienstverlening en groothandel is alertheid geboden.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt om leveranciers of producten te vinden, wees dan extra kritisch op de aanbevelingen die het model geeft. Vraag ChatGPT altijd naar de bron van de informatie. Je kunt bijvoorbeeld zeggen: ‘Op basis van welke data raad je deze shop aan?’ Als het model geen duidelijke bron geeft of verwijst naar algemene webdata, beschouw de aanbeveling dan als onbetrouwbaar. Een mogelijkheid is om de aanbevolen shop eerst handmatig te controleren via een aparte zoekopdracht of door reviews op onafhankelijke platforms te checken.

Als je een webshop runt en ChatGPT inzet voor klantadvies, overweeg dan om de output van het model te filteren. Je zou een extra controlelaag kunnen inbouwen, bijvoorbeeld door een medewerker de aanbevolen links te laten verifiëren voordat ze naar klanten worden gestuurd. Een andere optie is om het model te trainen op een eigen, gecontroleerde dataset in plaats van op openbare webdata. Dit vermindert de kans dat data poisoning invloed heeft op jouw klantgesprekken.

Als je marketing of content laat genereren door ChatGPT, wees je ervan bewust dat het model mogelijk verwijzingen naar frauduleuze sites kan opnemen in teksten. Controleer altijd de hyperlinks die het model voorstelt, vooral als het gaat om productaanbevelingen of partnerverwijzingen. Je zou een script kunnen schrijven dat alle uitgaande links in de gegenereerde content automatisch scant op bekende fraudedomeinen, bijvoorbeeld via een API van een cybersecuritytool.

Als je een team aanstuurt dat ChatGPT gebruikt voor onderzoek, stel dan een protocol op voor het verifiëren van AI-uitkomsten. Laat teamleden altijd een tweede bron raadplegen voordat ze een aanbevolen shop of dienst gebruiken. Een eenvoudige regel is: vertrouw geen enkele link uit ChatGPT zonder deze eerst handmatig te openen en te controleren op veiligheidssignalen, zoals een ontbrekend SSL-certificaat of vage contactgegevens.

Bron: Bright