Het antwoord: Fraudeurs manipuleren ChatGPT om valse webshops aan te bevelen, een techniek die LLM data poisoning heet. Als MKB’er loop je het risico dat jouw klanten via AI naar oplichters worden gestuurd, of dat jouw eigen bedrijf ten onrechte als fraudeur wordt bestempeld. Dit artikel legt uit hoe je dit herkent en wat je ertegen kunt doen.

Wat er aan de hand is

Volgens Bright hebben oplichters een nieuwe manier gevonden om consumenten te misleiden: ze beïnvloeden de uitkomsten van taalmodellen zoals ChatGPT. Waar fraudeurs eerder via SEO (zoekmachineoptimalisatie) hun schadelijke websites hoog in Google kregen, richten ze zich nu op AI-chatbots. Door middel van LLM data poisoning voeden ze het model met misleidende informatie, waardoor ChatGPT producten of shops aanraadt die in werkelijkheid zijn opgezet om data te stelen. Het is een verschuiving van traditionele webfraude naar een aanval op de AI-systemen die steeds meer mensen gebruiken voor aankoopadvies.

Wat dit betekent

Voor ondernemers betekent dit dat je niet blind kunt vertrouwen op aanbevelingen van AI, ook niet als die van een vertrouwd platform als ChatGPT komen. Als jij of je klanten ChatGPT gebruiken om producten te zoeken of leveranciers te checken, kan het advies leiden naar een frauduleuze site. Dit raakt met name kleine webshops en dienstverleners die afhankelijk zijn van online vindbaarheid. Het kan ook betekenen dat jouw eigen bedrijf onterecht als onbetrouwbaar wordt bestempeld als oplichters negatieve informatie over jouw merk in het model stoppen. De impact is dubbel: je verliest niet alleen potentiële klanten aan scammers, maar je reputatie kan ook worden beschadigd zonder dat je het doorhebt.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productbeschrijvingen of klantadvies, controleer dan altijd de bronnen die het model noemt. Vraag ChatGPT expliciet naar de herkomst van een aanbevolen product of shop. Een mogelijkheid is om in je prompt te vragen: ‘Op basis van welke bronnen raad je dit aan?’ Als het model geen duidelijke, controleerbare bronnen geeft, wees dan extra voorzichtig. Overweeg om een interne checklist te maken voor je team: check altijd de URL op spelfouten of ongebruikelijke extensies, en test de shop met een proefaankoop via een wegwerp-creditcard.

Als je een team aanstuurt dat AI inzet voor marketing of klantenservice, zorg dan dat je medewerkers weten dat ChatGPT niet altijd betrouwbaar is bij productaanbevelingen. Een optie is om een korte training te geven over LLM data poisoning. Leg uit dat oplichters forums, nepreviews en nepblogs kunnen vullen om het model te beïnvloeden. Je zou kunnen afspreken dat alle AI-adviezen over externe shops of producten worden gecontroleerd met een tweede bron, zoals een onafhankelijke reviewsite of de officiële KvK-registratie.

Als je in de zorg of een andere gereguleerde sector werkt, waar vertrouwen essentieel is, overweeg dan om ChatGPT alleen te gebruiken voor interne documentatie en niet voor klantgerichte aanbevelingen. De gevolgen van een verkeerd advies zijn hier groter. Een praktische stap is om een eigen, afgeschermde AI-omgeving te gebruiken die alleen is getraind op door jou goedgekeurde data. Dit voorkomt dat externe, gemanipuleerde informatie je processen binnensluipt.

Als je klanten vraagt om ChatGPT te gebruiken voor het vinden van jouw producten, waarschuw hen dan actief voor deze nieuwe vorm van fraude. Plaats een bericht op je website of in je nieuwsbrief: ‘Let op: ChatGPT kan worden misleid door oplichters. Check altijd of je op de officiële site van [bedrijfsnaam] bent.’ Dit versterkt het vertrouwen en beschermt je klanten.

Bron: Bright