ChatGPT kan je klanten naar frauduleuze webshops sturen die erop uit zijn om hun data te stelen. Oplichters manipuleren het taalmodel door middel van LLM data poisoning, een techniek waarmee ze het algoritme laten geloven dat hun malafide sites betrouwbare aanbiedingen zijn. Dit is geen toekomstscenario: het gebeurt nu, en het raakt ook jouw bedrijf als je ChatGPT gebruikt voor klantadvies of productaanbevelingen.

Wat er aan de hand is

Volgens Bright hebben oplichters een nieuwe tactiek gevonden om consumenten te misleiden. Waar ze eerder via SEO (zoekmachineoptimalisatie) frauduleuze websites hoog in Google-resultaten kregen, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning voeden ze het model met misleidende informatie, waardoor ChatGPT producten of shops aanbeveelt die in werkelijkheid zijn opgezet om persoonsgegevens te stelen. Het is een verschuiving van traditionele zoekmachinemanipulatie naar het beïnvloeden van AI-chatbots, die steeds vaker worden gebruikt voor aankoopadvies.

Wat dit betekent

Voor jou als MKB’er betekent dit dat je niet blind kunt vertrouwen op aanbevelingen van ChatGPT, zeker niet als je het inzet voor klantcontact of productadvies. Als een klant via jouw website een chatbot gebruikt die draait op ChatGPT, kan die chatbot onbedoeld doorverwijzen naar een valse shop. Dat schaadt niet alleen de klant, maar ook jouw reputatie. Vooral in sectoren zoals e-commerce, dienstverlening en klantenservice is het risico groot. De impact is concreet: verlies van klantvertrouwen, mogelijke datalekken bij klanten, en juridische aansprakelijkheid als je niet kunt aantonen dat je adequate veiligheidsmaatregelen hebt genomen.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productaanbevelingen, overweeg om een extra controlelaag in te bouwen. Je zou een script kunnen schrijven dat elke URL die ChatGPT voorstelt, automatisch checkt tegen een lijst van bekende malafide domeinen. Een optie is om een tool als Google Safe Browsing API te integreren, die verdachte links blokkeert voordat ze bij de klant komen. Dit kost wat ontwikkeltijd, maar voorkomt dat je onbedoeld oplichters promoot.

Als je een team aanstuurt dat ChatGPT inzet voor klantadvies, kun je een interne richtlijn opstellen waarin je medewerkers leert om nooit blind te vertrouwen op AI-aanbevelingen. Een mogelijkheid is om een checklist te maken: controleer altijd de domeinnaam van een aanbevolen shop, kijk of er contactgegevens en een fysiek adres staan, en test of de site een SSL-certificaat heeft. Overweeg om maandelijks een korte training te geven over nieuwe oplichtingstechnieken zoals LLM data poisoning.

Als je in de marketing werkt en ChatGPT gebruikt voor contentcreatie, wees dan extra alert op links die het model genereert. Een praktische stap is om alle uitgaande links in door AI gegenereerde teksten handmatig te controleren voordat je ze publiceert. Je zou een proces kunnen opzetten waarbij een collega de links verifieert, of een tool gebruiken die de reputatie van domeinen checkt. Dit lijkt misschien omslachtig, maar het beschermt je merk tegen associatie met frauduleuze partijen.

Als je een chatbot op je website hebt die draait op ChatGPT, overweeg om de output te filteren op basis van een whitelist van goedgekeurde domeinen. Een optie is om alleen links naar je eigen producten of naar vertrouwde partners toe te staan. Je kunt ook een waarschuwing toevoegen aan de chatbot, zoals ‘Controleer altijd de betrouwbaarheid van externe links’. Dit vermindert het risico dat klanten worden doorgestuurd naar malafide shops.

Bron: Bright