Het antwoord is dat oplichters ChatGPT manipuleren om frauduleuze webshops aan te bevelen, een techniek die LLM data poisoning heet. Voor ondernemers betekent dit dat je niet blind kunt vertrouwen op AI-aanbevelingen voor producten of leveranciers, omdat die je naar sites kunnen leiden die erop uit zijn om data te stelen.

Wat er aan de hand is

Volgens Bright gebruiken oplichters een techniek genaamd LLM data poisoning om ChatGPT te beïnvloeden. Waar ze eerder via SEO (zoekmachineoptimalisatie) mensen naar frauduleuze websites lokten, richten ze zich nu op taalmodellen zoals ChatGPT. Door het algoritme te manipuleren, zorgen ze ervoor dat ChatGPT producten aanraadt van webshops die in werkelijkheid zijn opgezet om persoonsgegevens of betaalgegevens te stelen. Het is een nieuwe stap in de evolutie van online oplichting, die eerder vooral via zoekmachines en social media plaatsvond.

Wat dit betekent

Voor MKB’ers die ChatGPT gebruiken voor productonderzoek, inkoopadvies of het vinden van leveranciers, is dit een directe bedreiging. Als je een AI vraagt om een betrouwbare webshop voor een bepaald product aan te bevelen, kun je een frauduleuze site krijgen die er professioneel uitziet maar je data steelt. Dit raakt niet alleen jou als ondernemer, maar ook je klanten als je doorverwijst naar zulke shops. De impact is het grootst voor bedrijven in e-commerce, inkoop en marketing, waar snelheid en vertrouwen in AI-aanbevelingen centraal staan.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productonderzoek, overweeg dan om altijd handmatig de domeinnaam en contactgegevens van een aanbevolen site te controleren. Kijk of het adres klopt met de officiële bedrijfsnaam en of er een fysiek adres en telefoonnummer staan vermeld. Een optie is om een aparte browser of incognitomodus te gebruiken om de site te openen, zodat je geen cookies of opgeslagen gegevens riskeert.

Als je een team aanstuurt dat ChatGPT inzet voor inkoop of leveranciersselectie, zou je een eenvoudige checklist kunnen maken. Laat teamleden altijd drie dingen verifiëren voordat ze een aanbevolen site gebruiken: de domeinnaam (let op typfouten zoals ‘amaz0n’ in plaats van ‘amazon’), de aanwezigheid van een SSL-certificaat (het slotje in de adresbalk) en de contactpagina. Dit kost een paar seconden, maar kan datalekken voorkomen.

Als je in de marketing werkt en ChatGPT gebruikt om content te maken met productlinks, is het verstandig om alle gegenereerde links te testen voordat je ze publiceert. Een mogelijkheid is om een gratis tool zoals VirusTotal te gebruiken om de URL te scannen op bekende malware of phishing. Overweeg ook om in je prompts expliciet te vragen naar ‘betrouwbare, geverifieerde bronnen’ en vermijd vage termen zoals ‘goedkope aanbiedingen’.

Als je klanten adviseert via een chatbot of AI-assistent, wees dan transparant over de beperkingen. Je zou een disclaimer kunnen toevoegen zoals ‘Deze aanbeveling is gegenereerd door AI en kan fouten bevatten. Controleer altijd de betrouwbaarheid van de website voordat je gegevens deelt.’ Dit beschermt niet alleen je klanten, maar ook jouw reputatie als er iets misgaat.

Bron: Bright