ChatGPT kan je bedrijf of klanten naar oplichters sturen. Criminelen manipuleren het algoritme van de chatbot om frauduleuze webshops aan te bevelen, een techniek die LLM data poisoning heet. Dit is geen ver-van-je-bed-show: het raakt direct de betrouwbaarheid van AI-tools die jij of je team dagelijks gebruiken voor onderzoek, productvergelijkingen of klantadvies.

Wat er aan de hand is

Oplichters hebben een nieuwe methode gevonden om ChatGPT te misbruiken. Waar ze eerder via SEO (zoekmachineoptimalisatie) mensen naar valse websites lokten, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning beïnvloeden ze de uitkomsten van de chatbot, zodat deze frauduleuze shops aanraadt. Volgens Bright is dit een directe escalatie van de bekende SEO-scams: dezelfde truc, maar nu toegepast op AI. Het gevolg is dat gebruikers die ChatGPT vragen om een productaanbeveling, onbedoeld bij oplichters terechtkomen die uit zijn op persoonlijke gegevens of betalingen.

Wat dit betekent

Voor ondernemers betekent dit dat je niet blind kunt vertrouwen op AI-aanbevelingen, ook niet van een gevestigde tool als ChatGPT. Als jij of je medewerkers de chatbot gebruiken om leveranciers, software of producten te vergelijken, loop je het risico dat de suggesties zijn gemanipuleerd. Dit is extra gevaarlijk voor MKB’ers die geen aparte security-afdeling hebben. De impact is tweeledig: je kunt zelf worden opgelicht, maar ook je klanten kunnen worden misleid als je ChatGPT inzet voor klantenservice of productadvies. Het ondermijnt het vertrouwen in AI als betrouwbare bron voor zakelijke beslissingen.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt om leveranciers of producten te onderzoeken, is het verstandig om de aanbevelingen altijd te verifiëren. Een mogelijkheid is om de URL van de aanbevolen website handmatig te controleren op betrouwbaarheid. Je zou kunnen kijken of de site een fysiek adres, KVK-nummer en contactgegevens vermeldt. Overweeg om een tweede, onafhankelijke bron te raadplegen, zoals een reviewplatform of een vakpublicatie, voordat je een aankoop doet of een samenwerking aangaat.

Als je een team aanstuurt dat ChatGPT gebruikt voor marktonderzoek, is het goed om een protocol in te stellen. Een optie is om medewerkers te instrueren dat ze nooit blindelings op AI-suggesties afgaan, maar altijd een sanity check doen. Je zou kunnen overwegen om een lijst met vertrouwde bronnen te maken die ze naast ChatGPT gebruiken. Overweeg om regelmatig een korte training te geven over hoe je phishing of frauduleuze shops herkent, zodat het team alert blijft.

Als je ChatGPT inzet voor klantenservice of productadvies op je website, is het zaak om de output te monitoren. Een mogelijkheid is om een menselijke check in te bouwen voordat AI-gegenereerde aanbevelingen naar klanten gaan. Je zou kunnen experimenteren met het beperken van de bronnen die ChatGPT mag gebruiken, bijvoorbeeld door een eigen database met goedgekeurde producten te koppelen. Overweeg om klanten te waarschuwen dat aanbevelingen door AI worden gegenereerd en dat ze altijd de officiële website moeten controleren.

Als je zelf een webshop runt en bang bent dat concurrenten of oplichters jouw producten via ChatGPT kunnen manipuleren, is het slim om je eigen online reputatie actief te monitoren. Een optie is om regelmatig te testen wat ChatGPT adviseert over jouw productcategorie. Je zou kunnen overwegen om je eigen productinformatie te optimaliseren voor AI-modellen, bijvoorbeeld door gestructureerde data op je site te plaatsen. Overweeg om een security-audit uit te voeren op je website om te voorkomen dat deze zelf wordt misbruikt voor data poisoning.

Bron: Bright