ChatGPT kan je klanten naar nepshops sturen die erop uit zijn om hun data te stelen. Oplichters beïnvloeden het algoritme van de chatbot door middel van LLM data poisoning, waardoor frauduleuze websites worden aanbevolen alsof het betrouwbare winkels zijn. Dit betekent dat je als ondernemer niet blind kunt vertrouwen op AI-advies, maar zelf moet controleren waar ChatGPT je naartoe stuurt.

Wat er aan de hand is

Oplichters hebben een nieuwe manier gevonden om hun slag te slaan: ze vergiftigen de data waar taalmodellen zoals ChatGPT op trainen. Dit heet LLM data poisoning. Door specifieke informatie in het model te injecteren, zorgen ze ervoor dat ChatGPT hun frauduleuze shops aanraadt aan gebruikers die om productadvies vragen. Het is een volgende stap in een trend die begon met SEO-manipulatie, waarbij oplichters zoekmachines misleidden. Nu richten ze zich direct op AI-chatbots, die door steeds meer mensen worden gebruikt als eerste bron voor aankoopadvies. Volgens Bright is dit geen theoretisch risico meer, maar een actuele dreiging.

Wat dit betekent

Voor ondernemers betekent dit dat je niet langer klakkeloos kunt vertrouwen op aanbevelingen van ChatGPT, ook niet als je de chatbot gebruikt voor marktonderzoek of productselectie. Als jij ChatGPT inzet om te bepalen welke leverancier of software je kiest, kan het zijn dat je wordt doorgestuurd naar een nepsite die erop uit is om je bedrijfsgegevens te stelen. Dit raakt niet alleen jouw eigen data, maar ook die van je klanten. Vooral bedrijven die afhankelijk zijn van online verkoop of data-gedreven beslissingen lopen risico. De impact is groot: een verkeerde aanbeveling kan leiden tot financiële schade, datalekken en reputatieverlies.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt voor productonderzoek, controleer dan altijd de aanbevolen websites voordat je er iets mee doet. Klik niet blind op links die de chatbot geeft. Open de site in een apart tabblad en check of de URL klopt, of de webwinkel een fysiek adres en KVK-nummer vermeldt, en of er reviews staan op onafhankelijke platforms zoals Trustpilot. Een mogelijkheid is om een aparte browser-extensie te gebruiken die verdachte sites markeert.

Als je een webshop runt en bang bent dat klanten via ChatGPT bij een nepshop met jouw producten terechtkomen, overweeg dan om actief je eigen merk te monitoren. Je zou kunnen testen wat ChatGPT antwoordt als iemand vraagt naar jouw productcategorie. Als de chatbot een frauduleuze concurrent aanraadt, kun je overwegen om dit te melden bij OpenAI. Een optie is ook om zelf een kennisbank op te zetten met correcte productinformatie, zodat ChatGPT die data mogelijk eerder oppikt dan de vergiftigde bronnen.

Als je een team aanstuurt dat AI gebruikt voor marketing of inkoop, is het verstandig om een protocol in te voeren. Spreek af dat AI-aanbevelingen altijd worden geverifieerd door een mens, vooral als het gaat om het delen van bedrijfsgegevens of het doen van aankopen. Je zou kunnen overwegen om een checklist te maken met controlepunten, zoals: staat de site in de Google Safe Browsing-database, is het SSL-certificaat geldig, en zijn er meldingen van phishing. Dit kost wat tijd, maar voorkomt dat een medewerker per ongeluk bedrijfsdata invoert op een nepsite.

Als je in de IT of beveiliging werkt, kun je onderzoeken of jouw bedrijf kwetsbaar is voor LLM data poisoning. Een mogelijkheid is om een eigen, afgeschermde AI-omgeving te gebruiken die alleen getrainde data bevat, in plaats van een openbare chatbot. Overweeg om medewerkers te trainen in het herkennen van AI-gedreven scams, zodat ze niet alleen op de chatbot vertrouwen maar ook kritisch blijven.

Bron: Bright