Het antwoord: Oplichters hebben een nieuwe manier gevonden om ChatGPT te misbruiken: ze vergiftigen de data waar het model op traint, zodat het frauduleuze webshops aanbeveelt. Voor jou als ondernemer betekent dit dat je niet blind kunt vertrouwen op AI-aanbevelingen, en dat je zelf moet controleren waar ChatGPT je klanten naartoe stuurt.

Wat er aan de hand is

Waar oplichters eerst via SEO (zoekmachineoptimalisatie) probeerden om nepshops hoog in Google te krijgen, richten ze zich nu op taalmodellen zoals ChatGPT. Ze gebruiken een techniek die LLM data poisoning heet: ze voegen misleidende informatie toe aan de data waar het model mee getraind of gevoed wordt. Het doel is om ChatGPT zover te krijgen dat het producten aanraadt van frauduleuze shops die erop uit zijn om persoonsgegevens of betaalgegevens te stelen. Volgens Bright is dit een nieuwe stap in de evolutie van online oplichting, waarbij de focus verschuift van traditionele zoekmachines naar AI-chatbots.

Wat dit betekent

Voor jou als MKB’er heeft dit directe gevolgen. Als jij of je medewerkers ChatGPT gebruiken om productaanbevelingen te doen, leveranciers te vinden of concurrentieanalyse uit te voeren, loop je het risico dat je wordt doorgestuurd naar een nepshop. Dat kan leiden tot datalekken, financiële schade of reputatieschade als je klanten via jouw advies bij een oplichter terechtkomen. Vooral als je actief bent in e-commerce, marketing of inkoop, is dit een risico dat je serieus moet nemen. Het vertrouwen in AI-gestuurde aanbevelingen staat onder druk, en jij moet kunnen garanderen dat de informatie die je deelt betrouwbaar is.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productbeschrijvingen of aanbevelingen, overweeg dan om altijd een extra controle in te bouwen. Vraag ChatGPT niet alleen om een product aan te raden, maar ook om de bron van die aanbeveling te geven. Controleer vervolgens handmatig of de genoemde webshop legitiem is. Kijk naar factoren zoals een fysiek adres, klantrecensies op onafhankelijke platforms en een veilige betaalomgeving (https). Je zou kunnen overwegen om een vaste procedure in te stellen: elke AI-aanbeveling wordt eerst door een medewerker gecheckt voordat hij wordt gedeeld met klanten.

Als je een team aanstuurt dat regelmatig ChatGPT gebruikt voor marktonderzoek of concurrentieanalyse, is het verstandig om een korte training te geven over LLM data poisoning. Leg uit dat ChatGPT niet altijd de waarheid spreekt en dat oplichters actief proberen het model te manipuleren. Een optie is om een lijst met betrouwbare bronnen op te stellen die je team altijd moet raadplegen naast ChatGPT, zoals brancheverenigingen of erkende marktonderzoeksbureaus. Zo voorkom je dat je per ongeluk een frauduleuze partij als concurrent of leverancier bestempelt.

Als je in de marketing werkt en ChatGPT inzet voor het genereren van content of het vinden van samenwerkingspartners, wees dan extra alert op aanbevelingen voor specifieke tools, diensten of webshops. Overweeg om een tweede, onafhankelijke AI-tool te gebruiken om dezelfde vraag te stellen en de antwoorden te vergelijken. Als beide tools naar dezelfde onbekende shop verwijzen, is dat een rode vlag. Je zou ook kunnen experimenteren met het toevoegen van een instructie in je prompt, zoals: ‘Geef alleen aanbevelingen van shops die minimaal twee jaar bestaan en een KvK-nummer hebben.’ Dit verkleint de kans dat je een nepshop voorgeschoteld krijgt.

Bron: Bright