Het antwoord: Oplichters hebben een nieuwe manier gevonden om ChatGPT te misbruiken: ze vergiftigen de data waar het taalmodel op is getraind, waardoor het frauduleuze webshops aanbeveelt. Dit betekent dat je als ondernemer niet blind kunt vertrouwen op AI-advies voor producten of diensten, en dat je zelf alert moet zijn op signalen van oplichting.

Wat er aan de hand is

Volgens Bright hebben scammers hun pijlen gericht op taalmodellen zoals ChatGPT. Waar ze eerder via SEO (zoekmachineoptimalisatie) mensen naar frauduleuze websites lokten, gebruiken ze nu een techniek die LLM data poisoning wordt genoemd. Dit houdt in dat ze opzettelijk misleidende informatie in de trainingsdata van het model stoppen. Het gevolg is dat ChatGPT producten of winkels gaat aanbevelen die in werkelijkheid zijn opgezet om gebruikers op te lichten en hun data te stelen. Het is een sluipende vorm van manipulatie die lastig te detecteren is, omdat het advies van ChatGPT er betrouwbaar uitziet.

Wat dit betekent

Voor ondernemers en professionals in het MKB is dit een directe wake-up call. Als jij of je team ChatGPT gebruikt om leveranciers, producten of software te vinden, loop je het risico dat je wordt doorgestuurd naar een frauduleuze site. Dit kan leiden tot financiële schade, datalekken of reputatieschade als je klanten via jouw advies bij een oplichter terechtkomen. Vooral sectoren die afhankelijk zijn van online inkoop of het vinden van nicheproducten, zoals e-commerce, inkoop of marketing, lopen extra risico. Het vertrouwen in AI-gestuurde aanbevelingen staat onder druk, en dat vraagt om een kritische blik.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt om producten te sourcen, is het verstandig om nooit blindelings een aanbevolen winkel te vertrouwen. Controleer altijd of de website een fysiek adres, een KvK-nummer en een SSL-certificaat heeft. Je zou kunnen overwegen om een vaste lijst van betrouwbare leveranciers op te stellen en ChatGPT alleen te gebruiken voor inspiratie, niet voor de uiteindelijke aankoop.

Als je een team aanstuurt dat AI inzet voor marktonderzoek, kun je een protocol instellen waarin staat dat AI-aanbevelingen altijd worden geverifieerd voordat ze worden gebruikt. Een optie is om een collega te vragen de bronnen te checken op rode vlaggen zoals extreem lage prijzen, slechte reviews of ontbrekende contactgegevens. Overweeg om een interne richtlijn te maken: ‘AI is een startpunt, geen eindpunt.’

Als je in de marketing werkt en content laat genereren door ChatGPT, let dan op of het model ongebruikelijke producten of shops aanprijst. Als je een aanbeveling ziet die niet logisch is in de context, zoals een dure designerjas voor een habbekrats, is dat een alarmsignaal. Je zou kunnen overwegen om een tweede check in te bouwen door de aanbevolen URL handmatig te bezoeken en te scannen op verdachte elementen.

Als je klanten adviseert via AI-chatbots op je eigen website, is het belangrijk om te weten dat jouw klanten mogelijk ook worden blootgesteld aan dit risico als je een generiek model gebruikt zonder extra veiligheidslagen. Een mogelijkheid is om de chatbot te trainen op een eigen, gecontroleerde dataset, zodat hij alleen producten of diensten aanbeveelt die jij hebt goedgekeurd. Overweeg om een disclaimer toe te voegen dat de chatbot geen externe shops aanprijst.

De praktische toepassing hangt af van jouw situatie, maar de kern is: vertrouw AI niet klakkeloos, en leer je team de signalen van oplichting te herkennen.

Bron: Bright