Het antwoord is simpel: oplichters gebruiken een techniek genaamd LLM data poisoning om ChatGPT te laten denken dat hun frauduleuze webshops legitiem zijn. Als jij of je klanten via ChatGPT producten zoeken, kan de AI je naar een nepshop sturen die erop uit is om je data te stelen. Dit is geen toekomstmuziek, maar gebeurt nu.

Wat er aan de hand is

Waar oplichters eerder vooral via SEO (zoekmachineoptimalisatie) probeerden bovenaan in Google te staan, richten ze zich nu op taalmodellen zoals ChatGPT. Ze beïnvloeden het algoritme door middel van LLM data poisoning: het bewust vervuilen van de data waarop het model is getraind of waarnaar het verwijst. Hierdoor kan ChatGPT producten aanbevelen van websites die niet bestaan of die zijn opgezet om bezoekers op te lichten. Het nieuws komt van Bright, dat meldt dat deze vorm van manipulatie steeds vaker voorkomt. Het is een nieuwe stap in de evolutie van online fraude, waarbij cybercriminelen meebewegen met de technologie die consumenten en bedrijven gebruiken.

Wat dit betekent

Voor jou als MKB’er betekent dit dat je niet blind kunt vertrouwen op aanbevelingen van ChatGPT, ook niet als je het gebruikt voor marktonderzoek of het vinden van leveranciers. Als je bijvoorbeeld zoekt naar ‘goedkope verpakkingsmaterialen’ of ‘betrouwbare hostingpartners’, kan de AI je naar een frauduleuze site sturen. Hetzelfde geldt voor je klanten: als zij via ChatGPT naar jouw producten zoeken, kunnen ze worden omgeleid naar een nepshop die zich voordoet als jouw bedrijf. Dit schaadt niet alleen hun vertrouwen, maar kan ook leiden tot datalekken en reputatieschade. De impact is het grootst voor bedrijven die afhankelijk zijn van online verkoop of klantinteractie via AI-tools.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productonderzoek, overweeg dan om altijd de aanbevolen URL handmatig te controleren voordat je er iets mee doet. Kijk of de domeinnaam klopt, of de site een SSL-certificaat heeft (het hangslotje in de adresbalk) en of er contactgegevens en algemene voorwaarden zijn. Je zou een interne checklist kunnen maken voor je team: elke link uit ChatGPT moet worden geverifieerd voordat je hem deelt of gebruikt.

Als je een team aanstuurt dat ChatGPT inzet voor klantenservice of marketing, is het verstandig om duidelijke richtlijnen op te stellen. Leg uit dat de AI geen feitenchecker is en dat aanbevolen producten of diensten altijd door een mens moeten worden beoordeeld. Een mogelijkheid is om een tweede persoon te laten meekijken bij het gebruik van AI-output, vooral als het gaat om het doorverwijzen van klanten naar externe partijen. Dit voorkomt dat je per ongeluk een frauduleuze site promoot.

Als je in de zorg of een andere vertrouwelijke sector werkt, wees dan extra voorzichtig met het gebruik van ChatGPT voor het vinden van leveranciers of software. Oplichters kunnen zich voordoen als betrouwbare partijen en via de AI toegang proberen te krijgen tot gevoelige data. Overweeg om alleen gebruik te maken van aanbevelingen uit brancheverenigingen of van collega’s die je kent, en gebruik AI alleen als eerste indicatie, niet als eindadvies.

Als je klanten via ChatGPT naar jouw bedrijf kunnen worden geleid, is het slim om zelf actief te worden in de AI-omgeving. Je zou kunnen overwegen om je eigen productinformatie en URL’s te laten indexeren door ChatGPT, zodat de AI jouw officiële site aanbeveelt in plaats van een nepshop. Dit doe je door gestructureerde data op je website te plaatsen en ervoor te zorgen dat je content actueel en compleet is. Een optie is om een SEO-specialist in te schakelen die ervaring heeft met AI-optimalisatie.

Bron: Bright