ChatGPT kan producten aanbevelen van oplichters die jouw data willen stelen. Dit gebeurt doordat scammers het algoritme van de chatbot manipuleren via een techniek die LLM data poisoning heet. Als ondernemer moet je weten dat een AI-aanbeveling niet automatisch betrouwbaar is, en dat je extra alert moet zijn voordat je op een link klikt of een product bestelt.

Wat er aan de hand is

Oplichters hebben een nieuwe manier gevonden om hun frauduleuze webshops onder de aandacht te brengen. Waar ze eerder via SEO (zoekmachineoptimalisatie) probeerden hoog te scoren in Google, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning beïnvloeden ze het algoritme van de chatbot. Het resultaat: ChatGPT raadt producten aan van nepshops die erop uit zijn om jouw gegevens te stelen. Dit is geen theoretisch risico, maar een actuele dreiging die Bright beschrijft op basis van eigen onderzoek. De techniek werkt doordat scammers specifieke content en links verspreiden die het model tijdens het trainen of updaten oppikt, waardoor de aanbevelingen legitiem lijken.

Wat dit betekent

Voor jou als MKB-ondernemer betekent dit dat je niet blind kunt vertrouwen op AI-advies, ook niet van een gevestigde naam als ChatGPT. Als je de chatbot gebruikt voor productonderzoek, prijsvergelijkingen of het vinden van leveranciers, loop je het risico dat je wordt doorverwezen naar een frauduleuze site. Dit kan leiden tot datadiefstal, financiële schade of het lekken van bedrijfsgevoelige informatie. Vooral als je snel een beslissing wilt nemen, bijvoorbeeld voor een dringende inkoop of een marketingcampagne, is de verleiding groot om een aanbeveling direct te volgen. De impact is groter dan bij een consument: een datalek kan je bedrijfsreputatie schaden en klanten kosten.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt voor productonderzoek, overweeg om de aanbevolen webshop altijd eerst handmatig te controleren. Kijk naar het domein, de contactgegevens en of er reviews bestaan op onafhankelijke platforms. Een mogelijkheid is om de URL te checken via een tool zoals de Fraudelijst van de politie of een browser-extensie die verdachte sites markeert. Je zou ook kunnen vragen aan ChatGPT om bronnen te vermelden, al is dat geen garantie.

Als je een team aanstuurt dat AI inzet voor inkoop of marketing, is het verstandig om een korte richtlijn op te stellen. Spreek af dat niemand direct op een AI-aanbeveling klikt zonder een extra verificatiestap. Een optie is om een vaste procedure in te bouwen: eerst de link openen in een veilige omgeving, zoals een sandbox of een aparte browser zonder ingelogde accounts. Overweeg om medewerkers te wijzen op signalen zoals onrealistische kortingen, slechte spelling of ontbrekende betaalmethoden.

Als je zelf content maakt of producten verkoopt, kun je nadenken over hoe jouw bedrijf beschermd blijft tegen deze vorm van manipulatie. Een mogelijkheid is om je eigen productinformatie zo te structureren dat deze niet eenvoudig kan worden vervalst of misbruikt door scammers. Je zou kunnen investeren in duidelijke, unieke beschrijvingen en afbeeldingen die moeilijk te kopiëren zijn. Daarnaast is het goed om klanten te informeren dat ze altijd via jouw officiële website moeten bestellen, niet via een link uit een chatbot.

Als je klantenservice of advies via AI automatiseert, test dan regelmatig of jouw systeem niet per ongeluk frauduleuze bronnen aanbeveelt. Een optie is om steekproefsgewijs de output van je chatbot te controleren op verdachte links. Overweeg om een whitelist van betrouwbare leveranciers of producten in te bouwen, zodat de AI alleen binnen die lijst aanbevelingen doet. Dit vergt wat technische inzet, maar kan veel ellende voorkomen.

Bron: Bright