Het antwoord is dat oplichters ChatGPT gebruiken om nepshops aan te bevelen via een techniek die LLM data poisoning heet. Dit betekent dat je als ondernemer niet blindelings kunt vertrouwen op aanbevelingen van AI, maar zelf moet controleren of een webshop betrouwbaar is.

Wat er aan de hand is

Volgens Bright hebben scammers een nieuwe manier gevonden om hun frauduleuze webshops onder de aandacht te brengen. Waar ze eerder via SEO (zoekmachineoptimalisatie) probeerden hoog te scoren in Google, richten ze zich nu op taalmodellen zoals ChatGPT. Ze gebruiken LLM data poisoning: het bewust manipuleren van de data waarop het model is getraind of waarnaar het verwijst. Hierdoor kan ChatGPT producten of shops aanraden die in werkelijkheid zijn opgezet om je data te stelen of je geld afhandig te maken. Het nieuws laat zien dat AI-aanbevelingen niet per definitie veilig of onpartijdig zijn.

Wat dit betekent

Voor jou als MKB’er of professional betekent dit dat je een extra check moet doen voordat je een ChatGPT-aanbeveling opvolgt. Het is niet langer genoeg om te denken: ‘het staat in ChatGPT, dus het zal wel kloppen.’ Dit raakt vooral ondernemers die AI gebruiken voor productonderzoek, het vinden van leveranciers of het genereren van marketingcontent. Als je klanten ook via AI naar jouw bedrijf worden geleid, kan datapoisoning indirect jouw reputatie schaden als je onbewust naar frauduleuze partijen verwijst. De impact is het grootst in sectoren waar vertrouwen en transparantie cruciaal zijn, zoals e-commerce, dienstverlening en B2B-inkoop.

Hoe je dit kunt toepassen

Als je een webshop runt of producten inkoopt via aanbevelingen van ChatGPT. Je zou kunnen beginnen met het altijd controleren van de domeinnaam van een aanbevolen shop. Kijk of de URL overeenkomt met de officiële naam van het bedrijf. Een optie is om de shop handmatig te openen in een aparte browser en te letten op signalen zoals ontbrekende contactgegevens, vage algemene voorwaarden of onrealistisch lage prijzen. Overweeg om een tool zoals een WHOIS-check te gebruiken om te zien hoe oud de website is; een shop van een paar dagen oud is vaak verdacht.

Als je een team aanstuurt dat AI gebruikt voor marktonderzoek. Een mogelijkheid is om een protocol in te voeren waarbij elke AI-aanbevolen bron wordt geverifieerd voordat je deze deelt of gebruikt. Je zou kunnen afspreken dat teamleden altijd de officiële website van een leverancier bezoeken, niet alleen de link die ChatGPT geeft. Overweeg om een lijst met betrouwbare leveranciers bij te houden en die te vergelijken met AI-suggesties.

Als je zelf content genereert met ChatGPT voor je bedrijf. Je zou kunnen controleren of de bronnen die ChatGPT noemt bij productaanbevelingen daadwerkelijk bestaan en legitiem zijn. Een optie is om een stap toe te voegen in je contentworkflow: vraag ChatGPT om de bronnen expliciet te vermelden en check die handmatig. Overweeg om in je eigen content een disclaimer op te nemen dat aanbevelingen niet door AI zijn gegenereerd zonder menselijke controle.

Als je klanten adviseert of producten aanbeveelt via AI. Een mogelijkheid is om je eigen AI-tool te trainen op een gecontroleerde dataset van betrouwbare leveranciers, in plaats van te vertrouwen op algemene modellen. Je zou kunnen samenwerken met brancheorganisaties om een geverifieerde database op te zetten. Overweeg om klanten te waarschuwen dat AI-aanbevelingen niet altijd veilig zijn en geef ze een stappenplan mee om zelf te controleren.

Bron: Bright