Het antwoord

Oplichters manipuleren ChatGPT om hun frauduleuze webshops aan te bevelen. Dit betekent dat jouw klanten via AI onbedoeld bij criminelen terecht kunnen komen, met risico op datadiefstal en financiële schade.

Wat er aan de hand is

Volgens Bright hebben scammers een nieuwe techniek ontwikkeld: LLM data poisoning. Waar oplichters eerder via SEO (zoekmachineoptimalisatie) hun frauduleuze sites hoog in Google kregen, richten ze zich nu op taalmodellen zoals ChatGPT. Door het algoritme te beïnvloeden, zorgen ze dat ChatGPT hun schadelijke webshops aanraadt aan nietsvermoedende gebruikers. Het gaat om shops die er betrouwbaar uitzien, maar in werkelijkheid zijn opgezet om persoonlijke gegevens en betaalgegevens te stelen. Deze vorm van manipulatie is lastig te detecteren, omdat de aanbeveling van ChatGPT een vals gevoel van veiligheid geeft.

Wat dit betekent

Voor ondernemers betekent dit een nieuw risico in de klantreis. Als jouw klanten ChatGPT gebruiken voor productaanbevelingen, kunnen ze worden doorgestuurd naar nepshops die zich voordoen als legitieme bedrijven. Dit kan leiden tot reputatieschade als klanten denken dat jij hen naar een onveilige site hebt verwezen, of als jouw eigen merk wordt nagemaakt in een frauduleuze winkel. Vooral MKB’ers in de e-commerce, dienstverlening en retail moeten alert zijn. De impact is groter dan bij traditionele phishing, omdat ChatGPT een gezaghebbende bron is die gebruikers snel vertrouwen.

Hoe je dit kunt toepassen

Als je een webshop runt, overweeg dan om je klanten actief te wijzen op het risico van AI-aanbevelingen. Je zou een korte waarschuwing op je site kunnen plaatsen, bijvoorbeeld: ‘Gebruik je ChatGPT voor productadvies? Controleer altijd of de aanbevolen winkel echt is.’ Dit helpt klanten om kritisch te blijven, ook als ze via AI bij jouw concurrenten uitkomen.

Als je een team aanstuurt dat klantcontact verzorgt, is het verstandig om medewerkers te trainen in het herkennen van frauduleuze shops die via AI worden gepusht. Een mogelijkheid is om een checklist te maken met signalen: onrealistisch lage prijzen, geen duidelijke contactgegevens, vreemde URL’s. Zo kunnen zij klanten waarschuwen die vragen hebben over een aanbevolen product.

Als je in de marketing of sales werkt, kun je overwegen om zelf je producten of diensten te laten controleren door ChatGPT. Vraag het model om een aanbeveling in jouw branche en kijk of er onbekende of verdachte shops tussen zitten. Dit geeft je een beeld van hoe jouw markt eruitziet in de ogen van AI, en of oplichters actief zijn.

Als je verantwoordelijk bent voor de online veiligheid van je bedrijf, is een optie om een monitoringstool in te zetten die verdachte domeinen signaleert die jouw merknaam gebruiken. Veel van deze tools zijn betaalbaar voor MKB’ers en kunnen waarschuwen als er een nepshop opduikt die via AI wordt gepromoot. Zo kun je snel actie ondernemen, bijvoorbeeld door een melding te doen bij de politie of hostingprovider.

Als je klanten adviseert over online aankopen, kun je een eenvoudige vuistregel meegeven: vertrouw geen enkele AI-aanbeveling blind, maar check altijd de website zelf. Kijk naar reviews op onafhankelijke platforms, controleer het adres en zoek naar keurmerken. Dit is een kleine stap die veel ellende kan voorkomen.

Bron: Bright