ChatGPT kan je bedrijf en klanten onbedoeld naar frauduleuze shops leiden. Oplichters gebruiken een techniek genaamd LLM data poisoning om het model te manipuleren, waardoor het nepsites aanbeveelt die erop uit zijn om data te stelen. Dit is geen theoretisch risico, maar een actuele dreiging die je als ondernemer serieus moet nemen.

Wat er aan de hand is

Volgens Bright hebben oplichters hun strategie verlegd. Waar ze eerder via SEO (zoekmachineoptimalisatie) mensen naar frauduleuze websites lokten, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning beïnvloeden ze de uitkomsten van het algoritme. Dit houdt in dat ze specifieke data in het model injecteren, waardoor ChatGPT producten van nepshops gaat aanraden. Deze shops zijn ontworpen om bezoekers te misleiden en persoonlijke of financiële gegevens te stelen. Het is een nieuwe, geraffineerde vorm van oplichting die gebruikmaakt van het vertrouwen dat gebruikers in AI-assistenten hebben.

Wat dit betekent

Voor jou als ondernemer betekent dit dat je niet blind kunt vertrouwen op aanbevelingen van ChatGPT, vooral niet als het gaat om producten, diensten of leveranciers. Als je ChatGPT gebruikt voor marktonderzoek, concurrentieanalyse of het vinden van nieuwe zakelijke partners, loop je het risico dat je wordt doorverwezen naar een scam. Dit kan leiden tot financiële schade, datalekken of reputatieschade als je klanten via jouw advies in de val lopen. Vooral in sectoren waar vertrouwen cruciaal is, zoals e-commerce, financiële dienstverlening of B2B-dienstverlening, is dit een serieus aandachtspunt. Het onderstreept dat AI-modellen geen onfeilbare bron zijn, maar een hulpmiddel dat je kritisch moet blijven bevragen.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productonderzoek, overweeg dan om altijd een extra verificatiestap in te bouwen. Vraag ChatGPT niet alleen om een aanbeveling, maar ook om de bron of URL van de aanbevolen shop. Controleer die URL vervolgens handmatig op verdachte kenmerken, zoals een afwijkende domeinnaam, ontbrekende contactgegevens of een onprofessionele uitstraling. Je zou ook een aparte, vertrouwde lijst van leveranciers kunnen bijhouden die je als referentie gebruikt.

Als je een team aanstuurt dat ChatGPT inzet voor klantcontact of marketing, is het verstandig om duidelijke richtlijnen op te stellen. Leg uit dat AI-uitkomsten niet klakkeloos overgenomen mogen worden, vooral niet bij het aanbevelen van externe partijen. Een mogelijkheid is om een interne controleprocedure in te voeren: elk voorstel van ChatGPT wordt eerst door een teamlid gecheckt voordat het wordt gedeeld met klanten of gebruikt in campagnes. Dit verkleint de kans dat je onbedoeld een scam promoot.

Als je in de zorg of een andere vertrouwelijke sector werkt, wees dan extra alert. ChatGPT kan worden ingezet om informatie te vinden over hulpmiddelen, software of diensten. Een scam die via het model wordt aanbevolen, kan niet alleen leiden tot datadiefstal, maar ook tot schending van privacyregelgeving zoals de AVG. Overweeg om voor gevoelige zoekopdrachten een aparte, beveiligde zoekomgeving te gebruiken, zoals een interne database of een vertrouwde vakbron, in plaats van uitsluitend op ChatGPT te vertrouwen.

Als je klanten adviseert over tools of diensten, wees dan transparant over hoe je tot je aanbevelingen komt. Als je ChatGPT hebt gebruikt, vermeld dit dan en raad klanten aan om zelf ook een check te doen. Je zou een korte checklist kunnen maken met punten waar ze op moeten letten, zoals de reputatie van de aanbieder, beoordelingen op onafhankelijke platforms en de beveiliging van de website. Dit versterkt het vertrouwen en beschermt zowel jouw bedrijf als je klanten.

Bron: Bright