ChatGPT kan door oplichters worden gemanipuleerd om frauduleuze webshops aan te bevelen. Dit gebeurt via een techniek die LLM data poisoning heet, waarbij scammers het algoritme beïnvloeden om hun eigen schadelijke links te pushen. Voor ondernemers betekent dit dat zowel hun eigen AI-gebruik als dat van hun klanten risico loopt.

Wat er aan de hand is

Waar oplichters eerder vooral via SEO (zoekmachineoptimalisatie) probeerden mensen naar valse shops te lokken, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning voeden ze het algoritme met misleidende informatie, waardoor ChatGPT frauduleuze producten of shops aanbeveelt alsof het legitieme suggesties zijn. Het probleem is dat gebruikers deze aanbevelingen vaak als betrouwbaar beschouwen, omdat ze van een AI-assistent komen. Volgens Bright is dit een groeiend probleem dat lastig te detecteren is voor zowel gebruikers als platformbeheerders.

Wat dit betekent

Voor ondernemers heeft dit twee kanten. Aan de ene kant loop je als gebruiker van ChatGPT het risico dat je wordt doorverwezen naar een scam-site, met alle gevolgen van dien voor je bedrijfsgegevens of betalingen. Aan de andere kant kunnen jouw klanten slachtoffer worden als ze via AI-aanbevelingen bij een frauduleuze shop terechtkomen die zich voordoet als jouw bedrijf. Vooral webshops, dienstverleners en bedrijven die afhankelijk zijn van online vertrouwen lopen risico. De impact is groter dan bij traditionele phishing, omdat AI-aanbevelingen vaak als objectief en onpartijdig worden gezien.

Hoe je dit kunt toepassen

Als je een webshop runt en AI gebruikt voor productaanbevelingen, is het verstandig om altijd de bron van een ChatGPT-suggestie te controleren voordat je erop klikt. Vraag ChatGPT expliciet om de link of de bron te vermelden, en open die alleen als je de domeinnaam herkent of kunt verifiëren via een aparte zoekopdracht. Een mogelijkheid is om een vaste procedure in te stellen: elke AI-aanbeveling die je overweegt te volgen, check je eerst handmatig op betrouwbaarheid.

Als je een team aanstuurt dat ChatGPT gebruikt voor onderzoek of inkoop, kun je overwegen om richtlijnen op te stellen. Bijvoorbeeld: medewerkers mogen nooit direct doorklikken op een link uit een AI-antwoord zonder eerst het domein te controleren. Je zou ook een interne checklist kunnen maken met signalen van frauduleuze shops, zoals ontbrekende contactgegevens, onrealistische kortingen of vreemde URL-structuren.

Als je klantgegevens beheert en AI inzet voor klantenservice, is het belangrijk om te weten dat scammers ook via AI-chatbots kunnen proberen data te stelen. Overweeg om je eigen chatbot te trainen op het herkennen van verdachte verzoeken, zoals vragen naar inloggegevens of betalingsinformatie. Een optie is om een extra verificatiestap in te bouwen voor gevoelige handelingen, zoals een bevestigingsmail of een telefoontje.

Als je content produceert met AI, bijvoorbeeld voor marketing, kun je voorzichtig zijn met het overnemen van externe links die ChatGPT voorstelt. Controleer altijd of de aanbevolen bronnen legitiem zijn, vooral als het gaat om producten, tools of diensten die je aan je publiek wilt aanbevelen. Het is een kleine moeite die veel reputatieschade kan voorkomen.

De praktische toepassing hangt af van jouw situatie, maar de kern is: vertrouw AI-aanbevelingen niet blindelings, en leer je team en klanten hetzelfde te doen.

Bron: Bright