ChatGPT kan producten aanbevelen van oplichters die via data poisoning het model beïnvloeden. Dit betekent dat een ogenschijnlijk betrouwbaar antwoord van de chatbot je naar een frauduleuze website kan leiden die erop uit is je data te stelen. Voor ondernemers die ChatGPT gebruiken voor marktonderzoek, productvergelijkingen of klantadvies, is dit een direct risico.

Wat er aan de hand is

Waar oplichters eerder via SEO (zoekmachineoptimalisatie) hun frauduleuze shops naar de top van Google-resultaten werkten, richten ze zich nu op taalmodellen zoals ChatGPT. Deze techniek heet LLM data poisoning. Door op grote schaal neprecensies, valse productinformatie en links naar malafide websites te verspreiden, beïnvloeden ze de trainingsdata van het model. Het gevolg is dat ChatGPT, zonder het zelf te weten, deze frauduleuze shops aanbeveelt als betrouwbare bronnen. Volgens Bright is dit een groeiend probleem dat de betrouwbaarheid van AI-advies onder druk zet.

Wat dit betekent

Voor jou als ondernemer betekent dit dat je niet blind kunt vertrouwen op aanbevelingen van ChatGPT, vooral niet als het gaat om aankoopadviezen, leveranciers of zakelijke diensten. Het risico is tweeledig: je kunt zelf worden misleid door een aanbevolen scam, maar ook jouw eigen bedrijfsdata kunnen worden gebruikt om het model te manipuleren als je klantinteracties via ChatGPT laat lopen. Vooral in sectoren zoals e-commerce, marketing en klantenservice is dit relevant, omdat daar veel data wordt uitgewisseld die het model kan beïnvloeden.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt voor marktonderzoek of productvergelijkingen, wees dan extra alert op aanbevelingen voor onbekende webshops of diensten. Een mogelijke aanpak is om altijd de domeinnaam van een aanbevolen site te controleren via een aparte zoekopdracht. Kijk of de site een fysiek adres, KVK-nummer en betrouwbare recensies heeft. Je zou ook kunnen overwegen om alleen aanbevelingen over te nemen van bronnen die je zelf hebt geverifieerd, zoals bekende leveranciers of brancheorganisaties.

Als je een team aanstuurt dat ChatGPT inzet voor klantadvies, is het verstandig om richtlijnen op te stellen voor het controleren van AI-uitvoer. Overweeg om een tweede controlelaag in te bouwen, bijvoorbeeld door een collega de aanbevolen links te laten verifiëren voordat ze worden gedeeld met klanten. Een optie is om een lijst met goedgekeurde bronnen te maken die het team als referentie gebruikt, zodat medewerkers weten welke informatie betrouwbaar is.

Als je zelf data levert aan AI-modellen, bijvoorbeeld via klantrecensies of productinformatie op je website, is het belangrijk om te voorkomen dat jouw data wordt misbruikt voor data poisoning. Een mogelijkheid is om regelmatig te controleren of er ongebruikelijke patronen in je data zitten, zoals plotselinge pieken in neprecensies. Je zou ook kunnen overwegen om een beveiligingsaudit uit te voeren op de manier waarop je data wordt verzameld en opgeslagen, zodat je weet of er kwetsbaarheden zijn.

Als je een webshop runt, kun je overwegen om zelf actief te monitoren of jouw producten of diensten worden aanbevolen door ChatGPT. Als je merkt dat het model onjuiste of frauduleuze informatie over jouw bedrijf verspreidt, kun je contact opnemen met OpenAI om dit te melden. Een andere optie is om je eigen SEO en online aanwezigheid te versterken, zodat betrouwbare informatie over jouw bedrijf hoger in de trainingsdata komt te staan.

Als je in de marketing werkt, is het verstandig om klanten te waarschuwen voor de risico’s van blind vertrouwen op AI-advies. Je zou een korte handleiding kunnen maken met tips om frauduleuze aanbevelingen te herkennen, zoals het controleren van URL’s en het vermijden van onbekende shops. Dit versterkt niet alleen het vertrouwen in jouw merk, maar helpt ook om je klanten te beschermen tegen oplichting.

Bron: Bright