Het antwoord (eerste alinea, geen kop)

Fraudeurs hebben een nieuwe manier gevonden om ChatGPT te misbruiken: ze vergiftigen de data waar het model op traint, zodat het nepwinkels aanbeveelt. Dit heet LLM data poisoning, en het betekent dat jouw klanten via een ogenschijnlijk betrouwbare chatbot naar oplichters worden gestuurd. Voor ondernemers is dit een directe bedreiging, omdat het vertrouwen in AI-gestuurde klantinteractie kan ondermijnen.

Wat er aan de hand is

Volgens Bright hebben scammers hun tactiek verlegd van traditionele SEO-manipulatie naar het beïnvloeden van taalmodellen zoals ChatGPT. Ze voegen misleidende informatie toe aan de datasets waarop deze modellen zijn getraind, waardoor ChatGPT frauduleuze webshops gaat aanraden. Dit proces, LLM data poisoning genoemd, zorgt ervoor dat het model niet langer neutraal of betrouwbaar is, maar actief schadelijke links promoot. Het nieuws volgt op eerdere waarschuwingen over AI-hallucinaties en desinformatie, maar nu is het een gerichte aanval op de integriteit van de chatbot zelf.

Wat dit betekent

Voor MKB-ondernemers die ChatGPT gebruiken voor klantenservice, productaanbevelingen of contentcreatie, is dit een alarmsignaal. Als jouw chatbot klanten naar een scammer stuurt, ben jij als bedrijf aansprakelijk voor de schade, ook al was het de AI die de fout maakte. Vooral in sectoren zoals e-commerce, reisbureaus en tech-ondersteuning, waar productadvies centraal staat, is het risico groot. Grote bedrijven hebben teams om dit te monitoren, maar kleine ondernemers moeten zelf alert zijn. Het vertrouwen in AI-gestuurde diensten staat onder druk, en één incident kan je reputatie beschadigen.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor productaanbevelingen, test dan regelmatig of de chatbot nog naar legitieme winkels verwijst. Vraag ChatGPT om een lijst met aanbevolen leveranciers en controleer handmatig of die websites bestaan en veilig zijn. Een eenvoudige check is of de domeinnaam overeenkomt met de officiële bedrijfsnaam en of er contactgegevens en reviews te vinden zijn.

Als je een team aanstuurt dat AI inzet voor klantcontact, overweeg om een vaste lijst met goedgekeurde bronnen en links in te stellen. Je kunt ChatGPT trainen om alleen producten uit een eigen database aan te bevelen, in plaats van het internet te scannen. Dit beperkt de kans dat het model vergiftigde data oppikt. Een optie is om een zogenaamde ‘whitelist’ te maken van betrouwbare partners.

Als je in de marketing werkt en AI gebruikt voor content, controleer dan elke link die ChatGPT genereert voordat je deze publiceert. Fraudeurs richten zich vaak op populaire zoektermen, dus wees extra alert bij aanbevelingen voor trendy producten of diensten. Je zou een tool kunnen gebruiken die URL’s scant op veiligheid, zoals een linkchecker, voordat je ze deelt met klanten.

Als je een klein bedrijf runt zonder IT-afdeling, maak er een gewoonte van om ChatGPT’s output te verifiëren met een tweede bron. Vraag bijvoorbeeld of de aanbevolen winkel bekend is bij brancheverenigingen of in online communities. Als iets te mooi klinkt om waar te zijn, is dat vaak ook zo. De praktische toepassing hangt af van jouw situatie, maar een kritische blik op AI-advies is nu essentieel.

Bron: Bright (https://www.bright.nl/nieuws/2098887/chatgpt-raadt-nu-ook-producten-aan-van-scammers-die-uit-zijn-op-je-data.html)