ChatGPT kan je doorverwijzen naar frauduleuze webshops die erop uit zijn om je data te stelen. Oplichters manipuleren het taalmodel door middel van LLM data poisoning, een techniek waarmee ze de aanbevelingen van de AI beïnvloeden. Dit is geen toekomstmuziek, maar gebeurt nu.

Wat er aan de hand is

Volgens Bright hebben scammers een nieuwe tactiek ontwikkeld. Waar ze eerder via SEO (zoekmachineoptimalisatie) probeerden om hun frauduleuze websites hoog in Google te krijgen, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning voeden ze het model met misleidende informatie, waardoor ChatGPT producten of shops gaat aanbevelen die in werkelijkheid gevaarlijk zijn. Het doel is om nietsvermoedende gebruikers naar deze sites te lokken, waar hun persoonlijke of betaalgegevens worden gestolen. Het is een sluipende vorm van manipulatie die lastig te herkennen is, omdat de aanbeveling afkomstig lijkt van een betrouwbare AI.

Wat dit betekent

Voor ondernemers en professionals betekent dit dat je niet blind kunt vertrouwen op AI-aanbevelingen, ook niet van een gevestigde naam als ChatGPT. Als jij of je medewerkers ChatGPT gebruiken om leveranciers, tools of diensten te zoeken, loop je het risico dat je bij een scamwebsite uitkomt. Dit kan leiden tot datalekken, financiële schade of het installeren van malware. Vooral voor MKB’ers die afhankelijk zijn van online tools en snel schakelen, is dit een reëel risico. Het raakt niet alleen je eigen bedrijfsvoering, maar ook het vertrouwen van klanten als je hen per ongelik naar een frauduleuze site verwijst.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt om leveranciers te vinden, wees dan extra kritisch op de aanbevolen websites. Controleer altijd of de domeinnaam klopt, of de site een SSL-certificaat heeft (het hangslotje in de adresbalk) en of er contactgegevens zoals een fysiek adres en telefoonnummer staan vermeld. Een optie is om de aanbevolen shop eerst te checken via een onafhankelijke bron, zoals een reviewplatform of de Kamer van Koophandel. Overweeg om een aparte zoekopdracht te doen naar de shopnaam plus het woord ‘oplichting’ of ‘scam’.

Als je een team aanstuurt dat AI-tools inzet, is het verstandig om duidelijke richtlijnen op te stellen. Je zou kunnen afspreken dat medewerkers nooit direct doorklikken op een link die ChatGPT geeft zonder eerst een controle uit te voeren. Een mogelijkheid is om een lijst met goedgekeurde leveranciers en tools bij te houden, zodat het team niet afhankelijk is van AI-aanbevelingen voor kritieke keuzes. Overweeg om een korte training te geven over het herkennen van verdachte websites, zodat iedereen weet waarop te letten.

Als je zelf een webshop runt, is het belangrijk om te beseffen dat ook jouw klanten via ChatGPT bij concurrenten of zelfs oplichters kunnen belanden. Dit onderstreept het belang van een sterke eigen online aanwezigheid en duidelijke merkherkenning. Een optie is om actief te monitoren of jouw bedrijfsnaam of producten in ChatGPT-aanbevelingen voorkomen, bijvoorbeeld door zelf gerichte prompts te testen. Overweeg om klanten via nieuwsbrieven of social media te wijzen op de officiële kanalen waar ze jou kunnen vinden, zodat ze minder snel op een verkeerde site terechtkomen.

Als je werkt met klantdata of gevoelige informatie, is het zaak om extra voorzichtig te zijn met AI-gegenereerde adviezen. Een scamwebsite kan niet alleen je eigen gegevens stelen, maar ook die van je klanten als je er per ongeluk gegevens invoert. Je zou kunnen overwegen om een aparte, beveiligde browser of een virtuele machine te gebruiken voor het testen van onbekende websites. Een mogelijkheid is om een tool als VirusTotal te gebruiken om een URL te scannen voordat je erop klikt.

Bron: Bright