ChatGPT kan je onbedoeld naar een frauduleuze website sturen die erop uit is om je data te stelen. Dit gebeurt doordat oplichters het algoritme van het taalmodel beïnvloeden via een techniek die LLM data poisoning heet. Voor ondernemers betekent dit dat je niet blind kunt vertrouwen op AI-aanbevelingen, maar zelf moet controleren waar je op klikt.

Wat er aan de hand is

Oplichters hebben een nieuwe manier gevonden om hun frauduleuze shops onder de aandacht te brengen. Waar ze eerder via SEO trucs probeerden hoog te scoren in Google, richten ze zich nu op taalmodellen zoals ChatGPT. Door middel van LLM data poisoning manipuleren ze de uitkomsten van het model, waardoor het producten van scammers aanraadt. Volgens Bright gaat het om een gerichte aanval waarbij de oplichters misbruik maken van de manier waarop AI-modellen informatie verwerken en presenteren. Dit is geen incidenteel probleem, maar een structurele kwetsbaarheid die steeds vaker wordt uitgebuit.

Wat dit betekent

Voor jou als MKB-ondernemer heeft dit directe gevolgen. Als je ChatGPT gebruikt om producten te zoeken, leveranciers te vinden of concurrentieanalyse te doen, loop je het risico dat je naar een valse website wordt geleid. Dit kan leiden tot datalekken, financiële schade of het installeren van malware op je bedrijfssystemen. Vooral als je snel werkt en de aanbevelingen van ChatGPT als feit beschouwt, ben je kwetsbaar. De impact is groter dan alleen een miskoop: het kan je bedrijfsdata in gevaar brengen en je reputatie schaden als je per ongeluk een frauduleuze link deelt met collega’s of klanten.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt voor productonderzoek of leveranciersselectie, is het verstandig om elke aanbevolen website handmatig te verifiëren. Klik niet direct op de link, maar open een apart tabblad en zoek zelf naar de officiële website van het bedrijf. Controleer of het adres klopt, of de site een beveiligde verbinding heeft (https) en of er contactgegevens en reviews te vinden zijn. Een mogelijkheid is om een vaste procedure in te stellen: voordat je gegevens deelt of een aankoop doet, check je altijd of de website legitiem is via een onafhankelijke bron.

Als je een team aanstuurt dat ChatGPT gebruikt voor dagelijkse taken, overweeg dan om richtlijnen op te stellen voor het omgaan met AI-aanbevelingen. Je zou kunnen afspreken dat medewerkers nooit direct op een link klikken die ChatGPT geeft, maar eerst de URL kopiëren en in een browser plakken om te zien of de site er betrouwbaar uitziet. Een optie is om een korte checklist te maken: controleer het domein, zoek naar bedrijfsinformatie, en vraag bij twijfel aan een collega. Dit voorkomt dat iemand per ongeluk op een scam-site terechtkomt.

Als je zelf AI inzet voor marketing of klantcontact, is het belangrijk om te beseffen dat jouw eigen data ook kwetsbaar is voor manipulatie. Zorg dat je geen gevoelige bedrijfsinformatie deelt via ChatGPT, zoals wachtwoorden, klantgegevens of financiële rapporten. Overweeg om een aparte, veilige omgeving te gebruiken voor vertrouwelijke data, zoals een interne AI-tool die niet is verbonden met openbare modellen. Een mogelijkheid is om regelmatig te controleren of er ongebruikelijke aanbevelingen uit ChatGPT komen die kunnen wijzen op data poisoning.

Als je een webshop runt of online diensten aanbiedt, wees je ervan bewust dat jouw concurrenten mogelijk ook slachtoffer worden van deze truc. Je zou kunnen overwegen om je eigen bedrijfsnaam en producten regelmatig te controleren in ChatGPT. Vraag het model wat het aanbeveelt voor jouw branche en kijk of er onbekende of verdachte shops tussen zitten. Dit geeft je een voorsprong om te waarschuwen als jouw klanten mogelijk worden misleid.

Als je twijfelt of een aanbeveling van ChatGPT betrouwbaar is, kun je een simpele test doen: vraag het model om meerdere bronnen te geven voor dezelfde informatie. Als het steeds dezelfde frauduleuze site noemt zonder alternatieven, is dat een alarmsignaal. Een andere optie is om een tweede AI-tool of een zoekmachine te gebruiken om de aanbevolen website te verifiëren. Door altijd een extra check in te bouwen, verklein je de kans dat je in de val loopt.

Bron: Bright