ChatGPT kan je doorverwijzen naar frauduleuze webshops die erop uit zijn om je data te stelen. Oplichters gebruiken een techniek genaamd LLM data poisoning om het advies van de chatbot te beïnvloeden. Dit betekent dat je niet blind kunt vertrouwen op productaanbevelingen van AI, ook al klinken ze nog zo overtuigend.

Wat er aan de hand is

Oplichters hebben een nieuwe manier gevonden om hun slachtoffers te bereiken: via AI-chatbots zoals ChatGPT. Waar ze eerder vooral inzetten op misleidende websites via SEO, richten ze zich nu op het manipuleren van de taalmodellen zelf. Door middel van LLM data poisoning voeden ze het algoritme met vervuilde data, waardoor ChatGPT frauduleuze shops gaat aanbevelen als betrouwbare bronnen. Het probleem is dat deze aanbevelingen er voor de gebruiker net zo geloofwaardig uitzien als legitieme adviezen. De techniek is geraffineerd: de oplichters maken gebruik van de manier waarop AI-modellen informatie wegen en prioriteren, zonder dat de gebruiker doorheeft dat er iets mis is.

Wat dit betekent

Voor jou als MKB-ondernemer heeft dit directe gevolgen. Als je ChatGPT gebruikt voor marktonderzoek, productvergelijkingen of het vinden van leveranciers, loop je het risico dat je wordt doorgestuurd naar een nep-webshop. Dit kan leiden tot datadiefstal, financiële schade of het per ongeluk delen van bedrijfsgevoelige informatie. Ook als je ChatGPT inzet voor klantenservice of het genereren van content, kan de output besmet zijn. Het probleem treft niet alleen grote bedrijven: juist kleine ondernemers die afhankelijk zijn van snelle, online informatie zijn kwetsbaar. De impact is groter dan een miskoop; het gaat om het lekken van klantgegevens, wachtwoorden of betaalgegevens.

Hoe je dit kunt toepassen

Als je ChatGPT gebruikt om leveranciers of producten te vinden. Wees kritisch op de aanbevelingen die de chatbot geeft. Vraag altijd om meerdere bronnen en controleer de voorgestelde websites handmatig. Kijk naar het webadres: bevat het spelfouten of ongebruikelijke extensies? Check of de site een fysiek adres, KVK-nummer en contactgegevens vermeldt. Een optie is om de aanbevolen shop eerst te googelen met termen als ‘oplichting’ of ‘review’ om te zien of er waarschuwingen staan.

Als je ChatGPT inzet voor klantenservice of productadvies op je eigen site. Overweeg om een disclaimer toe te voegen dat de informatie van de AI niet gegarandeerd juist is. Je zou kunnen testen of je chatbot per ongeluk frauduleuze links aanraadt door zelf een aantal veelgestelde vragen te simuleren. Als dat gebeurt, pas dan de prompts of de bronnen aan waarmee je de chatbot voedt. Een mogelijkheid is om een whitelist van betrouwbare leveranciers in te stellen waar de AI uit mag putten.

Als je medewerkers of teamleden ChatGPT laten gebruiken voor zakelijke doeleinden. Stel een duidelijke richtlijn op: controleer altijd de output voordat je erop vertrouwt of doorklikt. Maak het bespreekbaar in een teamoverleg. Je zou kunnen afspreken dat niemand zomaar een link uit een AI-antwoord opent zonder de bestemming te verifiëren. Overweeg om een browser-extensie te installeren die waarschuwt bij verdachte domeinen, of gebruik een aparte, beveiligde browser voor AI-onderzoek.

Als je zelf content maakt of producten promoot via AI. Wees je ervan bewust dat jouw eigen content ook gebruikt kan worden om AI-modellen te beïnvloeden. Zorg dat je website en productinformatie correct en actueel zijn, zodat je niet per ongeluk bijdraagt aan verkeerde aanbevelingen. Een praktische stap is om regelmatig te controleren of ChatGPT jouw bedrijf correct weergeeft door het een paar vragen over je producten te stellen.

Bron: Bright