Het antwoord: ChatGPT kan nu ook producten aanbevelen van frauduleuze webshops die zijn ontworpen om je data te stelen. Dit komt doordat oplichters de trainingsdata van taalmodellen bewust vervuilen, een techniek die LLM data poisoning heet. Voor ondernemers betekent dit dat je niet blindelings kunt vertrouwen op AI-aanbevelingen, maar dat je kritisch moet blijven, net zoals bij een onbekende Google-zoekresultaat.

Wat er aan de hand is

Oplichters hebben een nieuwe tactiek gevonden: ze beïnvloeden de uitkomsten van AI-modellen zoals ChatGPT door het toevoegen van misleidende informatie aan de data waarop deze modellen zijn getraind. Dit proces, dat bekend staat als LLM data poisoning, zorgt ervoor dat ChatGPT producten of diensten van frauduleuze partijen aanbeveelt. Waar scammers eerder vooral via SEO (zoekmachineoptimalisatie) probeerden om hun schimmige websites hoog in Google te krijgen, richten ze zich nu op de aanbevelingsalgoritmes van taalmodellen. Volgens Bright is dit een logische volgende stap: AI-modellen worden steeds vaker gebruikt voor productadvies, en oplichters volgen het geld.

Wat dit betekent

Voor jou als MKB’er of professional is dit een directe waarschuwing. Als je ChatGPT gebruikt om producten, diensten of leveranciers te vinden, loop je het risico dat je wordt doorverwezen naar een frauduleuze website die eruitziet als een betrouwbare webshop. De impact kan groot zijn: van gestolen bedrijfsgegevens tot financiële schade. Dit probleem raakt niet alleen grote bedrijven, maar juist ook kleinere ondernemers die minder vaak een aparte security-check doen op AI-advies. Het betekent dat je de output van ChatGPT niet meer als vanzelfsprekend betrouwbaar kunt beschouwen, vooral niet bij commerciële aanbevelingen.

Hoe je dit kunt toepassen

Als je een webshop runt en ChatGPT gebruikt voor concurrentieanalyse of productonderzoek, wees dan extra alert op aanbevelingen die te mooi lijken om waar te zijn. Een mogelijkheid is om de aanbevolen website altijd eerst handmatig te controleren op signalen van betrouwbaarheid, zoals een fysiek adres, een KvK-nummer en duidelijke retourvoorwaarden. Overweeg om een aparte browser of een virtuele machine te gebruiken om verdachte links te openen, zodat je bedrijfsnetwerk niet direct wordt blootgesteld.

Als je een team aanstuurt dat regelmatig ChatGPT gebruikt voor inkoop of sales, kun je een interne richtlijn opstellen: elke AI-aanbeveling voor een externe partij moet worden geverifieerd via een tweede bron, zoals een onafhankelijke reviewsite of een directe check bij de leverancier. Je zou kunnen overwegen om een tool zoals een link-checker te gebruiken die verdachte domeinen markeert, of om medewerkers te trainen in het herkennen van phishing-pogingen via AI.

Als je in de marketing of contentcreatie werkt, is het verstandig om te voorkomen dat je eigen bedrijfsdata onbedoeld wordt gebruikt om deze problemen te versterken. Een optie is om geen bedrijfsgevoelige informatie of klantdata in ChatGPT te voeren, omdat die data mogelijk wordt gebruikt voor verdere training. Overweeg om een aparte, beveiligde AI-omgeving te gebruiken voor interne analyses, zoals een eigen API-sleutel met strikte privacy-instellingen.

Als je een IT-beheerder of security-verantwoordelijke bent, kun je proactief monitoren op data poisoning door regelmatig de output van AI-modellen te vergelijken met betrouwbare bronnen. Je zou kunnen overwegen om een script te schrijven dat ChatGPT-aanbevelingen automatisch checkt tegen een lijst van bekende frauduleuze domeinen, of om een aparte AI-chatbot te trainen op een schone, gecontroleerde dataset voor interne bedrijfsvragen.

Bron: Bright