Google-onderzoek toont dat AI-spam beter te herkennen is door naar het netwerk te kijken dan door elke tekst apart te analyseren. Dit betekent dat je als ondernemer niet langer alleen op inhoud hoeft te vertrouwen om nepmail, neprecensies of fake content te filteren. In plaats daarvan kun je kijken naar waar de berichten vandaan komen.

Wat er aan de hand is

Onderzoekers van Google hebben een methode gepresenteerd die AI-gegenereerde spam opspoort door de herkomstnetwerken te analyseren. In plaats van elke tekst afzonderlijk te beoordelen op kenmerken van AI-schrijfstijl, kijken ze naar patronen in de netwerken waar de berichten doorheen komen. Volgens Search Engine Journal suggereert het onderzoek dat AI-spam eenvoudiger te detecteren is door de oorspronkelijke netwerken te identificeren. Dit is een verschuiving ten opzichte van de huidige aanpak, die vooral draait om het herkennen van AI-kenmerken in de tekst zelf.

Wat dit betekent

Voor ondernemers betekent dit dat spamfilters effectiever kunnen worden zonder dat je zelf technisch expert hoeft te zijn. De methode richt zich op de infrastructuur achter de spam, niet op de boodschap. Dat is belangrijk omdat AI-teksten steeds moeilijker te onderscheiden zijn van menselijke teksten. Als je bijvoorbeeld te maken hebt met neprecensies op je productpagina’s of met fake offertes in je inbox, dan helpt het om te weten dat de bron van het bericht vaak een aanwijzing is. Vooral voor bedrijven die veel gebruikersinteractie hebben, zoals webshops, dienstverleners of platforms met reviews, kan deze aanpak de betrouwbaarheid van hun data verhogen.

Hoe je dit kunt toepassen

Als je een webshop runt en last hebt van nep-reviews. Je zou kunnen overwegen om niet alleen de tekst van reviews te controleren, maar ook het IP-adres of het netwerk waar de review vandaan komt. Als meerdere reviews van hetzelfde netwerk komen, is de kans groot dat het om AI-spam gaat. Overweeg om een eenvoudige filter in te stellen die reviews van verdachte netwerken markeert voor handmatige controle.

Als je een team aanstuurt dat dagelijks veel e-mails verwerkt. Een mogelijkheid is om je e-mailprovider te vragen of zij netwerkanalyse kunnen toepassen op binnenkomende berichten. Je kunt ook zelf een regel instellen die berichten van onbekende netwerken in een aparte map plaatst. Dit werkt vooral goed bij bulk-spam die vaak vanaf een beperkt aantal servers wordt verstuurd.

Als je content beheert voor een website of blog. Overweeg om reacties of gastbijdragen te controleren op hun herkomst. Als een bijdrage afkomstig is van een netwerk dat bekend staat om AI-spam, kun je die automatisch afwijzen. Dit bespaart tijd omdat je niet elke tekst hoeft te lezen om te beoordelen of hij echt is.

Als je een platform runt waar gebruikers bestanden of berichten kunnen uploaden. Je zou een eenvoudige check kunnen inbouwen die het IP-adres of het netwerk van de uploader vergelijkt met bekende spam-netwerken. Dit is een relatief lichte aanpassing die veel nep-content kan weren zonder dat je de inhoud hoeft te analyseren.

Als je werkt met klantdata en enquêtes. Overweeg om bij het verwerken van ingevulde formulieren niet alleen op antwoorden te letten, maar ook op het netwerk van de invuller. Als meerdere inzendingen van hetzelfde netwerk komen, kun je die als verdacht markeren. Dit helpt om ruis in je data te verminderen.

De praktische toepassing hangt af van jouw situatie, maar de kern is dat je niet langer alleen op tekstanalyse hoeft te vertrouwen. Door te kijken naar waar berichten vandaan komen, kun je AI-spam effectiever filteren.

Bron: Search Engine Journal (https://www.searchenginejournal.com/google-generated-ai-detected/579987/)