Het antwoord op de vraag hoe je AI-spam effectief kunt filteren is eenvoudiger dan je denkt: kijk niet naar de inhoud van elke e-mail of elk bericht, maar naar de netwerken waar ze vandaan komen. Google-onderzoek wijst uit dat AI-gegenereerde spam vaak wordt verspreid vanaf een beperkt aantal IP-adressen of domeinen, waardoor netwerkanalyse een krachtig wapen is tegen deze vorm van misbruik.

Wat er aan de hand is

Google-onderzoekers hebben een nieuwe benadering gepresenteerd voor het detecteren van AI-spam. In plaats van elke tekst afzonderlijk te beoordelen op kenmerken van AI-generatie, stellen zij voor om de oorsprong van de spam te analyseren. Volgens het onderzoek worden AI-spamberichten vaak in grote hoeveelheden verstuurd vanaf een klein aantal netwerken, zoals specifieke IP-reeksen of domeinen. Dit patroon wijkt af van traditionele spam, die meestal afkomstig is van een breder scala aan bronnen. De aanpak is gebaseerd op het idee dat de infrastructuur achter AI-spam minder divers is dan de inhoud, waardoor netwerkanalyse efficiënter kan zijn dan het beoordelen van individuele berichten.

Wat dit betekent

Voor ondernemers betekent dit dat je niet langer afhankelijk hoeft te zijn van complexe AI-detectietools om spam te herkennen. Als je een webshop runt, een nieuwsbrief beheert of een klantenservice hebt, kun je met relatief eenvoudige netwerkanalyse AI-spam filteren. Dit is vooral relevant voor kleine en middelgrote bedrijven die geen budget hebben voor dure spamfilters. Door te kijken naar patronen in IP-adressen en domeinen, kun je verdachte bronnen blokkeren voordat ze je systemen bereiken. Dit bespaart tijd en vermindert de kans op valse positieven, omdat je niet elke tekst hoeft te beoordelen.

Hoe je dit kunt toepassen

Als je een webshop runt en last hebt van neprecensies of spam in het contactformulier, kun je een eenvoudige regel instellen in je server of hostingomgeving. Overweeg om IP-adressen te blokkeren die binnen een korte tijd meerdere berichten versturen vanaf hetzelfde subnet. Je zou kunnen beginnen met het loggen van inkomende verzoeken en het identificeren van clusters van IP-adressen die verdacht veel activiteit vertonen. Een optie is om een lijst bij te houden van bekende spam-netwerken en deze periodiek te updaten op basis van openbare databases.

Als je een team aanstuurt dat verantwoordelijk is voor e-mailmarketing, kun je de afzenderdomeinen van inkomende reacties analyseren. Een mogelijkheid is om een script te schrijven dat controleert of meerdere reacties afkomstig zijn van hetzelfde domein of dezelfde IP-reeks, en deze automatisch in quarantaine plaatst. Je zou kunnen overwegen om een drempelwaarde in te stellen, bijvoorbeeld vijf berichten van hetzelfde netwerk binnen een uur, waarna alle volgende berichten worden geblokkeerd. Dit werkt ook voor het filteren van AI-gegenereerde sollicitaties of offerteaanvragen.

Als je in de zorg werkt en te maken hebt met geautomatiseerde afspraakverzoeken of patiëntvragen, kun je netwerkanalyse gebruiken om bulkberichten te onderscheiden van legitieme verzoeken. Overweeg om een systeem op te zetten dat IP-adressen van afzenders groepeert en alleen verzoeken doorlaat van netwerken die niet in een verdachte range vallen. Een optie is om samen te werken met je IT-afdeling om een lijst van goedgekeurde IP-reeksen te maken, zoals die van bekende zorginstellingen of overheidsdomeinen.

Als je een platform beheert waar gebruikers content kunnen plaatsen, zoals een forum of reviewsectie, kun je netwerkanalyse inzetten om AI-spam te voorkomen. Een mogelijkheid is om nieuwe gebruikers te controleren op basis van hun IP-adres en alleen accounts toe te staan van netwerken die niet eerder zijn geassocieerd met spam. Je zou kunnen overwegen om een wachttijd in te voeren voor accounts van verdachte IP-reeksen, zodat je de kans op misbruik verkleint zonder legitieme gebruikers te hinderen.

Als je een freelancer bent die veel e-mails ontvangt van potentiële opdrachtgevers, kun je handmatig netwerkanalyse toepassen. Overweeg om bij verdachte berichten het IP-adres van de afzender te controleren via een online tool. Een optie is om een lijst bij te houden van IP-reeksen die je als spam markeert, zodat je toekomstige berichten van die bronnen direct kunt herkennen. Dit is een eenvoudige manier om AI-spam te filteren zonder technische kennis.

Bron: Search Engine Journal (https://www.searchenginejournal.com/google-generated-ai-detected/579987/)