Reddit introduceert AI-gestuurde moderatie voor subreddits, een ontwikkeling die ook voor Nederlandse ondernemers met eigen online communities relevant is. De tool, genaamd “Rules Hub”, gebruikt grote taalmodellen (LLM’s) om te beoordelen of berichten en reacties voldoen aan de door de moderator opgestelde regels. Dit maakt het mogelijk om automatisch in te grijpen bij overtredingen, wat de belasting voor menselijke moderatoren aanzienlijk kan verminderen.

Wat er aan de hand is

Volgens The Verge breidt Reddit de toegang tot deze geautomatiseerde moderatietools uit, voorafgaand aan een volledige lancering later dit jaar. De kern van de tool is dat communitybeheerders zelf kunnen bepalen welke regels automatisch worden gehandhaafd en wat er moet gebeuren wanneer een regel wordt overtreden. In tegenstelling tot traditionele, op trefwoorden gebaseerde filters, kan Rules Hub dankzij de inzet van LLM’s beter omgaan met nuances, natuurlijke taal en randgevallen. Dit betekent dat de AI niet alleen kijkt naar specifieke woorden, maar naar de bedoeling van een bericht in de context van de communityregels. Deze ontwikkeling past in een bredere trend waarbij platformen AI inzetten om de groeiende stroom aan gebruikerscontent te beheren.

Wat dit betekent

Voor ondernemers die een klantenforum, Facebookgroep of een eigen communityplatform beheren, is dit een significante verschuiving. Het handmatig modereren van een actieve community kost veel tijd en is vaak reactief: problemen worden pas aangepakt nadat ze zijn gemeld. De aanpak van Reddit laat zien dat AI in staat is om proactief en op schaal te modereren, met een beter begrip van context dan een simpele woordenlijst. Dit betekent dat de drempel voor het onderhouden van een gezonde, actieve community lager kan worden. Het automatiseert niet alleen het verwijderen van spam of beledigingen, maar kan ook helpen bij het handhaven van specifieke regels, zoals het verbieden van zelfpromotie of het eisen van een bepaalde toon in discussies. Voor een klein bedrijf kan dit het verschil betekenen tussen een community die gedijt en een community die verwaarloosd raakt.

Hoe je dit kunt toepassen

Als je een actieve Facebookgroep beheert voor je klanten… Overweeg om te experimenteren met de ingebouwde moderatietools van het platform, maar kijk ook naar de mogelijkheden die AI biedt. Je zou kunnen beginnen met het definiëren van je belangrijkste huisregels en kijken of je deze kunt vertalen naar duidelijke instructies voor een AI-tool. Een mogelijkheid is om een AI-assistent in te zetten die nieuwe berichten eerst beoordeelt op basis van jouw regels voordat ze live gaan, waardoor je de kwaliteit van de discussie waarborgt zonder dat je elk bericht zelf hoeft te lezen.

Als je een eigen forum runt op je website… De aanpak van Reddit is een voorbeeld van hoe je moderatie kunt opschalen. Je zou kunnen onderzoeken of het platform dat je gebruikt al AI-moderatie ondersteunt of dat je via een API een eigen oplossing kunt bouwen. Een optie is om te starten met het automatiseren van de meest voorkomende overtredingen, zoals spam of ongepaste taal, en de AI alleen te laten rapporteren aan jou als menselijke moderator voor complexere gevallen. Dit verlaagt de werkdruk en zorgt ervoor dat je je tijd kunt besteden aan de uitzonderingen die echt jouw oordeel vereisen.

Als je een community hebt die groeit en je moderatieteam tijd tekortkomt… De introductie van AI-moderatie betekent dat je niet onmiddellijk meer vrijwilligers hoeft te werven. Je zou kunnen overwegen om een pilot te starten waarbij AI de eerste controle doet en je moderatoren alleen de gemarkeerde gevallen behandelen. Het is belangrijk om hierbij te bedenken dat deze tools, volgens de aankondiging van Reddit, nog in ontwikkeling zijn. De praktische toepassing hangt af van jouw situatie, maar het is verstandig om te beginnen met een duidelijke set regels en te monitoren hoe goed de AI deze begrijpt. Wees voorbereid op het feit dat de AI niet perfect is en dat je in het begin de resultaten zult moeten controleren en bijsturen.

Bron: The Verge