Reddit introduceert AI-gestuurde moderatie voor subreddits, met een bredere uitrol later dit jaar. Deze ontwikkeling maakt automatische handhaving van communityregels toegankelijker, ook voor beheerders van kleinere online platforms zoals klantenfora of ledengroepen.

Wat er aan de hand is

Volgens The Verge bouwt Reddit aan een pakket aan tools genaamd “Rules Hub”. Deze tools stellen moderatoren in staat om te bepalen welke regels automatisch worden gehandhaafd en wat er moet gebeuren wanneer een regel wordt overtreden. De kern van het systeem is een taalmodel (LLM) dat beoordeelt of een post of reactie voldoet aan de intentie van een regel. Dit moet beter omgaan met nuances, natuurlijke taal en randgevallen dan traditionele, op trefwoorden gebaseerde filters. Reddit breidt de toegang tot deze tools nu al uit, vooruitlopend op een volledige lancering later dit jaar.

Wat dit betekent

Voor beheerders van online communities is moderatie vaak een tijdrovende en soms ondankbare taak. Het handmatig beoordelen van berichten, het afhandelen van meldingen en het ingrijpen bij escalaties kost uren per week. De aanpak van Reddit automatiseert een deel van dit proces door regels niet alleen op trefwoorden te controleren, maar op de betekenis en context van een bericht. Dit betekent dat een bericht dat sarcastisch is of een grap bevat, anders kan worden beoordeeld dan een daadwerkelijk beledigende post. Voor Nederlandse ondernemers die een community beheren, is dit relevant omdat het de drempel verlaagt om een actieve en goed beheerde omgeving te onderhouden zonder dat dit ten koste gaat van andere bedrijfsactiviteiten.

Hoe je dit kunt toepassen

Als je een klantenforum runt op je eigen website, dan weet je dat de eerste reacties op een negatieve review of een klacht vaak de toon zetten voor de rest van het gesprek. Je zou kunnen overwegen om een systeem te implementeren dat automatisch berichten markeert die mogelijk agressief zijn, zodat jij of je medewerkers alleen nog hoeven in te grijpen bij de daadwerkelijk lastige gevallen. Dit geeft je de tijd om een doordachte, empathische reactie te formuleren in plaats van te reageren vanuit een eerste impuls.

Als je een besloten Facebookgroep beheert voor je leden of klanten, dan is het handhaven van de huisregels een terugkerende klus. Een mogelijkheid is om te kijken naar tools die gebruikmaken van taalmodellen om berichten te beoordelen op basis van de door jou opgestelde regels. Je zou kunnen beginnen met het automatisch markeren van berichten die tegen de regels lijken te zijn, in plaats van ze direct te verwijderen. Zo behoud je de controle en leer je tegelijkertijd hoe goed de AI de regels begrijpt.

Als je een community hebt die groeit en je merkt dat moderatie meer tijd kost dan je wilt, dan is het verstandig om te onderzoeken welke moderatietools jouw platform al biedt. Veel platformen hebben basisfunctionaliteit voor het filteren op trefwoorden, maar de stap naar AI-gestuurde moderatie is nieuw. Overweeg om te experimenteren met de regels die je instelt: begin met duidelijke, objectieve regels en kijk hoe het systeem daarmee omgaat. Je zou kunnen ontdekken dat je minder tijd kwijt bent aan het blussen van brandjes en meer tijd overhoudt voor het opbouwen van je community.

Als je een team hebt dat verantwoordelijk is voor online klantinteractie, dan kan AI-moderatie dienen als een eerste filter. Een optie is om een workflow op te zetten waarbij AI berichten categoriseert op basis van urgentie of sentiment, zodat je team zich kan richten op de gesprekken die er echt toe doen. De praktische toepassing hangt af van jouw situatie, maar de kern is dat je de technologie inzet om de menselijke aandacht te richten waar die het meest nodig is.

Bron: The Verge