Reddit zet AI in om subreddits te modereren. Het bedrijf introduceert een pakket aan geautomatiseerde moderatietools, genaamd “Rules Hub”, dat gebruikmaakt van grote taalmodellen (LLM’s) om te beoordelen of een bericht of reactie voldoet aan de regels van een community. Deze tools worden nu al uitgerold naar sommige moderatoren, met een volledige lancering later dit jaar.

Wat er aan de hand is

Volgens The Verge kondigt Reddit aan dat het AI gaat inzetten om te helpen met het modereren van nieuwe subreddits, en uiteindelijk de rest van de site. De nieuwe tool, “Rules Hub”, stelt moderatoren in staat om te bepalen welke regels automatisch worden gehandhaafd en wat er moet gebeuren wanneer een regel wordt overtreden. De kern van het systeem is dat LLM’s evalueren of een post of commentaar overeenkomt met de intentie van een regel. Dit zou beter moeten omgaan met nuances, natuurlijke taal en randgevallen dan de huidige, vaak rigide, automatische filters. De uitbreiding van deze tools naar meer moderatoren gebeurt nu al, vooruitlopend op de volledige lancering.

Wat dit betekent

Voor Nederlandse ondernemers die een eigen forum, Facebook-groep of andere online community beheren, is dit een significante ontwikkeling. Het laat zien dat AI-gestuurde moderatie volwassen wordt en niet langer alleen is voorbehouden aan grote techplatforms. De aanpak van Reddit, waarbij AI de intentie van een regel begrijpt in plaats van alleen te zoeken op trefwoorden, is een stap vooruit. Dit betekent dat je als community-eigenaar mogelijk minder tijd kwijt bent aan het handmatig beoordelen van berichten en reacties. Het opent de deur naar het automatiseren van een taak die vaak veel tijd kost, vooral naarmate je community groeit. De technologie is er, en de toepassing door Reddit is een bewijs dat het in de praktijk werkt.

Hoe je dit kunt toepassen

Als je een actieve Facebook-groep beheert voor je bedrijf of branche, dan herken je waarschijnlijk de stroom aan berichten die je dagelijks moet beoordelen. Je zou kunnen overwegen om te experimenteren met de moderatietools die Facebook zelf aanbiedt, zoals het instellen van trefwoordfilters en het automatisch markeren van berichten die aan bepaalde criteria voldoen. Hoewel dit niet zo geavanceerd is als de LLM-aanpak van Reddit, kan het je al aanzienlijk wat tijd besparen. Een optie is om te starten met het automatisch verbergen van berichten die vloeken bevatten of die duidelijk off-topic zijn, zodat jij alleen nog de genuanceerde gevallen hoeft te beoordelen.

Als je een eigen forum runt op je website, bijvoorbeeld voor klantenservice of een community rondom je product, dan is het interessant om te kijken naar de mogelijkheden van AI-gestuurde moderatie. De aanpak van Reddit, waarbij de AI de intentie van een regel begrijpt, is iets om in de gaten te houden. Je zou kunnen overwegen om te investeren in een moderatieplugin of -dienst die gebruikmaakt van LLM’s. De kosten hiervan kunnen variëren, maar het is een investering die zich terugverdient als het je wekelijks uren aan moderatietijd bespaart. Een mogelijkheid is om te starten met een proefperiode om te zien of de AI de toon en regels van jouw community goed aanvoelt.

Als je een community hebt die gevoelig ligt voor discussies, bijvoorbeeld over politiek of gezondheid, dan is het belangrijk om de valkuilen te kennen. AI-moderatie is niet feilloos en kan context missen. Overweeg om AI alleen in te zetten als eerste filter, die duidelijke overtredingen afhandelt, maar laat de moeilijkere gevallen altijd door een menselijke moderator beoordelen. Het is verstandig om duidelijke richtlijnen op te stellen voor wat de AI automatisch mag doen en wat niet. Zo behoud je de controle en voorkom je dat de AI beslissingen neemt die schadelijk zijn voor de sfeer in je community. De praktische toepassing hangt af van jouw situatie, maar het principe van ‘AI als assistent, niet als vervanger’ is een goed uitgangspunt.

Bron: The Verge