Het antwoord is dat je AI-agents betrouwbaarder maakt door eenvoudige, gelaagde controles in te bouwen, zonder dure frameworks. Deze controles voorkomen dat een agent fouten maakt, zoals hallucinaties of het aanroepen van de verkeerde tool, en zorgen dat hij alleen toegestane acties uitvoert.

Wat er aan de hand is

Uit onderzoek van Anthropic onder tientallen productieteams blijkt dat de meest succesvolle AI-agents gebruikmaken van simpele, samengestelde patronen in plaats van complexe frameworks. Een standaard workflow draait ofwel goed, ofwel geeft een foutmelding. Een AI-agent daarentegen kan succesvol draaien en toch hallucineren, de verkeerde tool gebruiken, onjuiste data teruggeven of instructies negeren. De uitvoering is voltooid, maar het resultaat is fout. Dit probleem is inherent aan AI-agents en vraagt om een andere aanpak dan traditionele automatisering. Volgens een blog van n8n, een platform voor workflowautomatisering, kun je deze fouten aanzienlijk verminderen door gelaagde controles toe te passen. Deze controles helpen ook bij de vraag hoe je de acties van een agent kunt beperken zonder zijn bruikbaarheid te verliezen.

Wat dit betekent

Voor MKB-ondernemers betekent dit dat je AI-agents niet hoeft te mijden vanwege onbetrouwbaarheid, maar dat je met relatief eenvoudige middelen de kwaliteit kunt verhogen. De aanpak is niet afhankelijk van dure tools of complexe code, maar van doordachte ontwerpkeuzes. De controles zijn onder te verdelen in zes categorieën: modelselectie en configuratie, promptstructuur, outputschema’s, toolontwerp, guardrails (veiligheidscontroles) en workflowroutering. Elk van deze lagen pakt een ander type fout aan. Voor een ondernemer die bijvoorbeeld een klantenservice-agent inzet, betekent dit dat je niet alleen de prompt goed moet schrijven, maar ook moet controleren welke tools de agent mag gebruiken en in welk formaat hij antwoorden moet geven. Dit verhoogt de betrouwbaarheid zonder dat je een AI-expert hoeft in te huren.

Hoe je dit kunt toepassen

Als je een webshop runt en een AI-agent inzet voor klantvragen over bestellingen. Je zou kunnen beginnen met het instellen van een outputschema. Dit dwingt de agent om antwoorden in een vast formaat te geven, bijvoorbeeld met velden als ‘orderstatus’, ‘verzenddatum’ en ’trackingnummer’. Als de agent een veld mist of een ongeldige waarde invult, kun je de workflow laten stoppen of een standaardantwoord geven. Dit voorkomt dat klanten onjuiste informatie krijgen, zoals een niet-bestaande verzenddatum.

Als je een team aanstuurt en een AI-agent gebruikt om notulen te maken van vergaderingen. Een optie is om guardrails in te bouwen die controleren of de agent geen vertrouwelijke informatie in de notulen zet. Je kunt bijvoorbeeld een lijst met gevoelige termen definiëren. Als de agent een van die termen gebruikt, wordt de notulen niet verzonden maar ter controle aan jou voorgelegd. Dit is een eenvoudige manier om te voorkomen dat de agent per ongeluk bedrijfsgevoelige data deelt.

Als je in de zorg werkt en een AI-agent inzet voor het samenvatten van patiëntendossiers. Overweeg om de toolselectie van de agent te beperken. Je kunt de agent alleen toegang geven tot een specifieke database met gevalideerde medische termen, niet tot het hele internet. Door het aantal tools dat de agent kan aanroepen te beperken, verklein je de kans dat hij een verkeerde bron raadpleegt of onjuiste medische informatie geeft. Dit is een praktische toepassing van het principe dat een agent met minder opties betrouwbaarder is.

Als je een administratief medewerker bent die een AI-agent gebruikt om facturen te verwerken. Een mogelijkheid is om de promptstructuur te optimaliseren. Geef de agent niet alleen de opdracht ‘verwerk deze factuur’, maar specificeer welke velden hij moet uitlezen (factuurnummer, bedrag, btw) en in welk formaat. Voeg een voorbeeld toe van een correct ingevulde factuur. Dit lijkt eenvoudig, maar het verhoogt de kans dat de agent de juiste informatie extraheert aanzienlijk. Je kunt daarna een validatiestap toevoegen die controleert of het bedrag overeenkomt met een bepaald patroon, zoals ‘altijd twee decimalen’.

Als je een marketingmanager bent en een AI-agent inzet voor het genereren van social media posts. Je zou kunnen experimenteren met de modelconfiguratie. Stel de ’temperatuur’ van het model lager in, bijvoorbeeld 0,2 in plaats van 0,7. Dit zorgt dat de agent minder creatief is en dichter bij de instructies blijft. Combineer dit met een outputschema dat de post in een vast formaat vereist: tekst, hashtags, en een afbeelding-URL. Als een van deze velden ontbreekt, laat de workflow dan een foutmelding geven. Dit voorkomt dat er onvolledige of ongepaste posts worden gepubliceerd.

Bron: n8n blog