Het antwoord: Een nieuwe methode van het MIT Media Lab, ’neural transparency’ genaamd, geeft gebruikers een inkijkje in de interne patronen van een AI-model vóórdat de chatbot ook maar één woord zegt. Voor ondernemers betekent dit een mogelijke manier om AI-gedrag te controleren en te sturen vóór inzet in klantcontact of marketing, in plaats van achteraf problemen te ontdekken.

Wat er aan de hand is

Onderzoekers van het MIT Media Lab, onder leiding van assistent-professor Pat Pataranutaporn, hebben een paper gepresenteerd op de ACM Conference on Intelligent User Interfaces. Ze introduceren daarin ’neural transparency’: een tool die is ontworpen voor gewone gebruikers, niet voor AI-experts. Het idee is dat miljoenen mensen nu persoonlijke AI-chatbots en agents bouwen via simpele tekstprompts, maar weinig grip hebben op hoe die prompts het uiteindelijke gedrag van de AI bepalen.

De methode combineert inzichten uit mens-AI-interactie en ‘mechanistic interpretability’, een onderzoeksveld dat probeert te begrijpen wat er binnenin een neuraal netwerk gebeurt. De onderzoekers vergelijken de interne activaties van het model wanneer het wordt gevraagd een bepaalde eigenschap te vertonen, zoals empathie of toxiciteit, met wanneer het het tegenovergestelde moet doen. Het verschil vormt een soort ‘gedragsrichting’ binnen het model. Wanneer een gebruiker een systeemprompt schrijft, kan die richting worden gecontroleerd om te zien welk gedrag de AI waarschijnlijk zal vertonen.

De focus ligt bewust op het ontwerpmoment: het moment waarop je de AI configureert, vóórdat hij wordt ingezet. Volgens de onderzoekers is dat beter dan problemen achteraf te moeten ontdekken, wanneer een chatbot al in de wildernis is losgelaten.

Wat dit betekent

Voor ondernemers die AI inzetten voor klantcontact, marketing of interne processen, raakt dit aan een kernprobleem: je weet niet precies wat je krijgt totdat je het ziet. Een chatbot die je hebt ingesteld met een vriendelijke toon kan in de praktijk toch bot of juist overdreven slijmerig reageren. Dat risico is groter naarmate meer mensen zelf AI-agents bouwen met eigen prompts, zonder dat ze de onderliggende techniek begrijpen.

De methode van MIT is nog geen kant-en-klaar product, maar het signaal is duidelijk: er komt een verschuiving aan van ‘AI inzetten en hopen dat het goed gaat’ naar ‘AI controleren vóór je hem loslaat’. Voor kleinere bedrijven zonder AI-specialist in huis is dat relevant, omdat zij vaak afhankelijk zijn van standaardtools en eigen prompts. Als deze techniek doorontwikkelt, zou het kunnen betekenen dat je binnenkort eenvoudig kunt zien of je marketingchatbot geneigd is tot hallucineren of juist tot overdreven meegaand gedrag.

Hoe je dit kunt toepassen

Als je een webshop runt met een AI-chatbot voor klantvragen, overweeg dan om niet alleen te testen wat de chatbot antwoordt, maar ook hoe hij is geconfigureerd. Je zou kunnen controleren of je systeemprompt onbedoeld eigenschappen als slijmerigheid of ongeduld versterkt. Een mogelijke aanpak is om je prompts te schrijven met expliciete gedragscriteria, zoals ‘wees feitelijk en kort’, en die criteria vervolgens te toetsen met verschillende vragen.

Als je een marketingteam aanstuurt dat AI inzet voor contentcreatie, is het zinvol om een vast controlemoment in te bouwen vóór publicatie. De MIT-methode suggereert dat je AI-gedrag kunt voorspellen op basis van interne patronen. Je zou kunnen experimenteren met het vergelijken van outputs bij verschillende prompts om te zien welke neigingen je model heeft, bijvoorbeeld of het geneigd is tot overdrijven of juist tot onderstatement.

Als je in de zorg of een andere gevoelige sector werkt, waar fouten in AI-communicatie grote gevolgen kunnen hebben, is voorzichtigheid geboden. De onderzoekers benadrukken dat eigenschappen als empathie en toxiciteit meetbaar zijn in de interne activaties van een model. Je zou kunnen overwegen om, zodra deze tooling beschikbaar komt, een extra validatiestap in te bouwen vóór je AI inzet voor patiëntcontact of cliëntcommunicatie.

Als je een AI-agent bouwt voor interne processen, zoals het beantwoorden van HR-vragen of het samenvatten van documenten, kun je nu al beginnen met het documenteren van gewenst gedrag. Schrijf op welke eigenschappen je belangrijk vindt, zoals nauwkeurigheid of neutraliteit, en test je prompts systematisch. Wanneer neural transparency beschikbaar wordt, kun je die criteria direct gebruiken om je modellen te controleren.

De praktische toepassing hangt af van jouw situatie, maar de kern is helder: wacht niet tot een AI-agent ongewenst gedrag vertoont in de praktijk. Bouw nu al controlemomenten in je workflow, zodat je weet wat je AI doet vóór hij met klanten of collega’s praat.

Bron: MIT News