Je AI-chatbot of agent kan een groot risico vormen voor de beveiliging van jouw bedrijf als je hem niet dezelfde strenge regels geeft als een menselijke medewerker. Zonder duidelijke grenzen kan een AI-agent per ongeluk klantgegevens delen, wachtwoorden resetten of toegang geven tot systemen waar hij niets te zoeken heeft. Het goede nieuws is dat je met een paar concrete maatregelen dit risico drastisch kunt verkleinen.

Wat er aan de hand is

Hackers hebben begin juni aangetoond hoe kwetsbaar AI-agents kunnen zijn. Ze wisten maandenlang Instagram-accounts te stelen door Meta’s AI-chatbot te misleiden. De bot voerde een wachtwoordherstel uit en gaf de hackers volledige controle over de accounts. Het incident laat zien dat een AI-agent snel kan ontsporen als zijn bevoegdheden niet goed zijn afgebakend. Volgens de Open Web Application Security Project (OWASP), een stichting voor softwarebeveiliging, krijgen AI-agents vaak te brede toegang tot systemen, terwijl ze net zo makkelijk te manipuleren zijn als mensen. Security-onderzoekers van cloudplatform Wiz adviseren om AI-agents te behandelen als digitale identiteiten zonder menselijke gebruiker, maar met echte permissies. Ze moeten dezelfde controles krijgen als externe opdrachtnemers: beperkte toegang, logging en verplichte verificatie.

Wat dit betekent

Voor jou als MKB-ondernemer betekent dit dat je niet kunt vertrouwen op de standaardinstellingen van een AI-tool. Of je nu een chatbot op je webshop hebt, een AI-assistent voor klantenservice of een agent die administratieve taken uitvoert: elk systeem dat zelfstandig acties kan ondernemen, is een potentieel doelwit. Het risico is niet alleen dat hackers je systemen binnendringen, maar ook dat jouw eigen AI per ongeluk vertrouwelijke informatie deelt. Denk aan klantgegevens, wachtwoorden of interne documenten. De impact kan groot zijn: boetes vanwege datalekken, reputatieschade en verlies van klantvertrouwen. Het goede nieuws is dat de oplossing niet ingewikkeld of duur hoeft te zijn. Het gaat om het toepassen van basisprincipes van beveiliging, maar dan specifiek voor AI.

Hoe je dit kunt toepassen

Als je een chatbot op je webshop hebt die bestellingen kan wijzigen. Je zou kunnen instellen dat de chatbot alleen bestaande bestellingen mag bekijken, niet wijzigen. Als een klant een adreswijziging wil, laat de chatbot dan een verzoek aanmaken dat een menselijke medewerker beoordeelt. De chatbot krijgt dan geen toegang tot het systeem om zelf wijzigingen door te voeren. Een optie is om per taak te bepalen wat de minimale rechten zijn die nodig zijn, en niet meer dan dat. Dit principe heet ‘minimale bevoegdheden’ en is de eerste stap.

Als je een AI-assistent gebruikt voor klantenservice die toegang heeft tot klantgegevens. Overweeg om elke kritieke actie, zoals het resetten van een wachtwoord of het wijzigen van een e-mailadres, te laten bevestigen via een vertrouwd kanaal. Dat kan bijvoorbeeld door een bevestigingsmail te sturen naar het bestaande e-mailadres van de klant. De AI mag nooit vertrouwen op nieuwe informatie uit een chatgesprek, zoals een zojuist opgegeven e-mailadres, omdat dat eenvoudig te manipuleren is. Dit is precies wat er misging bij het Meta-incident: de chatbot vertrouwde op instructies uit het chatvenster.

Als je een AI-agent inzet voor interne administratie, zoals het verwerken van facturen. Een mogelijkheid is om de agent te behandelen als een externe medewerker. Geef hem alleen toegang tot de systemen die hij nodig heeft voor zijn specifieke taak, niet tot het hele netwerk. Zorg dat elke actie wordt gelogd, zodat je achteraf kunt zien wat er is gebeurd. En stel in dat wijzigingen aan belangrijke gegevens, zoals betalingsgegevens of contracten, altijd door een mens moeten worden goedgekeurd. Je zou kunnen beginnen met het in kaart brengen van alle acties die jouw AI-agent kan uitvoeren en per actie bepalen of die automatisch mag of niet.

Als je overweegt een AI-agent te implementeren voor een nieuwe taak. Een goede vuistregel is om te beginnen met een heel beperkte set rechten en die pas uit te breiden als je zeker weet dat het veilig is. Je kunt de agent eerst in een testomgeving laten draaien, zonder toegang tot echte klantgegevens. Pas als je ziet dat hij zich aan de regels houdt, kun je hem langzaam meer rechten geven. Het is beter om te strak te beginnen dan te ruim, want achteraf rechten afpakken is lastiger.

Bron: Computable