AI-agents in je bedrijf verdienen dezelfde strenge beveiliging als je menselijke medewerkers. Het recente incident waarbij hackers via Meta’s AI-chatbot maandenlang Instagram-accounts konden stelen, laat zien wat er misgaat als bevoegdheden niet goed zijn afgebakend. De les is helder: een AI-agent is een digitale medewerker die je moet behandelen alsof hij net is aangenomen – met beperkte toegang, verificatie en controle.

Wat er aan de hand is

Begin juni meldden hackers dat ze Instagram-accounts konden overnemen door Meta’s AI-chatbot te misleiden. Ze manipuleerden de bot om een wachtwoordherstel uit te voeren, waarna ze volledige controle over de accounts kregen. Het incident onderstreept een breder probleem: AI-agents krijgen vaak te ruime toegang tot systemen, terwijl ze net zo vatbaar zijn voor manipulatie als mensen. De stichting Open Web Application Security Project (OWASP) waarschuwt in een privacy-paper dat te ruime permissies direct leiden tot escalaties en misbruik van API’s. Securitybedrijven en onderzoekers pleiten daarom voor een aanpak waarin AI-agents dezelfde beveiliging krijgen als externe opdrachtnemers of dienstverleners.

Wat dit betekent

Voor ondernemers betekent dit dat je AI-agents niet kunt behandelen als simpele tools. Ze hebben toegang tot systemen, kunnen acties uitvoeren en worden steeds vaker ingezet voor taken zoals klantenservice, dataverwerking of accountbeheer. Als je die toegang niet goed inricht, loop je het risico dat een fout of een kwaadwillende prompt leidt tot datalekken of fraude. Vooral in sectoren zoals e-commerce, financiële dienstverlening en zorg, waar gevoelige gegevens worden verwerkt, is dit een direct risico. Het Meta-incident laat zien dat zelfs grote techbedrijven hier fouten maken – voor het MKB is de kans op schade minstens zo groot, omdat beveiliging vaak minder strak is georganiseerd.

Hoe je dit kunt toepassen

Als je een AI-chatbot inzet voor klantenservice, beperk dan zijn bevoegdheden tot het absolute minimum. Geef de chatbot alleen toegang tot de handelingen die nodig zijn voor één specifieke taak, zoals het opvragen van orderstatussen. Laat hem nooit zelfstandig e-mailadressen of wachtwoorden wijzigen. Je zou kunnen overwegen om elke kritieke actie, zoals een adreswijziging, te laten bevestigen via een vertrouwd kanaal, zoals het bestaande e-mailadres van de klant. Zo voorkom je dat een misleide chatbot een account overneemt.

Als je een AI-agent gebruikt voor het beheren van gebruikersaccounts, behandel hem dan als een niet-vertrouwde identiteit. Geef hem dezelfde controles als een externe medewerker: beperkte toegang, verplichte logging van alle acties en een verificatiestap bij elke wijziging van inloggegevens of machtigingen. Een optie is om een authenticator-app of een bestaand telefoonnummer te gebruiken als vertrouwd kanaal voor bevestiging. De agent mag nooit vertrouwen op instructies uit een chatvenster of op nieuwe, niet-geverifieerde gegevens.

Als je AI-agents inzet voor dataverwerking, bescherm ze dan tegen prompt-injectie en contextvergiftiging. Dit betekent dat je de invoer die de agent verwerkt, moet filteren op misleidende instructies. Overweeg om documenten of websites die de agent raadpleegt, vooraf te scannen op verdachte patronen. Je kunt ook een aparte, geïsoleerde omgeving inrichten waarin de agent werkt, zodat schadelijke instructies geen toegang krijgen tot je kernsystemen.

Als je een team aanstuurt dat AI-agents implementeert, zorg dan voor audit-logging van alle acties die de agent uitvoert. Dit is niet alleen handig voor foutopsporing, maar ook om achteraf te kunnen zien of een agent is misbruikt. Je zou kunnen afspreken dat elke agent een unieke digitale identiteit krijgt, met een logboek dat minimaal een maand wordt bewaard. Zo kun je bij een incident snel herleiden wat er is gebeurd.

Als je een webshop runt en overweegt een AI-agent in te zetten voor het beheren van bestellingen, begin dan met een minimale set permissies. Geef de agent alleen leesrechten op ordergegevens en geen schrijfrechten op klantaccounts. Een mogelijke aanpak is om elke wijziging aan een bestelling, zoals een adreswijziging, te laten goedkeuren door een menselijke medewerker via een apart kanaal, zoals een e-mailbevestiging. Dit kost iets meer tijd, maar voorkomt dat een fout in de agent leidt tot verkeerde leveringen of fraude.

Bron: Computable