AI-agents zijn digitale medewerkers die dezelfde beveiliging verdienen als menselijke collega’s. Het recente incident waarbij hackers maandenlang Instagram-accounts konden stelen door Meta’s AI-chatbot te misleiden, laat zien wat er gebeurt als bevoegdheden niet goed zijn afgebakend. Voor ondernemers betekent dit: behandel elke AI-agent alsof het een nieuwe medewerker is, met duidelijke toegangsrechten en controle.

Wat er aan de hand is

Begin juni meldden hackers dat ze maandenlang Instagram-accounts konden stelen door misbruik te maken van Meta’s AI-chatbot. Ze misleidden de bot om een wachtwoordherstel uit te voeren en kregen zo volledige controle over accounts. Het incident toont aan hoe snel een AI-agent kan ontsporen wanneer bevoegdheden niet goed zijn afgebakend. Securitybedrijven en onderzoekers van onder meer OWASP en cloudsecurity-platform Wiz adviseren daarom om AI-agents net zo streng te beveiligen als menselijke medewerkers.

Wat dit betekent

Voor ondernemers betekent dit dat AI-agents niet langer als een ‘gratis extra’ kunnen worden behandeld. Ze hebben toegang tot systemen, data en API’s, en kunnen worden gemanipuleerd. OWASP waarschuwt dat te ruime permissies van AI-agents direct leiden tot escalaties en misbruik van API’s. Het advies: AI-agents horen alleen toegang te krijgen tot de specifieke handelingen die nodig zijn voor één taak – niet meer. Dit geldt voor elke sector, van e-commerce tot zorg en administratie.

Hoe je dit kunt toepassen

Als je een webshop runt en een AI-agent inzet voor klantenservice. Je zou kunnen overwegen om de agent alleen toegang te geven tot orderstatus en retourinformatie, niet tot klantaccounts of betalingsgegevens. Een optie is om elke wijziging aan een account, zoals een adreswijziging, te laten bevestigen via een vertrouwd kanaal, zoals het bestaande e-mailadres van de klant.

Als je een team aanstuurt en AI-agents gebruikt voor planning of rapportages. Een mogelijkheid is om de agent alleen leesrechten te geven op de benodigde data, en schrijfrechten alleen voor specifieke taken. Overweeg om de agent te behandelen als een externe opdrachtnemer: beperkte toegang, audit-logging en verplichte verificatie bij kritieke acties.

Als je in de zorg werkt en AI-agents inzet voor het verwerken van patiëntgegevens. Je zou kunnen overwegen om de agent alleen toegang te geven tot geanonimiseerde data, en elke wijziging aan een dossier te laten bevestigen via een vertrouwd kanaal, zoals een authenticator-app. Een optie is om de agent te zien als een niet-vertrouwde identiteit, met dezelfde controles als een externe dienstverlener.

Als je een administratief bedrijf runt en AI-agents gebruikt voor facturatie of contractbeheer. Een mogelijkheid is om de agent alleen toegang te geven tot de specifieke documenten die nodig zijn voor één taak, en geen toegang tot het hele systeem. Overweeg om elke wijziging aan inloggegevens of machtigingen te laten bevestigen via een bestaand, vertrouwd kanaal, zoals het geregistreerde telefoonnummer.

Als je een marketingbureau hebt en AI-agents inzet voor contentcreatie of social media. Je zou kunnen overwegen om de agent alleen toegang te geven tot de specifieke accounts die nodig zijn voor één campagne, en geen toegang tot alle accounts. Een optie is om de agent te behandelen als een niet-vertrouwde identiteit, met audit-logging en verplichte verificatie bij elke publicatie of wijziging.

Bron: Computable