Het Britse AI Security Institute heeft onafhankelijk getest hoe gevaarlijk nieuwe AI-modellen zijn voor cybersecurity, en de resultaten geven Nederlandse ondernemers een objectief kompas om reële risico’s te scheiden van marketinghype. Dit betekent dat je niet langer afhankelijk bent van de claims van leveranciers zelf om te beoordelen of een tool veilig is voor je bedrijf.

Wat er aan de hand is

Het Britse AI Security Institute (AISI), een overheidsinstelling, heeft een eerste evaluatie gepubliceerd van het nieuwe Mythos Preview-model van AI-bedrijf Anthropic. Anthropic claimde zelf dat het model “opvallend bekwaam is in computerbeveiligingstaken” en beperkte de eerste release tot een selecte groep partners. De onafhankelijke overheidsproeven moeten deze claims nu objectief toetsen. AISI test al sinds begin 2023 verschillende AI-modellen met speciale ‘Capture the Flag’-uitdagingen, waarbij een AI moet proberen digitale systemen binnen te dringen. Waar GPT-3.5 Turbo in 2023 nog moeite had met basistaken, kan het Mythos Preview-model nu meer dan 85 procent van diezelfde taken voltooien. De bevindingen tonen aan dat Mythos niet significant beter is dan andere geavanceerde modellen in individuele beveiligingstaken, maar mogelijk wel uitblinkt in het aan elkaar knopen van die taken tot meerstapsaanvallen die nodig zijn om systemen volledig te infiltreren.

Wat dit betekent

Dit betekent dat er nu een onafhankelijke, publieke bron is om de veiligheidsclaims van AI-leveranciers te verifiëren. Voor ondernemers verandert de dynamiek: je hoeft niet meer blind te varen op wat een verkoper je vertelt over de veiligheid van hun AI-tool. De tests van AISI fungeren als een soort consumentenbond voor AI-beveiliging. Het feit dat een overheidsinstelling dit doet, onderstreept de ernst van de risico’s. De resultaten laten zien dat de capaciteiten van AI-modellen voor cyberaanvallen snel toenemen – van bijna niets kunnen in 2023 naar 85% van basistaken kunnen voltooien nu. Dit is een duidelijke waarschuwing dat de dreiging reëel is en groeit. Voor elke ondernemer die AI-tools overweegt, wordt het nu mogelijk om op basis van feiten een risico-afweging te maken, in plaats van op basis van angst of marketing.

Hoe je dit kunt toepassen

De praktische toepassing hangt sterk af van hoe en waar je AI inzet. Het kernprincipe is: gebruik onafhankelijke testresultaten als ijkpunt bij het kiezen en implementeren van tools.

Als je een nieuwe AI-tool voor klantenservice of content overweegt… Vraag dan niet alleen naar functionaliteiten, maar ook naar de beveiligingsarchitectuur. Verwijs naar de openbare testresultaten van instituten zoals het Britse AISI en vraag hoe de leverancier ervoor zorgt dat hun model niet misbruikt kan worden voor aanvallen. Dit zet de leverancier aan het denken en toont dat je geïnformeerd bent. Overweeg om toegang tot de tool te beperken tot een beveiligde omgeving, zeker in de testfase.

Als je AI gebruikt voor het automatiseren van bedrijfsprocessen of data-analyse… Dan is de kans groot dat de tool toegang heeft tot gevoelige data of systemen. Een mogelijkheid is om een interne risico-assessment te doen voordat je een tool volledig integreert. Gebruik de bevindingen uit de overheidsproeven – zoals het vermogen tot meerstapsaanvallen – als checklist. Stel jezelf de vraag: “Als dit model kwaad zou willen, welke stappen in mijn systeem zou het dan kunnen nemen?” Dit helpt je zwakke plekken te identificeren voordat je de tool live zet.

Als je verantwoordelijk bent voor IT-beveiliging in een MKB… Je zou de publicaties van het AISI kunnen volgen als een bron voor dreigingsinformatie. Deze tests geven een realistisch beeld van wat de nieuwste AI-modellen daadwerkelijk kunnen, zonder de overdrijving van marketing of de bagatellisering van leveranciers. Gebruik deze inzichten om je security-richtlijnen voor AI-gebruik bij te werken. Een concrete suggestie is om een beleid op te stellen waarin staat dat elke nieuwe AI-tool eerst getoetst moet worden aan de hand van de laatste onafhankelijke evaluaties voordat deze wordt goedgekeurd voor gebruik.

Bron: Arstechnica