Het Britse AI Security Institute (AISI) heeft met onafhankelijk onderzoek aangetoond dat geavanceerde AI-modellen zoals Anthropic’s Mythos Preview steeds beter worden in het uitvoeren van complexe cyberaanvallen door meerdere stappen te combineren. Dit betekent dat de dreiging verschuift van geïsoleerde hackpogingen naar geautomatiseerde, multi-staps aanvallen die systemen volledig kunnen infiltreren.

Wat er aan de hand is

Het VK’s AI Security Institute (AISI) heeft een eerste onafhankelijke evaluatie gepubliceerd van het Mythos Preview-model van Anthropic. Dit volgt op de aankondiging van Anthropic dat het model “opvallend bekwaam is in computerbeveiligingstaken”. Het AISI test AI-modellen sinds begin 2023 met speciaal ontworpen ‘Capture the Flag’-uitdagingen. Waar GPT-3.5 Turbo toen nog moeite had met basisniveau-taken, kan Mythos Preview nu meer dan 85 procent van diezelfde taken op ‘Apprentice’-niveau voltooien. De kernbevinding is dat Mythos niet significant beter is dan andere recente topmodellen in individuele beveiligingstaken, maar zich mogelijk onderscheidt door zijn vermogen om deze taken effectief aan elkaar te koppelen tot de meerstaps aanvallen die nodig zijn om systemen volledig binnen te dringen.

Wat dit betekent

Dit onderzoek scheidt de hype van het reële risico voor ondernemers. Het betekent niet dat AI plotseling alle beveiliging kraakt, maar wel dat de aard van het gevaar verandert. Waar je voorheen vooral alert moest zijn op geïsoleerde phishing-pogingen of gerichte exploits, neemt nu het risico toe op geautomatiseerde aanvallen die zelfstandig een kwetsbaarheid vinden, misbruiken en vervolgens verder het netwerk in bewegen. Vooral voor het MKB is dit relevant omdat beveiliging vaak gericht is op het blokkeren van bekende, enkelvoudige aanvallen. Een AI die zelf stappen kan plannen, kan zwakke schakels in een keten vinden die afzonderlijk misschien niet kritiek lijken. Het onderzoek van een onafhankelijke overheidsinstantie als het AISI geeft een realistischer beeld dan de claims van een leverancier alleen.

Hoe je dit kunt toepassen

De praktische toepassing hangt af van jouw situatie. Het Britse onderzoek benadrukt het belang van een gelaagde beveiligingsaanpak, omdat AI-modellen steeds beter worden in het combineren van aanvallen.

Als je een online dienst of webshop runt… Een geautomatiseerde AI-aanval zou kunnen proberen in te loggen, daarna toegang te krijgen tot de database en vervolgens data te exfiltreren. Overweeg om niet alleen sterke wachtwoorden te gebruiken, maar ook je systemen te segmenteren. Zorg ervoor dat een inbraak in het CMS niet meteen toegang geeft tot de klantendatabase of de betaalomgeving.

Als je een klein team aanstuurt of zelfstandige bent… De grootste risico’s liggen vaak bij menselijke fouten, zoals het klikken op een link, die AI kan uitbuiten. Een mogelijkheid is om de awareness te verhogen met praktische, korte trainingen die specifiek gaan over multi-staps aanvallen. Leg uit dat een onschuldig lijkende email de eerste stap kan zijn van een geautomatiseerd proces.

Als je samenwerkt met freelancers of externe partijen… Hun beveiliging is een schakel in jouw keten. Je zou in gesprek kunnen gaan over basisbeveiligingsprincipes en afspraken kunnen maken over het gebruik van multi-factorauthenticatie voor gedeelde systemen. Dit maakt het voor een geautomatiseerde aanval moeilijker om van het ene zwakke punt naar het volgende over te springen.

Bron: Arstechnica