De Britse overheid heeft onafhankelijk getest hoe gevaarlijk een geavanceerd AI-model kan zijn voor cybersecurity, en de resultaten geven een realistischer beeld van het risico dan de marketinghype. Het model is vooral bedreigend omdat het zelfstandig meerdere hackstappen kan combineren tot een complete aanval, een vaardigheid waar eerdere modellen op stukliepen.

Wat er aan de hand is

Het Britse AI Security Institute (AISI) heeft een eerste evaluatie gepubliceerd van het ‘Mythos Preview’-model van AI-bedrijf Anthropic. Dit model wordt momenteel beperkt uitgebracht aan een selecte groep partners, omdat het volgens het bedrijf “opvallend bekwaam is in computerbeveiligingstaken”. De onafhankelijke overheidsinstelling wilde deze claims toetsen. Sinds begin 2023 test het AISI AI-modellen met speciaal ontworpen ‘Capture the Flag’-uitdagingen, waarbij een model moet inbreken in beveiligde systemen. Waar GPT-3.5 Turbo in 2023 nog geen enkele van de laagste ‘Apprentice’-taken kon voltooien, kan Mythos Preview nu meer dan 85 procent van diezelfde taken succesvol afronden. De bevindingen, gepubliceerd door onafhankelijk techmedium Ars Technica, tonen aan dat Mythos niet significant beter is dan andere recente topmodellen in individuele beveiligingstaken. Het onderscheidende – en potentieel gevaarlijke – vermogen zit in het effectief aan elkaar knopen van die taken tot een meerstaps aanval, wat nodig is om systemen volledig te infiltreren.

Wat dit betekent

Dit onderzoek verscherpt het beeld van AI als cyberdreiging van theoretisch risico naar praktisch gevaar. Voor ondernemers en IT-managers betekent dit dat de dreiging niet langer alleen gaat over geautomatiseerde phishing-mails of het kraken van losse wachtwoorden. Het gaat om systemen die zelfstandig kwetsbaarheden kunnen vinden, exploiteren en daarna verder kunnen reizen in een netwerk – een proces dat voorheen menselijke expertise en tijd kostte. Voor het MKB is dit relevant omdat veel bedrijven afhankelijk zijn van standaardsoftware, plug-ins en clouddiensten waar bekende kwetsbaarheden in kunnen zitten. Een AI die deze automatisch kan vinden en misbruiken, schaalt de dreiging op. Het goede nieuws uit het onderzoek is dat er geen magische ‘superhacker-AI’ is ontstaan; de basisbeveiligingsprincipes blijven geldig. Het slechte nieuws is dat de drempel voor het uitvoeren van complexe aanvallen daalt, waardoor ook minder geschoolde aanvallers geavanceerdere tools tot hun beschikking krijgen.

Hoe je dit kunt toepassen

De praktische toepassing hangt sterk af van jouw specifieke situatie en sector. Het overheidsonderzoek benadrukt vooral het belang van robuuste basisbeveiliging, omdat AI-aanvallen daar het eerst op zullen testen.

Als je een klein online bedrijf runt met een webshop en klantgegevens, is je eerste verdediging niet de nieuwste AI-tool, maar het consequent toepassen van basisprincipes. Een mogelijkheid is om je patch-beleid te verscherpen: zorg dat alle software, inclusief CMS-plugins en betalingskoppelingen, automatisch updates ontvangt. Kwetsbaarheden in verouderde software zijn het laaghangend fruit voor geautomatiseerde aanvallen.

Als je een IT-verantwoordelijkheid draagt in een groter MKB, zou je de bevindingen kunnen gebruiken om risicodialoog met de directie te voeden. In plaats van te spreken over abstracte ‘AI-risico’s’, kun je wijzen op het concrete gevaar van ‘geautomatiseerde, meerstaps aanvallen’. Overweeg om je security-audits niet alleen te laten kijken naar individuele lekken, maar ook naar hoe een aanvaller van het ene lek naar het andere zou kunnen springen binnen je netwerk (de zogenaamde ‘attack path analysis’).

Als je diensten levert aan andere bedrijven, zoals hosting, boekhouding of CRM, ligt je verantwoordelijkheid ook bij de beveiliging van je eigen platform. Je zou kunnen investeren in ‘intrusion detection’-systemen die niet alleen op bekende malware scannen, maar ook ongebruikelijke, geautomatiseerde patroontjes in netwerkverkeer kunnen herkennen, wat een indicatie kan zijn van een AI-gedreven verkenningsaanval.

De kern is dat je je niet blind hoeft te staren op één geavanceerd model, maar dat je de algemene trend erkent: cyberaanvallen worden geautomatiseerder en volhardender. Het advies van overheidsinstituten zoals het AISI is daarom vaak gericht op het verhogen van de basishygiëne en het voorbereid zijn op doorgezette aanvallen, in plaats van op het specifiek bestrijden van één tool.

Bron: Ars Technica