AI-malware kan Microsoft Defender omzeilen — open-source LLM overtreft de beveiligingstool ongeveer 8% van de tijd na drie maanden training
Onderzoekers zijn van plan om een model te presenteren dat in staat is om de beveiligingstools van Microsoft ongeveer 8% van de tijd te slim af te zijn tijdens Black Hat 2025.
Cybersecurity
De cybersecurity-industrie heeft de schrik van Chicken Little overtroffen. Bedrijven zijn er snel bij om te verkondigen dat AI de beveiligingslandschap fundamenteel zal veranderen. Dit betekent dat elke nieuwe mogelijkheid die aan een groot taalmodel (LLM) wordt toegevoegd, kan worden omgevormd tot een “de lucht valt naar beneden”-moment. Het recentste voorbeeld is de ontwikkeling van AI-malware die met succes Microsoft Defender kan omzeilen.
Dark Reading meldde woensdag dat onderzoekers van Outflank van plan zijn om deze nieuwe AI-malware in augustus 2025 op Black Hat te demonstreren. Maar gooi Windows Defender nog niet weg.
Volgens hun website is Outflank een “hooggekwalificeerd red team dat bestaat uit ervaren professionals” die “gespecialiseerd zijn in het beoordelen van de weerbaarheid tegen geavanceerde bedreigingen en het trainen van beveiligingsteams voor verbeterde incidentrespons.” De hoofdspecialist op offensief gebied, Kyle Avery, vertelde aan Dark Reading dat hij drie maanden en ongeveer $1.500 heeft besteed aan het trainen van het open-source Qwen 2.5 LLM om Microsoft Defender te omzeilen. Dit is een vrij stevige, maar niet onoverkomelijke initiële investering voor deze capaciteit.
Maar hier komt de crux: het rapport meldde dat Avery’s “model in staat was om malware te genereren die ongeveer 8% van de tijd Microsoft Defender voor Endpoint volledig kon omzeilen.” Dit is een positieve vergelijking met andere modellen; hij vertelde Dark Reading dat “Anthropic’s AI dit minder dan 1% van de tijd kon, en DeepSeek’s minder dan 0,5% van de tijd,” wat betekent dat zijn model aanzienlijk effectiever is voor deze taak. Toch is het verre van de plug-and-play prestaties die de meeste script kiddies zouden verwachten.
Modellen zoals deze worden verwacht in de loop van de tijd beter te worden. Blijkbaar hebben de chatbot-baronnen de techniek van versterkend leren ontdekt, een methode die machine learning-onderzoekers sinds de jaren ’90 gebruiken om de prestaties van hun modellen te verbeteren. Theoretisch gezien zouden ze dus genoeg ‘gestraft’ kunnen worden om hun vermogen om deze taak uit te voeren te verbeteren. Een ondernemende cybercrimineel met een overvloed aan GPU’s zou bereid kunnen zijn om meer tijd en geld aan deze taak te besteden.
Dit roept twee vragen op: Zijn we zeker dat er geen bovengrens is aan deze mogelijkheden, en wat gebeurt er wanneer Microsoft Defender wordt verbeterd om dit tegen te gaan? Microsoft staat niet bepaald bekend om het up-to-date houden van zijn software met de nieuwste functies, maar zelfs Kladblok ondersteunt nu Markdown.
Dit alles is geen afbreuk aan de bevindingen van Outflank. Dit onderzoek is een behoorlijk vaardig bewijs van concept voor alle doemdenken waar de beveiligingsindustrie zich mee bezig heeft gehouden sinds ze zich aan de AI-hypekar heeft vastgebonden. Maar ik maak me meer zorgen over gelekte red teaming-tools die worden gebruikt om malware te verspreiden, het feit dat één persoon die voor een social engineering-aanval valt al genoeg is om de operaties van een bedrijf te verstoren, en de mogelijkheid voor hackers om gebruik te maken van de surveillance staat, dan over ‘vibe hacking’.
Inspirerende Toekomst in Cybersecurity
De opkomst van AI in de cybersecurity-sector is niet alleen een uitdaging, maar biedt ook ongekende mogelijkheden. Terwijl we ons voorbereiden op de toekomst, is het cruciaal dat we niet alleen kijken naar de dreigingen, maar ook naar de innovaties die ons in staat stellen om deze aan te pakken. Samenwerking tussen onderzoekers, bedrijven en overheden kan ons helpen om een veiliger digitaal landschap te creëren.
De lessen die we leren van deze ontwikkelingen kunnen ons inspireren om proactief te zijn in onze benadering van cybersecurity. Het is een kans voor ons allemaal om onze kennis en vaardigheden te verbeteren, om te bouwen aan robuustere systemen en om samen te werken aan een veiligere toekomst. Laten we deze uitdaging aangrijpen als een kans om ons aan te passen, te leren en te groeien in een wereld die voortdurend in beweging is.
Door ons te concentreren op samenwerking en innovatie kunnen we niet alleen de huidige bedreigingen het hoofd bieden, maar ook de basis leggen voor een toekomst waarin technologie ons beschermt in plaats van ons in gevaar brengt. Laten we samen deze reis maken en de mogelijkheden van AI omarmen, niet als een bedreiging, maar als een kracht voor goed in de wereld van cybersecurity.
