Nieuwe AI-Gebaseerde malware kan Microsoft Defender omzeilen

Waar al langer voor werd gewaarschuwd, is nu werkelijkheid geworden: AI die zelfstandig malware ontwikkelt die Microsoft Defender for Endpoint weet te omzeilen. Een recent proof-of-concept (PoC), dat volgende maand wordt gepresenteerd op Black Hat Las Vegas, laat zien hoe groot taalmodellen (LLM’s) doelgericht kunnen worden ingezet om geavanceerde, nauwelijks detecteerbare malware te creëren.

Dit specifieke PoC werd ontwikkeld door Kyle Avery, principal offensive specialist bij het Nederlandse cybersecuritybedrijf Outflank. In slechts drie maanden tijd en met een budget van minder dan 1.600 dollar slaagde Avery erin om het open-source AI-model Qwen 2.5 zodanig te trainen dat het malware produceert die grotendeels onzichtbaar blijft voor Microsoft Defender.

Zelflerende malware-ontwikkeling met AI

Voor het trainen van het model werd gebruikgemaakt van reinforcement learning, een zelflerende techniek waarbij de AI wordt beloond voor succesvolle acties en ‘gestraft’ voor foutieve resultaten. In dit geval werd het LLM ondergebracht in een veilige sandbox-omgeving, samen met Defender. Elke keer dat het model een payload genereerde die door Defender werd gedetecteerd, kreeg het een negatieve feedback. Wanneer een payload onder de radar bleef, volgde positieve bekrachtiging. Door duizenden iteraties op deze manier door te voeren, werd het model steeds beter in het genereren van kwaadaardige code die beveiligingssoftware weet te ontwijken.

Na deze trainingsfase wist het model in ongeveer 8% van de pogingen volledig onopgemerkte malware te produceren. Dat betekent dat bij gemiddeld één op de twaalf pogingen een volledig ondetecteerbare variant wordt gegenereerd – een verontrustend hoge efficiëntie. Wat nog zorgwekkender is: dit succespercentage bleef verder stijgen naarmate het model meer ervaring opdeed, wat suggereert dat er nog geen plafond is bereikt.

Nieuwe fase in cyberdreiging

Hoewel dit experiment nog geen wijdverspreide, grootschalige inzet van AI-malware aantoont, is het wel een duidelijk signaal dat kunstmatige intelligentie een krachtige bondgenoot kan worden van cybercriminelen. Met relatief beperkte middelen kunnen kwaadwillenden hun eigen modellen trainen, toegespitst op het ontwijken van specifieke beveiligingssystemen.

Een belangrijk inzicht uit deze PoC is dat generieke AI-modellen zoals ChatGPT niet zomaar inzetbaar zijn voor het schrijven van effectieve malware. In plaats daarvan vereist het succesgerichte, gespecialiseerde training op basis van concrete terugkoppeling via reinforcement learning. Alleen dan leert het model zelfstandig de juiste patronen herkennen en verfijnen, zonder dat het vooraf expliciete voorbeelden van malware nodig heeft.

Beperking én risico

Een belangrijk nadeel voor aanvallers is dat deze methode telkens opnieuw moet worden toegepast voor elk specifiek beveiligingsplatform dat men wil omzeilen. Een AI-model dat succesvol is tegen Microsoft Defender, zal bijvoorbeeld opnieuw getraind moeten worden om andere antivirussoftware zoals CrowdStrike of SentinelOne te omzeilen. Toch lijkt dit weinig af te doen aan de aantrekkingskracht van deze aanpak voor cybercriminelen. De lage kosten, het hoge rendement, en de autonome leerkracht van AI maken deze technologie bijzonder aantrekkelijk voor wie kwaad in de zin heeft.

Dit alles onderstreept de noodzaak voor de beveiligingsindustrie om nieuwe, robuustere detectiemechanismen te ontwikkelen – mogelijk ook gebaseerd op AI – om deze zich snel ontwikkelende dreiging het hoofd te kunnen bieden. De armslag van kunstmatige intelligentie mag dan pas in de kinderschoenen staan op het gebied van cyberaanvallen, maar de eerste stappen zijn al verontrustend doelgericht.

Door: Drifter