De volgende grote cybersecuritydreiging: Agentic AI

Agentic AI markeert het begin van een nieuw tijdperk in digitale veiligheid — een tijdperk waarin kunstmatige intelligentie niet langer slechts een hulpmiddel is, maar een zelfstandige actor met beslissingsbevoegdheid, leervermogen en handelingsvrijheid. Deze systemen zijn in staat om zelfstandig waar te nemen, te redeneren, beslissingen te nemen en acties uit te voeren, zowel digitaal als fysiek. Wat ooit een theoretische toekomstvisie leek, wordt nu in razend tempo werkelijkheid.

De komst van agentic AI belooft ongekende efficiëntie, innovatie en autonomie. Tegelijkertijd luidt ze een tijdperk in waarin de grenzen tussen mens, machine en besluitvorming vervagen — en waarin traditionele vormen van cybersecurity ernstig tekortschieten.

Van hulpmiddel naar autonome actor

Tot voor kort fungeerde AI voornamelijk als een ondersteunend systeem: een krachtig instrument dat beslissingen van mensen versterkte of versneld uitvoerde. Met de opkomst van agentic AI verandert dit fundamenteel. Deze systemen kunnen zelfstandig handelen op basis van doelstellingen, feedback en context, zonder voortdurende menselijke tussenkomst.

In praktische zin betekent dit dat een AI-agent:

• Zelfstandig doelen kan stellen en strategieën kan aanpassen, afhankelijk van veranderende omstandigheden;
• Informatie kan verzamelen, interpreteren en combineren uit uiteenlopende bronnen;
• Autonoom kan interageren met digitale ecosystemen, software-interfaces en zelfs fysieke systemen zoals industriële controles of robots;
• Lerend kan evolueren, waarbij eerdere beslissingen worden geanalyseerd en toekomstige acties worden geoptimaliseerd.

Deze eigenschappen maken agentic AI tot een buitengewoon krachtige innovatie — maar ook tot een potentiële veiligheidsdreiging van een geheel nieuw kaliber.

Een verschuivend dreigingslandschap

De snelle opmars van generatieve AI (GenAI) heeft het fundament gelegd voor deze ontwikkeling. Waar GenAI vooral draait om het creëren van content — tekst, code, beeld of video — richt agentic AI zich op het uitvoeren van taken en bereiken van doelen. Hierdoor ontstaan nieuwe, zelforganiserende digitale ecosystemen waarin AI niet alleen taken uitvoert, maar ook strategisch handelt.

De implicaties voor cybersecurity zijn diepgaand. Traditionele beveiligingsmodellen zijn ontworpen rond menselijke aanvallers, voorspelbare aanvalspatronen en herkenbare C2-structuren (Command-and-Control). Agentic AI doorbreekt dit paradigma volledig:

• Autonome malware kan zonder C2-infrastructuur opereren. De agent zelf fungeert als een adaptieve, zelflerende entiteit die realtime beslissingen neemt.

• AI-gestuurde botnets kunnen samenwerken, informatie uitwisselen en zich aanpassen aan de verdediging. Ze kunnen hun strategie dynamisch wijzigen op basis van detectie, netwerkomgeving of gedragsanalyse van verdedigers.

• Zelflerende aanvallers zullen in staat zijn om nieuwe exploits te genereren, kwetsbaarheden te ontdekken en aanvalstechnieken te optimaliseren zonder menselijke input.

• Hypergepersonaliseerde social engineering zal worden aangedreven door geavanceerde deepfake-technieken, waardoor misleiding, identiteitsfraude en infiltratiecampagnes bijna niet meer te onderscheiden zijn van legitieme interacties.

Het gevolg is dat het “meest waarschijnlijke aanvalspad” fundamenteel verandert: aanvallen zullen niet langer worden aangestuurd door menselijke intenties, maar door autonome agenten die hun eigen doelstellingen optimaliseren.

Drie zwakke punten in onze AI-verdediging

Tijdens recente internationale workshops en onderzoeksprogramma’s naar agentic AI-beveiliging kwamen experts tot dezelfde conclusie: onze huidige beveiligingsstructuren zijn niet voorbereid op de complexiteit en autonomie van deze systemen. De kwetsbaarheid van onze digitale infrastructuur wordt vergroot door drie fundamentele breuklijnen:

1. De supply chain- en integriteitskloof

We bouwen onze AI-systemen op fundamenten die we onvoldoende begrijpen of kunnen verifiëren. De herkomst van trainingsdata, de integriteit van modelarchitecturen en de authenticiteit van codepakketten blijven grotendeels ondoorzichtig.
Cruciale vragen dringen zich op:

• Hoe verifiëren we de betrouwbaarheid van een model of zijn ontwikkelomgeving?
• Hoe garanderen we dat een agent niet ongemerkt is gemanipuleerd of geïnjecteerd met schadelijke instructies?
• En hoe beschermen we de afhankelijkheden — libraries, datasets, frameworks — die de ruggengraat vormen van het AI-ecosysteem?

Zonder robuuste “AI supply chain integrity” riskeren organisaties dat kwaadwillenden onopgemerkt tussen de schakels infiltreren.

2. De bestuurs- en standaardenkloof

De huidige wet- en regelgeving is grotendeels ontwikkeld in een pre-AI-tijdperk. Kaders voor verantwoordelijkheid, aansprakelijkheid en naleving houden geen rekening met autonome besluitvorming door niet-menselijke entiteiten.
Er ontbreekt bovendien een universeel AI-veiligheidsreferentiekader — een equivalent van ISO 27001 specifiek voor AI-systemen. Hierdoor is er geen eenduidige norm voor vertrouwen, verificatie of naleving.
Ook ontbreekt een internationaal AI-CERT-mechanisme: een gespecialiseerde organisatie die coördinatie en incidentrespons kan bieden bij AI-gedreven aanvallen of systeemfouten.

3. De samenwerkingskloof

De noodzakelijke samenwerking tussen AI-onderzoekers, ontwikkelaars, cybersecurityprofessionals en beleidsmakers staat nog in de kinderschoenen. Deze domeinen spreken vaak verschillende technische en ethische talen, wat leidt tot misverstanden en versnippering.
Zonder structurele samenwerking — over sectoren en grenzen heen — blijft onze verdediging reactief in plaats van proactief, terwijl agentic dreigingen juist grensoverschrijdend, adaptief en autonoom opereren.

Naar een nieuwe blauwdruk voor veilige agentic AI

Om de risico’s te beperken zonder de innovatie te verstikken, is een fundamentele herziening van onze aanpak noodzakelijk. Veiligheid, transparantie en verantwoordelijkheid moeten vanaf het ontwerp worden ingebouwd — niet achteraf toegevoegd.

1. Secure AI by Design

Beveiliging moet de kern vormen van elk ontwerp- en ontwikkelproces. Van modeltraining tot implementatie moeten beveiligingscontroles, auditmechanismen en ethische richtlijnen ingebakken zijn.

2. Transparantie en uitlegbaarheid

Agentic AI moet niet functioneren als een ‘black box’. Organisaties moeten investeren in uitlegbare AI, logging-mechanismen, traceerbare besluitvorming en verificatie van modeloutput. Alleen dan kan er sprake zijn van verantwoord gebruik.

3. Governance en compliance

Er is dringend behoefte aan internationaal erkende normen en frameworks voor AI-governance. Industrieconsortia, beleidsmakers en academische instellingen moeten samenwerken aan standaarden die risicoanalyse, dataintegriteit en verantwoord gebruik afdwingen.

4. Nieuwe generatie cybersecurity

Beveiligingsleveranciers moeten hun focus verleggen van detectie naar interactie met autonome systemen. Dit betekent dat beveiligingstools zelf adaptief moeten worden — in staat om te communiceren met, te monitoren en te controleren overwegend autonome AI-agenten.

5. Verantwoord leiderschap

Bestuurders en beleidsmakers dragen een sleutelrol. Zij moeten zorgen voor strategische investeringen, een cultuur van AI-veiligheidsbewustzijn, en duidelijke kaders voor transparantie en aansprakelijkheid.

Conclusie

De opkomst van agentic AI is niet slechts een technologische trend, maar een kantelpunt in onze digitale evolutie. Deze systemen zullen een centrale rol spelen in economie, defensie, gezondheidszorg en infrastructuur — maar brengen ook het risico mee van ongecontroleerde, onvoorspelbare beslissingen met grote maatschappelijke impact.

De keuze die we nu maken, bepaalt of agentic AI zal uitgroeien tot een kracht die onze veiligheid versterkt of juist ondermijnt.
Dit is het moment om te handelen: om technologie, ethiek, governance en beveiliging te verenigen in één samenhangende visie. Alleen dan kunnen we een toekomst vormgeven waarin autonomie en veiligheid hand in hand gaan.

Door: Drifter