Meer dan 130 techbedrijven waarschuwen voor een nieuwe golf van AI-gedreven cyberaanvallen

Meer dan 130 technologie-, cybersecurity-, financiële en andere grote organisaties slaan gezamenlijk alarm over de snelle ontwikkeling van kunstmatige intelligentie en de gevolgen daarvan voor digitale veiligheid. Onder de ondertekenaars bevinden zich onder meer Google, Microsoft, OpenAI, Anthropic, IBM en Cisco, maar ook grote cybersecuritybedrijven, financiële instellingen en ondernemingen uit sectoren als telecom, automotive en e-commerce.

De kern van hun waarschuwing is duidelijk: dezelfde AI-technologie die organisaties kan helpen om cyberaanvallen sneller te detecteren en systemen beter te verdedigen, kan ook door aanvallers worden ingezet om cyberaanvallen goedkoper, sneller, grootschaliger en geavanceerder uit te voeren.

Volgens de organisaties bevindt de wereld zich daardoor in een beperkt tijdvenster waarin de digitale verdediging moet worden versterkt. Naarmate AI-modellen capabeler worden en steeds meer zelfstandig taken kunnen uitvoeren, verwachten de ondertekenaars dat AI-ondersteunde cyberaanvallen de komende maanden aanzienlijk breder en geavanceerder kunnen worden.

Dat betekent niet dat iedere organisatie op korte termijn met een volledig autonome AI-hacker te maken krijgt. De waarschuwing gaat vooral over een geleidelijke maar ingrijpende verschuiving: aanvallers kunnen AI gebruiken om bestaande aanvalsmethoden efficiënter uit te voeren, kwetsbaarheden sneller te vinden, overtuigender misbruik te maken van mensen en op veel grotere schaal aanvallen te organiseren.

Kritieke infrastructuur vormt het grootste risico

Een belangrijk aandachtspunt in de gezamenlijke verklaring is de bescherming van kritieke infrastructuur. Het gaat daarbij niet alleen om traditionele IT-bedrijven, maar juist om systemen waarvan de samenleving dagelijks afhankelijk is.

Denk aan ziekenhuizen, waterzuiveringsinstallaties, elektriciteits- en andere nutsvoorzieningen, telecomnetwerken, financiële infrastructuur en de systemen die de werking van het internet ondersteunen.

Een succesvolle aanval op een dergelijke omgeving kan immers veel verder gaan dan het tijdelijk ontoegankelijk maken van computers. Wanneer digitale systemen direct verbonden zijn met fysieke processen, kan een cyberincident gevolgen hebben voor de continuïteit van essentiële dienstverlening.

Daar komt bij dat veel kritieke organisaties werken met oudere systemen die niet eenvoudig vervangen kunnen worden. Sommige omgevingen zijn jarenlang uitgebreid en aangepast, waardoor een combinatie is ontstaan van moderne cloud- en netwerktechnologie, oudere applicaties en gespecialiseerde apparatuur.

Juist die combinatie maakt beveiliging ingewikkeld. Een organisatie kan moderne beveiligingssoftware installeren, maar daarmee verdwijnen oude kwetsbaarheden, verkeerd geconfigureerde systemen of onvoldoende beveiligde accounts niet automatisch.

Het probleem begint niet bij AI

Een belangrijk punt in de verklaring is dat AI niet de enige oorzaak van het toenemende cyberrisico is.

Veel digitale systemen zijn al kwetsbaar voordat AI erbij komt. De ondertekenaars wijzen onder meer op oude softwarefouten, onnodig ruime toegangsrechten, verkeerd geconfigureerde systemen, zwakke authenticatie en technische achterstanden in oudere IT-omgevingen.

Daar komt zogenoemde technical debt bij: organisaties hebben in de loop der jaren systemen gebouwd, uitgebreid en aangepast, maar niet iedere oude component is vervolgens vervangen of gemoderniseerd.

Ook de personele capaciteit vormt een probleem. Vooral organisaties die essentiële publieke diensten leveren beschikken niet altijd over dezelfde cybersecuritybudgetten, specialisten en technische middelen als grote technologiebedrijven.

AI kan die bestaande problemen vervolgens versterken.

Een aanvaller hoeft immers niet noodzakelijk een compleet nieuwe aanvalstechniek te ontwikkelen. Als AI bestaande kwetsbaarheden sneller kan opsporen, grote hoeveelheden informatie kan analyseren, phishingberichten overtuigender kan maken, code kan genereren of verschillende stappen van een aanval kan automatiseren, kan een bestaande kwetsbaarheid plotseling veel aantrekkelijker worden om op grote schaal uit te buiten.

AI maakt aanvallen schaalbaarder

Het belangrijkste verschil met eerdere generaties cyberdreigingen is daarom niet noodzakelijk dat AI ineens volledig nieuwe vormen van criminaliteit creëert.

Het grote verschil zit in schaal, snelheid en automatisering.

Een menselijke aanvaller heeft tijd nodig om doelwitten te onderzoeken, informatie te verzamelen, berichten op te stellen, systemen te analyseren en verschillende aanvalsstappen uit te voeren. AI kan delen van dat werk aanzienlijk versnellen.

Dat kan bijvoorbeeld betekenen dat aanvallers sneller grote hoeveelheden openbare informatie over organisaties en medewerkers analyseren. Ook kunnen ze sneller varianten van phishing- of social-engineeringberichten produceren en verschillende aanvalsscenario's voorbereiden.

Wanneer AI-systemen bovendien steeds meer als agent kunnen functioneren, ontstaat een extra dimensie. Een agent kan niet alleen een antwoord geven op een vraag, maar binnen bepaalde grenzen zelfstandig meerdere stappen uitvoeren, informatie verzamelen, hulpmiddelen gebruiken en vervolgacties ondernemen.

Voor cybersecurity betekent dit dat organisaties niet uitsluitend moeten nadenken over de vraag of een AI-model gevaarlijke informatie kan genereren. Ze moeten ook kijken naar wat een AI-agent daadwerkelijk mag doen wanneer die toegang krijgt tot bedrijfsaccounts, software, API's, cloudomgevingen en andere systemen.

Daarom zijn agentic identities zo belangrijk

Een van de opvallende punten in de verklaring is de nadruk op zogenoemde agentic identities: digitale identiteiten die door AI-systemen of AI-agents worden gebruikt.

Dat wordt belangrijk zodra AI niet langer uitsluitend als hulpmiddel voor een medewerker fungeert, maar zelfstandig acties uitvoert.

Een traditionele gebruiker heeft bijvoorbeeld een account met bepaalde rechten. Bij een AI-agent kan een vergelijkbare situatie ontstaan, maar dan met software die zelfstandig meerdere acties achter elkaar kan uitvoeren.

Dat roept fundamentele beveiligingsvragen op:

• Welke systemen mag een AI-agent benaderen?
• Welke handelingen mag de agent zelfstandig uitvoeren?
• Hoe wordt vastgesteld welke agent een bepaalde actie heeft uitgevoerd?
• Hoe worden de rechten van een agent beperkt?
• Hoe wordt misbruik gedetecteerd?
• Hoe wordt een agent onmiddellijk uitgeschakeld wanneer zijn gedrag verdacht wordt?
• Hoe wordt achteraf gecontroleerd welke beslissingen en acties hebben plaatsgevonden?

Volgens de ondertekenaars moeten dergelijke identiteiten traceerbaar en verantwoord worden ingericht. Dat is essentieel omdat organisaties anders het risico lopen dat AI-agents uiteindelijk beschikken over veel meer bevoegdheden dan noodzakelijk is.

Vier uitgangspunten voor collectieve cyberdefensie

De gezamenlijke oproep draait in grote lijnen om vier principes.

1. De huidige beveiliging is onvoldoende

De eerste conclusie is dat veel digitale omgevingen simpelweg niet sterk genoeg zijn beveiligd tegen een wereld waarin aanvallers AI kunnen gebruiken.

De oplossing is volgens de ondertekenaars niet uitsluitend nóg meer geavanceerde AI inzetten. Eerst moeten fundamentele beveiligingsproblemen worden aangepakt.

Dat betekent onder andere het verwijderen of beperken van oude kwetsbaarheden, het verbeteren van authenticatie, het verminderen van overmatige toegangsrechten en het corrigeren van verkeerde configuraties.

Ook software die door AI wordt gegenereerd moet volgens dezelfde veiligheidsstandaarden worden gecontroleerd als traditioneel ontwikkelde software.

AI-gegenereerde code is immers niet automatisch veilige code. Een ontwikkelaar kan met behulp van AI sneller software produceren, maar snelheid zonder voldoende controle kan juist nieuwe kwetsbaarheden introduceren.

2. Meer verdedigers moeten toegang krijgen tot cyber-capabele AI

De tweede pijler is het beschikbaar maken van krachtige AI voor verdedigers.

Dat betekent bijvoorbeeld dat cybersecurityteams AI kunnen inzetten om enorme hoeveelheden loggegevens en netwerkactiviteiten te analyseren, verdachte patronen sneller te herkennen, incidenten te onderzoeken en beveiligingsmaatregelen te automatiseren.

Het doel is daarmee niet simpelweg om menselijke beveiligingsspecialisten te vervangen.

Juist omdat het aantal digitale systemen, meldingen en potentiële aanvalspaden enorm groot is, kan AI fungeren als een extra analysecapaciteit voor beveiligingsteams.

Voor kleinere organisaties en beheerders van kritieke infrastructuur is dit extra belangrijk. Zij beschikken vaak niet over dezelfde aantallen cybersecurityspecialisten als grote technologiebedrijven.

3. Cyberdefensie moet een wereldwijde gezamenlijke verantwoordelijkheid worden

De derde pijler is samenwerking.

Volgens de organisaties kan geen enkele onderneming alleen de volledige digitale infrastructuur beschermen. Aanvallen stoppen immers niet bij bedrijfsgrenzen.

Een kwetsbaarheid in een leverancier kan gevolgen hebben voor honderden klanten. Een aanval op een cloudprovider kan meerdere organisaties tegelijk raken. Een gecompromitteerd account kan vervolgens worden gebruikt om andere systemen binnen een keten binnen te dringen.

Daarom moet informatie over bedreigingen en effectieve verdedigingsmethoden sneller tussen bedrijven, overheden en andere organisaties kunnen worden gedeeld.

De achterliggende gedachte is dat collectieve verdediging sterker kan zijn dan individuele verdediging: wanneer één organisatie een aanval ontdekt, kunnen andere organisaties zich sneller beschermen tegen dezelfde methode.

4. Organisaties kunnen onmiddellijk beginnen

De vierde boodschap is praktisch: organisaties hoeven niet te wachten op een nieuwe generatie AI of nieuwe wetgeving.

Er zijn nu al maatregelen mogelijk die het risico aanzienlijk kunnen verminderen.

Het gaat vooral om het aanpakken van bekende zwakke plekken, het verbeteren van toegangsbeheer, het versterken van authenticatie, het beperken van onnodige privileges, het beter controleren van software en het voorbereiden van organisaties op AI-gerelateerde incidenten.

AI verandert de dreiging, maar veel van de meest effectieve beveiligingsmaatregelen blijven fundamenteel.

Wat organisaties volgens de oproep moeten doen

Voor organisaties betekent de verklaring vooral dat cybersecurity niet langer uitsluitend als een technisch probleem van de IT-afdeling moet worden beschouwd.

De beveiliging van digitale systemen moet een verantwoordelijkheid van het management worden.

Bestuurders moeten weten welke systemen het belangrijkst zijn, welke kwetsbaarheden de grootste gevolgen kunnen hebben en welke accounts en systemen toegang hebben tot kritieke gegevens of processen.

Daarnaast moeten organisaties kritieke kwetsbaarheden prioriteit geven. Niet iedere kwetsbaarheid heeft dezelfde consequenties. Een fout in een geïsoleerd systeem is iets anders dan een kwetsbaarheid in een systeem waarmee toegang kan worden verkregen tot productieomgevingen, klantgegevens of operationele technologie.

Ook leveranciers moeten kritischer worden beoordeeld.

Wanneer organisaties software, cloudtechnologie of AI-systemen inkopen, moeten zij niet alleen kijken naar functionaliteit en prijs, maar ook naar beveiliging, toegangsbeheer, logging, updatebeleid en de manier waarop AI-functionaliteit wordt gecontroleerd.

Securitybedrijven krijgen eveneens een nieuwe verantwoordelijkheid

Voor cybersecurityleveranciers verandert AI de wedstrijd tussen aanvallers en verdedigers.

Beveiligingsbedrijven moeten ervan uitgaan dat toekomstige aanvallers beschikken over steeds capabelere AI-systemen. Traditionele beveiligingstests zijn daarom mogelijk niet voldoende.

De oproep vraagt securitybedrijven om hun verdediging voortdurend te testen tegen de mogelijkheden van de meest geavanceerde AI-systemen.

Dat betekent dat beveiligingsproducten niet alleen moeten worden getest tegen bekende malware en traditionele aanvalstechnieken, maar ook tegen scenario's waarin aanvallers AI gebruiken om zich aan te passen, informatie te combineren en aanvallen te automatiseren.

Tegelijkertijd moeten defensieve AI-mogelijkheden bereikbaar worden voor de organisaties die ze het hardst nodig hebben, waaronder beheerders van kritieke infrastructuur.

Overheden moeten volgens de bedrijven meer doen

De oproep richt zich nadrukkelijk niet alleen op de private sector.

Overheden hebben volgens de ondertekenaars een belangrijke rol bij het financieren en coördineren van cyberdefensie. Dat is vooral relevant voor organisaties zoals ziekenhuizen, waterbedrijven en lokale overheden die essentiële diensten leveren maar niet altijd beschikken over grote cybersecuritybudgetten.

Een zwakke lokale organisatie kan immers onderdeel worden van een veel grotere aanvalsketen.

Daarom pleiten de ondertekenaars ervoor dat defensieve AI en andere beveiligingsmiddelen ook beschikbaar komen voor organisaties die maatschappelijk belangrijk zijn maar financieel niet dezelfde mogelijkheden hebben als grote technologiebedrijven.

De rol van AI-bedrijven is bijzonder groot

De bedrijven achter de krachtigste AI-modellen bevinden zich volgens de verklaring in een bijzondere positie.

Zij ontwikkelen technologie die zowel defensief als offensief kan worden gebruikt en beschikken over kennis, rekenkracht en modellen die voor veel andere organisaties moeilijk toegankelijk zijn.

Daarom wordt van frontier-AI-bedrijven verwacht dat zij niet alleen veilige modellen bouwen, maar ook bijdragen aan de bredere digitale verdediging.

Dat kan onder meer door toegang tot modellen, financiering en training beschikbaar te stellen en door organisaties te helpen AI op een veilige manier in hun beveiligingsprocessen te integreren.

Tegelijkertijd moeten AI-bedrijven rekening houden met het feit dat hun modellen steeds meer zelfstandig kunnen handelen. Hoe autonomer een AI-agent wordt, hoe belangrijker het wordt om duidelijk vast te leggen welke acties toegestaan zijn en wie daarvoor verantwoordelijk is.

Een nieuwe wapenwedloop tussen aanvallers en verdedigers

De waarschuwing moet uiteindelijk worden gezien tegen de achtergrond van een steeds snellere AI-ontwikkeling.

Cybersecurity is altijd al een strijd geweest tussen aanvallers en verdedigers. Nieuwe aanvalstechnieken leiden tot nieuwe beveiligingsmaatregelen, waarna aanvallers hun methoden aanpassen.

AI kan die cyclus versnellen.

Aanvallers kunnen AI gebruiken om sneller te experimenteren en hun werkwijze aan te passen. Verdedigers kunnen dezelfde technologie gebruiken om aanvallen eerder te ontdekken, systemen sneller te analyseren en incidenten gedeeltelijk te automatiseren.

Daarom is het te simpel om AI uitsluitend als een bedreiging te beschouwen.

AI is tegelijkertijd een nieuwe aanvalscapaciteit én een nieuwe verdedigingscapaciteit.

Welke kant het voordeel krijgt, hangt voor een belangrijk deel af van de snelheid waarmee organisaties hun beveiliging aanpassen.

Geen reden voor paniek, wel voor versnelling

De gezamenlijke verklaring betekent niet dat een wereldwijde golf van volledig autonome AI-cyberaanvallen onvermijdelijk is.

Ook is niet iedere succesvolle cyberaanval straks automatisch het gevolg van kunstmatige intelligentie.

De werkelijkheid is waarschijnlijk minder spectaculair maar potentieel ingrijpender: bestaande cyberaanvallen kunnen geleidelijk efficiënter worden doordat aanvallers AI steeds verder integreren in hun werkwijze.

Juist daarom is de waarschuwing relevant.

Wanneer AI de kosten en tijd die nodig zijn om aanvallen uit te voeren verlaagt, kunnen ook kleinere of minder gespecialiseerde aanvallers toegang krijgen tot mogelijkheden die voorheen vooral beschikbaar waren voor goed georganiseerde groepen.

Tegelijkertijd kunnen goed beveiligde organisaties AI gebruiken om hun eigen verdediging te versterken.

De belangrijkste vraag wordt daardoor niet of AI uit cybersecurity kan worden geweerd. Dat is praktisch gezien nauwelijks realistisch.

De vraag is hoe snel organisaties hun beveiligingsarchitectuur, processen en verantwoordelijkheden aanpassen aan een wereld waarin zowel aanvallers als verdedigers over steeds krachtigere AI beschikken.

Het venster voor voorbereiding wordt kleiner

De meer dan 130 ondertekenaars presenteren hun verklaring uiteindelijk als een oproep tot gezamenlijke actie.

Hun boodschap aan bedrijven, overheden, cybersecurityleveranciers en AI-ontwikkelaars is dat cybersecurity niet langer kan worden behandeld als een probleem dat uitsluitend achteraf wordt opgelost.

Kwetsbaarheden moeten worden aangepakt voordat ze worden misbruikt. AI-systemen moeten vanaf het ontwerp rekening houden met veiligheid. Nieuwe AI-agents moeten strikt gecontroleerde bevoegdheden krijgen. Kritieke infrastructuur moet toegang krijgen tot moderne defensieve technologie. En organisaties moeten informatie over aanvallen en effectieve verdediging sneller met elkaar delen.

De ontwikkeling van AI gaat ondertussen door.

Daarmee wordt cybersecurity steeds minder een afzonderlijke technische discipline en steeds meer een voorwaarde voor de continuïteit van digitale en fysieke dienstverlening.

De waarschuwing van de ondertekenaars komt daarom in essentie neer op één boodschap: wachten tot AI-aanvallen op grote schaal plaatsvinden is geen verstandige strategie. De verdediging moet worden versterkt voordat de aanvallers hun volledige voordeel uit de technologie kunnen halen.

Door: Drifter