AI-bedrijven bereiden zich voor op mogelijke maatschappelijke en politieke crisis na catastrofaal incident

Leidinggevenden bij grote kunstmatige-intelligentiebedrijven, waaronder OpenAI en Anthropic, houden rekening met de mogelijkheid dat een ernstig incident met AI-systemen kan leiden tot grote maatschappelijke onrust, een sterke verslechtering van de publieke opinie en ingrijpende politieke maatregelen. Binnen de sector wordt nagedacht over wat er kan gebeuren wanneer AI-technologie niet alleen grote voordelen oplevert, maar ook bijdraagt aan een ramp met verstrekkende gevolgen voor de samenleving.

Volgens berichtgeving over interne scenarioanalyses bereiden verschillende AI-bedrijven zich voor op de mogelijke gevolgen van een grootschalig incident. Daarbij gaat het niet uitsluitend om de technische schade die zo'n gebeurtenis kan veroorzaken, maar ook om de maatschappelijke, economische en politieke gevolgen. De centrale vraag is hoe overheden, burgers, bedrijven en andere instellingen zouden reageren wanneer AI-systemen betrokken raken bij een ernstige verstoring van essentiële voorzieningen of bij een incident waarbij de veiligheid van grote groepen mensen in gevaar komt.

Mogelijke gevolgen van een grootschalig AI-incident

Een van de scenario's waarmee rekening wordt gehouden, is een omvangrijke cyberaanval waarbij AI-systemen een rol spelen bij het voorbereiden, uitvoeren of versterken van schadelijke activiteiten. Geavanceerde AI kan cybercriminelen en andere kwaadwillenden mogelijk helpen om aanvallen sneller uit te voeren, kwetsbaarheden op te sporen of ingewikkelde aanvallen op grote schaal te organiseren. De daadwerkelijke impact hangt daarbij af van de gebruikte technologie, de beveiliging van de getroffen systemen en de mate waarin organisaties afhankelijk zijn van digitale infrastructuur.

In een ernstig scenario zou een aanval kunnen leiden tot langdurige verstoringen van financiële diensten, communicatieverbindingen, elektriciteitsvoorzieningen of watersystemen. Ook zou het internetverkeer op grote schaal kunnen worden ontregeld, waardoor overheden, ziekenhuizen, ondernemingen en burgers moeilijker toegang krijgen tot essentiële informatie en diensten.

Dergelijke gevolgen zijn niet automatisch het resultaat van het gebruik van AI. Cyberaanvallen en storingen in vitale infrastructuur bestonden al voordat moderne AI-systemen beschikbaar kwamen. De zorg is vooral dat bepaalde AI-toepassingen aanvallen kunnen versnellen, de drempel voor technisch ingewikkelde handelingen kunnen verlagen of kwaadwillenden in staat kunnen stellen om efficiënter te opereren.

Een incident waarbij AI aantoonbaar een belangrijke rol speelt, zou daarom veel verder kunnen reiken dan de directe schade. Wanneer bijvoorbeeld blijkt dat een AI-systeem heeft bijgedragen aan een grootschalige aanval, een ernstige veiligheidsfout of een ontwrichting van belangrijke voorzieningen, kan dat het vertrouwen in de technologie en in de bedrijven die haar ontwikkelen aanzienlijk aantasten.

Bedrijven houden rekening met een omslag in de publieke opinie

De mogelijke gevolgen voor de publieke opinie vormen een belangrijk onderdeel van de scenario's die de bedrijven onderzoeken. Kunstmatige intelligentie roept al uiteenlopende reacties op. Voorstanders wijzen op de mogelijkheden om wetenschappelijk onderzoek te versnellen, medische toepassingen te verbeteren, productiviteit te verhogen en ingewikkelde werkzaamheden te vereenvoudigen. Tegelijkertijd bestaan er zorgen over onder meer banenverlies, privacy, desinformatie, cybercriminaliteit, machtsconcentratie en het gebrek aan controle over steeds geavanceerdere systemen.

Een ernstig incident zou deze bestaande zorgen kunnen versterken. Mensen die AI momenteel vooral zien als een nuttige maar risicovolle technologie, zouden hun vertrouwen kunnen verliezen wanneer blijkt dat de systemen bijdragen aan ernstige maatschappelijke schade. Ook mensen die aanvankelijk positief tegenover AI stonden, zouden hun houding kunnen herzien als zij vinden dat de ontwikkelaars onvoldoende voorzorgsmaatregelen hebben getroffen.

De reacties zouden bovendien niet beperkt hoeven te blijven tot kritiek op één bedrijf of één toepassing. Wanneer een incident breed wordt geassocieerd met generatieve AI of geavanceerde autonome systemen, kan de gehele sector met de gevolgen worden geconfronteerd. Bedrijven die niet rechtstreeks bij het incident betrokken zijn, zouden eveneens te maken kunnen krijgen met strengere controles, terughoudendere klanten en grotere druk van investeerders en toezichthouders.

Voor AI-ontwikkelaars is daarom niet alleen van belang hoe zij een technisch probleem oplossen, maar ook hoe zij communiceren over de oorzaak, de verantwoordelijkheid en de maatregelen die worden genomen om herhaling te voorkomen.

Politieke druk en mogelijke strengere regelgeving

Naast maatschappelijke onrust houden de bedrijven rekening met de mogelijkheid dat een ernstig incident leidt tot een krachtige politieke reactie. Vooral in de Verenigde Staten zou de gebeurtenis aanleiding kunnen geven tot hoorzittingen, onderzoeken, nieuwe wettelijke verplichtingen en strengere eisen aan de ontwikkeling en het gebruik van AI-systemen.

Politici zouden bijvoorbeeld kunnen aandringen op onafhankelijk veiligheidsonderzoek, strengere beveiligingsnormen, verplichte rapportage van ernstige incidenten en duidelijkere aansprakelijkheidsregels voor ontwikkelaars. Ook zouden beperkingen kunnen worden overwogen voor bepaalde risicovolle toepassingen, afhankelijk van de aard en ernst van het incident.

De precieze reactie zou sterk afhangen van de omstandigheden. Een incident dat het gevolg is van crimineel misbruik van een AI-systeem vraagt mogelijk om andere maatregelen dan een ramp die voortkomt uit een ernstige ontwerpfout, gebrekkige beveiliging of onvoldoende menselijk toezicht.

Binnen de Amerikaanse politiek speelt daarnaast mee dat AI zich snel ontwikkelt, terwijl wetgeving en bestuurlijke procedures doorgaans meer tijd nodig hebben om zich aan nieuwe technologieën aan te passen. Sommige beleidsmakers beschikken mogelijk niet over voldoende technische kennis om complexe AI-risico's zelfstandig te beoordelen. Dat kan de besluitvorming bemoeilijken en het risico vergroten dat onder grote maatschappelijke druk snel maatregelen worden genomen die onvoldoende zijn afgestemd op de technische werkelijkheid.

Daar staat tegenover dat overheden ook gespecialiseerde adviseurs, toezichthouders en onafhankelijke deskundigen kunnen inschakelen. Het is daarom niet vanzelfsprekend dat een ernstig incident automatisch leidt tot ondoordachte of buitenproportionele regelgeving. De uiteindelijke reactie zal mede afhangen van de kwaliteit van het onderzoek, de beschikbare informatie en de politieke omstandigheden op dat moment.

Waarom AI-bedrijven scenario's voor een crisis uitwerken

Het voorbereiden van verschillende rampscenario's is op zichzelf niet uitzonderlijk. Overheden, veiligheidsdiensten, militaire organisaties en ondernemingen die verantwoordelijk zijn voor vitale infrastructuur werken regelmatig scenario's uit om te bepalen hoe zij op ernstige verstoringen kunnen reageren.

Daarbij wordt bijvoorbeeld onderzocht welke voorzieningen als eerste moeten worden beschermd, hoe de communicatie tijdens een crisis wordt georganiseerd en welke maatregelen nodig zijn om de maatschappelijke schade te beperken. Ook wordt gekeken naar de manier waarop organisaties het vertrouwen van burgers kunnen behouden wanneer belangrijke systemen uitvallen of wanneer fouten ernstige gevolgen hebben.

Voor AI-bedrijven krijgt deze voorbereiding een extra dimensie. Hun technologie kan worden gebruikt in uiteenlopende sectoren en kan, afhankelijk van de toepassing, invloed hebben op digitale beveiliging, informatievoorziening, wetenschappelijk onderzoek en besluitvormingsprocessen. Een ernstig incident kan daardoor niet alleen de ontwikkelaar raken, maar ook de organisaties en burgers die van de betreffende systemen afhankelijk zijn.

De bedrijven moeten bij hun voorbereidingen dan ook rekening houden met verschillende soorten risico's. Het kan gaan om misbruik door kwaadwillenden, onbedoelde fouten, tekortkomingen in beveiliging, onbetrouwbare uitvoer of problemen die ontstaan wanneer AI-systemen op grote schaal worden ingezet zonder voldoende controle.

Een belangrijk doel van dergelijke scenarioanalyses is vaststellen hoe een organisatie moet handelen wanneer de gebruikelijke veiligheidsmaatregelen tekortschieten. Dat kan onder meer betrekking hebben op het tijdelijk beperken van bepaalde functionaliteiten, het inschakelen van onafhankelijke onderzoekers, het informeren van betrokken partijen en het samenwerken met overheidsinstanties.

Een opvallend verschil: het risico wordt binnen de sector serieus genomen

Wat deze berichtgeving bijzonder maakt, is de bewering dat sommige leidinggevenden en onderzoekers binnen de AI-sector rekening houden met de mogelijkheid van een groot incident op relatief korte termijn. Volgens de beschreven berichtgeving zouden bepaalde betrokkenen verwachten dat zich binnen zes tot twaalf maanden een ernstig incident kan voordoen.

Dat betekent echter niet dat vaststaat dat binnen die periode een catastrofe zal plaatsvinden. Een verwachting die door anonieme bronnen wordt toegeschreven aan leidinggevenden of onderzoekers is geen bewezen voorspelling. Zonder nadere informatie over de gebruikte risicomodellen, de definities van een ernstig incident en de mate van overeenstemming tussen de betrokkenen kan niet worden vastgesteld hoe breed deze verwachting wordt gedragen.

Ook is het belangrijk onderscheid te maken tussen een incident waarbij AI wordt gebruikt en een incident dat daadwerkelijk door AI wordt veroorzaakt. Een cybercrimineel kan bijvoorbeeld AI inzetten bij een aanval zonder dat het AI-systeem zelfstandig de aanval uitvoert. In andere gevallen kan een tekortkoming in een AI-systeem zelf de directe aanleiding zijn voor schade. Dat onderscheid is van belang bij het vaststellen van verantwoordelijkheid en bij het bepalen welke maatregelen effectief zijn.

Volgens de berichtgeving zouden sommige betrokkenen het risico op een ernstig incident bijzonder hoog inschatten. De kwalificatie dat een dergelijk incident 'onvermijdelijk' zou zijn, moet evenwel voorzichtig worden geïnterpreteerd. Het is niet hetzelfde als een vaststelling dat een specifieke ramp zeker zal plaatsvinden.

OpenAI weerspreekt dat een catastrofaal incident als onvermijdelijk wordt beschouwd

OpenAI heeft de voorstelling tegengesproken dat de onderzochte scenario's worden behandeld als onvermijdelijke gebeurtenissen. Volgens het bedrijf zijn de scenario's bedoeld om de organisatie voor te bereiden op uiteenlopende omstandigheden, niet om te voorspellen dat een catastrofe daadwerkelijk zal plaatsvinden.

Dat onderscheid is wezenlijk. Het uitwerken van een rampscenario betekent niet noodzakelijk dat een organisatie verwacht dat het scenario werkelijkheid wordt. Juist door ernstige maar onzekere gebeurtenissen te onderzoeken, kunnen bedrijven proberen kwetsbaarheden te identificeren en vooraf maatregelen te ontwikkelen.

Anthropic, een andere grote ontwikkelaar van AI-systemen, heeft volgens de berichtgeving niet inhoudelijk op de vragen gereageerd.

Op basis van de beschikbare informatie kan daarom niet zonder meer worden geconcludeerd dat beide bedrijven officieel voorspellen dat er binnen een jaar een catastrofaal AI-incident zal plaatsvinden. Wel wijst de berichtgeving erop dat de mogelijke gevolgen van een dergelijk incident serieus genoeg worden genomen om er scenario's voor uit te werken.

Wat een ernstig incident zou kunnen betekenen voor de toekomst van AI

Een grootschalig incident kan een keerpunt vormen in de manier waarop AI wordt ontwikkeld, gecontroleerd en toegepast. De maatschappelijke discussie zou zich dan mogelijk minder richten op de vraag welke nieuwe mogelijkheden de technologie biedt en meer op de vraag welke risico's aanvaardbaar zijn, wie verantwoordelijk is voor eventuele schade en hoe kan worden voorkomen dat vergelijkbare gebeurtenissen zich opnieuw voordoen.

Afhankelijk van de oorzaak en de omvang van het incident zouden bedrijven te maken kunnen krijgen met strengere veiligheidstests, intensiever toezicht, hogere beveiligingskosten en beperkingen op bepaalde toepassingen. Overheden zouden daarnaast kunnen besluiten om meer middelen beschikbaar te stellen voor onafhankelijke controle, cyberveiligheid en onderzoek naar de risico's van geavanceerde AI.

Tegelijkertijd zou een crisis ook kunnen leiden tot een grotere nadruk op internationale samenwerking. Digitale infrastructuur, AI-diensten en cyberaanvallen houden zich immers niet aan landsgrenzen. Wanneer een incident meerdere landen treft, kan het noodzakelijk worden om informatie uit te wisselen, gezamenlijke beveiligingsnormen te ontwikkelen en afspraken te maken over de verantwoordelijkheid van technologiebedrijven.

De gevolgen zouden niet uitsluitend negatief hoeven te zijn. Een incident kan ook duidelijk maken waar bestaande beveiligingsmaatregelen tekortschieten en welke verbeteringen noodzakelijk zijn. Of de samenleving uiteindelijk veiliger wordt, hangt dan af van de kwaliteit van het onderzoek, de transparantie van de betrokken organisaties en de effectiviteit van de maatregelen die daarop volgen.

Door: Drifter