Anthropic schort wereldwijde toegang tot Claude Fable 5 en Mythos 5 op na Amerikaans exportbevel

AI-bedrijf Anthropic heeft onverwacht de wereldwijde beschikbaarheid van zijn recent geïntroduceerde modellen Claude Fable 5 en Claude Mythos 5 stopgezet. De maatregel volgt op een exportcontrolebevel van de Amerikaanse overheid, dat volgens het bedrijf werd uitgevaardigd vanwege zorgen omtrent de nationale veiligheid.

Introductie van de nieuwe modellen

In april van dit jaar presenteerde Anthropic al een vroege versie van Claude Mythos Preview, een geavanceerd AI-model met zeer sterke capaciteiten op het gebied van programmeren, cybersecurity en complexe technische toepassingen. Deze previewversie werd destijds slechts beschikbaar gesteld aan een beperkte groep internationale bedrijven.

Na maanden van aanvullende veiligheidsmaatregelen en uitgebreide tests introduceerde Anthropic eerder deze week twee nieuwe modellen:

• Claude Fable 5: bedoeld voor een breed publiek, met uitgebreide ingebouwde veiligheidsmechanismen en beperkingen om misbruik tegen te gaan.
• Claude Mythos 5: ontwikkeld voor gespecialiseerde toepassingen binnen onder meer cybersecurity en biologische onderzoeksomgevingen. Dit model bevat minder restricties om professionals meer flexibiliteit te bieden.

Volgens Anthropic vertegenwoordigen beide modellen de meest geavanceerde generatie AI-systemen die het bedrijf tot nu toe heeft ontwikkeld.

Plotseling bevel van de Amerikaanse overheid

Op de dag van de opschorting ontving Anthropic om 17:21 uur Eastern Time een officiële kennisgeving van de Amerikaanse overheid. In deze brief werd het bedrijf opgedragen om de toegang tot Fable 5 en Mythos 5 onmiddellijk te beëindigen voor alle buitenlandse staatsburgers.

Opvallend is dat de overheid in de brief geen concrete details verstrekte over de aard van de nationale veiligheidsdreiging. Anthropic gaf aan slechts beperkte informatie te hebben ontvangen.

Mogelijke aanleiding: zorgen over een jailbreak

Volgens het bedrijf bestaat het vermoeden dat de overheid kennis heeft gekregen van een mogelijke methode om de beveiligingsmaatregelen van Fable 5 te omzeilen. Een dergelijke methode staat bekend als een "jailbreak": een techniek waarmee gebruikers AI-systemen kunnen manipuleren zodat deze beperkingen of veiligheidsregels negeren.

Anthropic benadrukt echter dat er tot op heden geen universele of algemeen toepasbare jailbreak bekend is die de beveiliging van Fable 5 volledig uitschakelt.

Gevolgen van het exportbevel

Het bevel is uitgevaardigd op basis van Amerikaanse bevoegdheden inzake nationale veiligheid en heeft een zeer brede reikwijdte.

De maatregel geldt voor:

• alle buitenlandse gebruikers, ongeacht hun woonplaats;
• buitenlandse staatsburgers die zich tijdelijk in de Verenigde Staten bevinden;
• buitenlandse werknemers van Anthropic zelf.

Om volledig aan de regelgeving te voldoen, heeft Anthropic ervoor gekozen beide modellen voorlopig voor alle klanten uit te schakelen.

Eerdere modellen van het bedrijf, waaronder Claude Opus en Claude Sonnet, blijven wel gewoon beschikbaar.

Uitgebreide veiligheidscontroles vooraf

Anthropic verklaarde dat er aanzienlijke inspanningen zijn geleverd om misbruik van de modellen te voorkomen. De beveiligingssystemen zijn volgens het bedrijf juist ontworpen om risicovolle toepassingen, met name binnen cybersecurity, te beperken.

Sommige ontwikkelaars en gebruikers hadden zelfs kritiek geuit dat de veiligheidsmaatregelen te streng zouden zijn en legitiem gebruik onnodig zouden beperken.

Voordat de modellen werden vrijgegeven, werkte Anthropic samen met:

• Amerikaanse overheidsinstanties;
• het Britse AI Safety Institute (AISI);
• diverse onafhankelijke externe organisaties;
• interne veiligheidsteams.

Gedurende duizenden testuren werden de modellen onderworpen aan intensieve zogenaamde red-teamtests, waarbij specialisten actief probeerden de beveiliging te omzeilen en kwetsbaarheden op te sporen.

Kritiek van Anthropic op het besluit

Anthropic is het niet eens met de genomen maatregel. Volgens het bedrijf zou een enkele, beperkte mogelijkheid tot misbruik niet voldoende reden mogen zijn om een commercieel AI-model dat door honderden miljoenen mensen kan worden gebruikt volledig terug te trekken.

Het bedrijf waarschuwt dat wanneer deze norm in de gehele AI-sector wordt toegepast, de introductie van nieuwe geavanceerde AI-systemen ernstig kan worden vertraagd of zelfs grotendeels tot stilstand kan komen.

Verdere stappen

Anthropic heeft aangegeven actief samen te werken met de betrokken instanties om de situatie zo snel mogelijk op te lossen. Het bedrijf hoopt de toegang tot Fable 5 en Mythos 5 spoedig te kunnen herstellen en verwacht binnen 24 uur meer informatie over de situatie te kunnen delen.

De ontwikkelingen rond deze modellen worden binnen de internationale AI-sector nauwlettend gevolgd, aangezien de uitkomst mogelijk gevolgen kan hebben voor toekomstige regelgeving en de wereldwijde beschikbaarheid van krachtige kunstmatige intelligentie.

Door: Drifter