Duizenden Nederlandse accounts op platform met seksuele deepfakes van bekende Nederlanders

Ondanks een recente internationale actie waarbij twaalf grote websites met seksuele deepfakes offline zijn gehaald, blijft een ander omvangrijk platform actief. Op deze website circuleren honderden door kunstmatige intelligentie gemaakte seksueel expliciete beelden en video's van bekende Nederlanders. Ook zijn er beelden van internationale beroemdheden te vinden. Meer dan 18.000 gebruikers hebben Nederland als land van herkomst opgegeven. Stichting Offlimits waarschuwt dat het probleem daarmee nog altijd omvangrijk is en roept de Nederlandse toezichthouders op om in te grijpen.

De nieuwe ontdekking maakt duidelijk dat het offline halen van afzonderlijke deepfakeplatforms het probleem niet oplost. Terwijl internationale autoriteiten de afgelopen tijd meerdere grote websites hebben aangepakt, blijven andere platforms materiaal aanbieden waarop zonder toestemming gezichten van bestaande personen in seksueel expliciete video's en afbeeldingen worden verwerkt.

Op het betreffende platform staan honderden video's waarin bekende Nederlanders voorkomen. De slachtoffers hebben voor het gebruik van hun afbeelding of identiteit geen toestemming gegeven. Bij de Nederlandse video's worden expliciete en seksueel getinte titels gebruikt. Daarmee worden de slachtoffers niet alleen afgebeeld in een seksuele context waarin zij nooit hebben verkeerd, maar worden hun namen en gezichten ook verbonden aan pornografische inhoud.

Onder de gebruikers bevinden zich accounts die zich nadrukkelijk op Nederland richten. Sommige gebruikersnamen zijn seksueel getint en enkele accounts gebruiken afbeeldingen van leden van het Koninklijk Huis als profielfoto. Het platform bevat daarnaast materiaal van internationale beroemdheden, onder wie Emma Watson en Scarlett Johansson. Sommige van die video's zijn honderden miljoenen keren bekeken.

Internationale aanpak legt omvang van probleem bloot

De ontdekking komt kort nadat Amerikaanse autoriteiten twaalf andere grote websites met seksuele deepfakes offline hebben gehaald. Op verschillende van deze websites verscheen na de ingreep een melding dat het domein door de Amerikaanse autoriteiten in beslag was genomen.

Volgens de Amerikaanse autoriteiten behoorden de websites tot de grootste platforms waarop met behulp van kunstmatige intelligentie realistische seksuele beelden van bestaande personen werden gemaakt en verspreid. De beheerders zouden foto's en video's van vrouwen hebben gebruikt om deze vervolgens digitaal te verwerken tot levensechte seksuele beelden.

De Amerikaanse actie werd omschreven als de grootste inbeslagname van deepfakewebsites tot dan toe. De autoriteiten namen de domeinnamen over op basis van een gerechtelijk bevel.

De actie laat tegelijkertijd zien hoe moeilijk het is om het aanbod volledig te laten verdwijnen. Wanneer één platform wordt afgesloten, kunnen andere websites blijven bestaan of opnieuw worden opgezet.

Ook Nederlandse politici slachtoffer

Onder de slachtoffers bevinden zich meerdere Nederlandse politici.

D66-Kamerlid Marijke Synhaeve ontdekte opnieuw dat er seksueel expliciet deepfake-materiaal van haar online stond. Zij heeft inmiddels voor de vierde keer aangifte gedaan.

Synhaeve werd onlangs door een onbekende geïnformeerd dat haar naam en beeld opnieuw op een dergelijke website voorkwamen. Zij vroeg daarop de beveiligingsdienst van de Tweede Kamer om de melding te controleren. Die dienst kon bevestigen dat het materiaal inderdaad online stond.

Voor Synhaeve gaat het probleem verder dan alleen de vraag hoe een afbeelding van haar wordt gebruikt. Zij maakt zich ook zorgen over de gevolgen voor haar gezin.

„Ik ben ook moeder en partner. Ik heb twee jonge kinderen die oud genoeg zijn om te gaan googelen. Het houdt me heel erg bezig hoe ik ervoor kan dat zij niet met deze beelden in aanraking komen.”

Ook voormalig VVD-minister Edith Schippers heeft aangifte gedaan. Oud-politica Sylvana Simons heeft eveneens te maken met seksueel deepfakemateriaal. Haar video's op het betreffende platform zijn volgens de aangeleverde informatie gezamenlijk ongeveer 40.000 keer bekeken. Zij overweegt verdere stappen.

Simons noemt het fenomeen afschuwelijk.

Ruim honderd verwijderverzoeken vanuit Tweede Kamer

De beveiligingsdienst van de Tweede Kamer heeft Kamerleden inmiddels gewaarschuwd voor de aanwezigheid van het materiaal. In een interne waarschuwing werd erkend dat de ontdekking als schokkend kan worden ervaren.

De Kamerdienst heeft vervolgens ruim honderd verwijderverzoeken ingediend voor materiaal waarop Kamerleden voorkomen. Daarnaast is contact gezocht met het Openbaar Ministerie. Het beschikbare bewijsmateriaal wordt volgens de verstrekte informatie toegevoegd aan een al lopend strafdossier.

De filmpjes lijken volgens de beveiligingsdienst van de Tweede Kamer bovendien een commercieel doel te hebben. Dat betekent dat er aanwijzingen zijn dat de exploitatie van het platform niet uitsluitend draait om het uitwisselen van materiaal tussen gebruikers, maar dat er ook een financieel verdienmodel achter kan zitten.

Dat aspect baart betrokken Kamerleden zorgen. Volgens Synhaeve kan het gebruik van foto's van slachtoffers onderdeel zijn van een systeem waarmee anderen geld verdienen aan seksueel materiaal dat zonder toestemming is vervaardigd.

Offlimits: sprake van ernstige privacyschendingen

Stichting Offlimits, die zich bezighoudt met online misbruik en slachtoffers ondersteunt, vindt dat Nederlandse toezichthouders actie moeten ondernemen.

De organisatie wijst met name naar de Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM). Volgens Offlimits zijn er inmiddels voldoende signalen om onderzoek te doen naar het platform en de manier waarop met persoonsgegevens en afbeeldingen van slachtoffers wordt omgegaan.

De kern van het probleem is volgens de organisatie dat personen zonder toestemming worden gekoppeld aan seksueel expliciete content. Hun gezicht, naam en identiteit worden gebruikt voor een voorstelling die volledig fictief kan zijn, maar die voor buitenstaanders wel overtuigend kan lijken.

Daarmee kan volgens Offlimits sprake zijn van ernstige privacyschendingen.

De organisatie noemt het bovendien problematisch dat websites dergelijke inhoud blijven aanbieden terwijl het fenomeen al langere tijd bekend is en slachtoffers herhaaldelijk proberen om materiaal verwijderd te krijgen.

Slachtoffers hebben geen controle over verspreiding

Een belangrijk kenmerk van seksuele deepfakes is dat slachtoffers zelf vaak geen enkele betrokkenheid hebben gehad bij het maken van de beelden.

Een bestaande foto of video kan door middel van AI worden gecombineerd met een ander lichaam of een andere video. Moderne technieken kunnen daarbij beelden produceren die voor kijkers zeer realistisch lijken.

Voor het slachtoffer kan het vervolgens bijzonder moeilijk zijn om te achterhalen waar het materiaal allemaal wordt verspreid. Een video die eenmaal online staat, kan door gebruikers worden gedownload, opnieuw geüpload of op andere websites worden geplaatst.

Het verwijderen van één exemplaar betekent daardoor niet automatisch dat alle kopieën verdwijnen.

Daarbij kan de inhoud jarenlang vindbaar blijven of opnieuw opduiken nadat slachtoffers eerder al verwijderingsverzoeken hebben ingediend.

Seksueel misbruik met digitale middelen

De slachtoffers worden geconfronteerd met een vorm van seksueel online misbruik waarbij technologie wordt gebruikt om hun identiteit in een seksuele context te plaatsen.

Dat kan verstrekkende gevolgen hebben. Een slachtoffer kan vrezen dat collega's, familieleden, vrienden of kinderen de beelden tegenkomen. Ook kunnen de beelden gevolgen hebben voor iemands reputatie, werk en privéleven.

Dat risico wordt groter wanneer slachtoffers publieke functies hebben of bekend zijn bij een groot publiek.

De Amerikaanse officier van justitie Alvin Bragg wees bij de internationale aanpak eveneens op de gevolgen voor slachtoffers. Volgens hem kunnen dergelijke schendingen slachtoffers langdurig achtervolgen in hun persoonlijke leven en carrière.

Eerder bleek al hoe groot het probleem onder Kamerleden is

De nieuwe ontdekking staat niet op zichzelf.

Uit eerder onderzoek bleek dat een aanzienlijk deel van de vrouwelijke Tweede Kamerleden slachtoffer is geworden van AI-gerelateerd seksueel online misbruik. Daarbij werden gezichten van vrouwelijke politici digitaal verwerkt in pornografische beelden.

In verschillende gevallen ontdekten slachtoffers het materiaal pas nadat iemand hen erop wees.

Dat maakt de aanpak ingewikkeld: slachtoffers hoeven niet noodzakelijkerwijs zelf actief naar dergelijke websites te zoeken om ermee geconfronteerd te worden. Ze kunnen er onverwacht achter komen dat hun gezicht onderdeel is geworden van seksueel materiaal dat zij nooit hebben gemaakt.

Het platform zelf zegt niemand te willen kwetsen

De beheerders van het nog actieve platform zeggen zich niet bewust te zijn van een bedoeling om mensen te kwetsen of te vernederen.

Volgens de verklaring van de makers is het niet hun bedoeling om iemand te beledigen of te vernederen. Bezoekers die bezwaar hebben tegen de inhoud wordt volgens de verklaring verzocht de website te verlaten en niet meer te bezoeken.

Die verklaring neemt voor slachtoffers echter niet weg dat hun afbeelding zonder toestemming in een seksuele context wordt gebruikt.

Voor hen gaat het niet alleen om de vraag welke bedoeling de exploitant zegt te hebben, maar vooral om het feit dat hun identiteit wordt gebruikt in materiaal waarmee zij zich niet hebben verbonden.

Meer dan 18.000 accounts met Nederland als land van herkomst

De omvang van het platform blijkt ook uit het aantal gebruikers dat Nederland als land van herkomst heeft opgegeven.

Meer dan 18.000 accounts hebben Nederland als land geregistreerd. Dat betekent niet automatisch dat al deze gebruikers Nederlandse deepfakes hebben gemaakt of verspreid. Het geeft wel aan dat het platform een omvangrijke gebruikersgroep heeft die Nederland als land van herkomst opgeeft.

Onder de accounts bevinden zich gebruikersnamen die duidelijk op Nederland zijn gericht. Sommige gebruikers gebruiken bovendien foto's van bekende Nederlanders of leden van het Koninklijk Huis als profielfoto.

De aanwezigheid van dergelijke accounts maakt duidelijk dat het Nederlandse materiaal niet uitsluitend door buitenlandse gebruikers wordt bekeken.

Tweede Kamer wil structurele aanpak

De betrokken Kamerleden willen dat de aanpak verder gaat dan het verwijderen van afzonderlijke video's.

Een van de voorstellen is een laagdrempelig landelijk meldpunt waar slachtoffers snel terechtkunnen. Een dergelijk meldpunt bestaat inmiddels bij Stichting Offlimits, waar slachtoffers van online misbruik hulp en informatie kunnen krijgen.

Daarnaast wordt gepleit voor strengere handhaving van het verbod op het digitaal uitkleden van personen, dat op 1 december van kracht wordt.

Ook willen de Kamerleden een landelijke campagne die duidelijk maakt dat het maken en verspreiden van seksuele deepfakes ernstige gevolgen kan hebben.

Het doel daarvan is niet alleen slachtoffers helpen nadat materiaal is verspreid, maar ook voorkomen dat mensen dergelijke beelden maken of verspreiden.

Verdienmodel krijgt steeds meer aandacht

Volgens Synhaeve moet bovendien worden onderzocht hoeveel geld er met dergelijke websites wordt verdiend.

Het commerciële karakter van sommige platforms is volgens haar een belangrijk onderdeel van het probleem. Wanneer websites inkomsten genereren uit bezoekers, abonnementen, advertenties of andere vormen van commerciële exploitatie, kan er een financieel belang ontstaan bij het aanbieden van steeds meer materiaal.

Daarmee ontstaat een systeem waarin foto's van nietsvermoedende personen kunnen worden gebruikt om bezoekers te trekken.

Synhaeve zegt dat zij juist daarom vindt dat het niet alleen over individuele gebruikers moet gaan.

„Criminelen gebruiken een foto van mij voor een setting waar ik absoluut geen toestemming voor heb gegeven. Ik vind het walgelijk en verwerpelijk. Dit is gewoon seksueel geweld.”

Nederland heeft al ervaring met strafrechtelijke vervolging

Nederland heeft eerder al strafrechtelijk opgetreden tegen iemand die seksuele deepfakes maakte.

Na onderzoek naar het platform MrDeepFakes besloot het Openbaar Ministerie een 74-jarige man uit Noord-Holland te vervolgen. Meer dan twintig bekende Nederlanders hadden aangifte gedaan.

De zaak laat zien dat het maken van dergelijke beelden ook strafrechtelijke gevolgen kan hebben wanneer aan de wettelijke voorwaarden voor vervolging is voldaan.

Tegelijkertijd kent de internationale aanpak belangrijke juridische verschillen. De oprichter van MrDeepFakes, een apotheker uit Toronto, werd niet op dezelfde manier vervolgd. Het maken van seksuele deepfakes was in Canada in de betreffende periode niet strafbaar.

Daarmee wordt duidelijk dat de bestrijding van seksuele deepfakes niet alleen een technische kwestie is. Ook verschillen tussen nationale wetgeving en handhaving spelen een belangrijke rol.

Internationale sluitingen lossen probleem niet volledig op

Het offline halen van twaalf grote websites is een belangrijke ingreep, maar het betekent niet dat seksuele deepfakes daarmee verdwijnen.

De nieuwe Nederlandse vondst laat zien dat er tegelijkertijd andere platforms actief kunnen blijven waarop vergelijkbaar materiaal wordt aangeboden.

Zolang beelden kunnen worden gekopieerd, opnieuw geüpload en verspreid via verschillende websites, blijven slachtoffers kwetsbaar.

De aanpak vraagt daarom niet alleen om het sluiten van individuele websites, maar ook om samenwerking tussen opsporingsdiensten, toezichthouders, internetbedrijven, hostingpartijen, sociale platforms en organisaties die slachtoffers ondersteunen.

„Dit houdt niet vanzelf op”

Voor Synhaeve is de nieuwe ontdekking vooral een bevestiging dat het probleem niet vanzelf verdwijnt.

Zij vindt het belangrijk dat vrouwelijke Kamerleden gezamenlijk aandacht vragen voor de kwestie. Door zich gezamenlijk uit te spreken willen zij duidelijk maken dat seksuele deepfakes niet moeten worden gezien als een onschuldige vorm van digitale bewerking.

„Hier trekken we samen een grens. We vinden het krachtig om met meerdere vrouwen dit signaal af te geven. Want dit is echt niet oké.”

De nieuwe website, de duizenden Nederlandse accounts en de grote hoeveelheid materiaal laten volgens de betrokkenen zien dat seksuele deepfakes inmiddels een structureel probleem zijn geworden.

De internationale acties van de afgelopen weken hebben enkele grote platforms uitgeschakeld, maar de voortdurende aanwezigheid van vergelijkbaar materiaal op andere websites maakt duidelijk dat de strijd daarmee nog niet voorbij is.

Voor slachtoffers blijft ondertussen een fundamenteel probleem bestaan: zodra hun gezicht eenmaal in een seksuele deepfake is verwerkt, kunnen zij niet zonder meer bepalen waar dat beeld terechtkomt, wie het bekijkt en of het opnieuw wordt verspreid.

Daarmee blijft het verwijderen van individuele video's slechts één onderdeel van de bredere aanpak. De discussie verschuift steeds meer naar de vraag hoe makers, gebruikers en exploitanten van dergelijke platforms juridisch kunnen worden aangepakt en hoe slachtoffers sneller en beter kunnen worden beschermd.

Door: Drifter