BREIN opent online Deepfakeloket: betere bescherming van artiesten en makers tegen misbruik van stem, gezicht en identiteit

De snelle ontwikkeling van kunstmatige intelligentie (AI) biedt de creatieve sector steeds meer mogelijkheden, maar brengt tegelijkertijd nieuwe risico’s met zich mee. Een van de meest zorgwekkende ontwikkelingen is de toenemende verspreiding van zogenoemde deepfakes: met behulp van AI gemaakte of gemanipuleerde video’s, afbeeldingen en geluidsfragmenten waarin personen op een zeer realistische manier worden nagebootst. Daarbij kunnen niet alleen iemands uiterlijk en gezichtsuitdrukkingen worden gereproduceerd, maar ook diens stem, manier van spreken en andere herkenbare persoonlijke kenmerken.

Vooral artiesten, acteurs, stemacteurs, kunstenaars en andere publieke figuren worden steeds vaker geconfronteerd met ongeoorloofd gebruik van hun identiteit. Hun herkenbare stem, gezicht of artistieke persoonlijkheid kan met behulp van generatieve AI worden gekopieerd en vervolgens worden ingezet in producties, reclames, video's of andere online publicaties waarvoor zij geen toestemming hebben gegeven. In sommige gevallen worden deze personen zelfs verbonden aan uitspraken, handelingen, commerciële boodschappen of controversiële en misleidende inhoud waarmee zij niets te maken hebben en waarmee zij zich nadrukkelijk niet willen associëren.

Dergelijk misbruik kan verstrekkende gevolgen hebben. Het kan leiden tot reputatieschade, aantasting van de persoonlijke levenssfeer, ongewenste commerciële exploitatie, verlies van inkomsten en het ondermijnen van de professionele positie van makers en uitvoerende kunstenaars. Bovendien verliezen betrokkenen de controle over de manier waarop hun stem, gezicht en identiteit naar buiten worden gebracht. Juist omdat AI-technologie steeds toegankelijker wordt en de kwaliteit van nagebootste beelden en stemmen voortdurend verbetert, wordt het voor het publiek bovendien steeds moeilijker om onderscheid te maken tussen authentiek materiaal en kunstmatig gegenereerde inhoud.

Om artiesten en andere rechthebbenden beter tegen deze vorm van identiteitsmisbruik te beschermen, opent Stichting BREIN een online Deepfakeloket. Met dit initiatief wil BREIN een laagdrempelige voorziening bieden waar artiesten, (stem)acteurs, kunstenaars en hun vertegenwoordigers melding kunnen doen wanneer hun stem of beeltenis zonder toestemming wordt nagebootst en op een schadelijke of anderszins onrechtmatige manier wordt gebruikt.

Een meldpunt voor slachtoffers van schadelijke deepfakes

Het nieuwe Deepfakeloket is bedoeld voor personen uit de creatieve sector die worden geconfronteerd met ongeoorloofde deepfakes waarin hun herkenbare identiteit wordt gebruikt. Ook vertegenwoordigers, zoals gemachtigden en andere betrokken professionals, kunnen namens de betreffende artiest of maker een melding indienen.

Via het online meldformulier kunnen slachtoffers informatie verstrekken over de betreffende deepfake, de plaats waar het materiaal is gepubliceerd en de aard van het ongewenste gebruik. Op basis van deze melding kan BREIN de situatie beoordelen en onderzoeken of sprake is van onrechtmatig gebruik en of optreden mogelijk en noodzakelijk is.

Wanneer uit het onderzoek blijkt dat een deepfake onrechtmatig is en schadelijke gevolgen heeft, kan BREIN zich inzetten om de betreffende inhoud zo snel mogelijk van online platforms verwijderd te krijgen of de toegang daartoe te laten blokkeren. Indien de omstandigheden daartoe aanleiding geven, kan BREIN ook verdere stappen ondernemen om het misbruik tegen te gaan en de belangen van de betrokken artiest of maker te beschermen.

Een snelle aanpak is daarbij van groot belang. Schadelijke deepfakes kunnen zich binnen korte tijd via sociale media, videoplatforms en andere online kanalen verspreiden. Zelfs wanneer de oorspronkelijke publicatie wordt verwijderd, kunnen kopieën opnieuw worden geplaatst en verder worden gedeeld. Hoe langer dergelijke inhoud online beschikbaar blijft, hoe groter de mogelijke gevolgen voor de reputatie, professionele werkzaamheden en persoonlijke levenssfeer van het slachtoffer.

Met het Deepfakeloket wil BREIN daarom niet alleen reageren op bestaande gevallen van misbruik, maar ook bijdragen aan een effectievere bescherming van de creatieve sector tegen de steeds grotere risico’s van ongecontroleerde AI-toepassingen.

Eerdere aanpak: ongeoorloofde AI-stemklonen van Philip Freriks verwijderd

Dat het probleem niet uitsluitend theoretisch is, blijkt uit een recente zaak waarbij BREIN met succes heeft opgetreden tegen het ongeoorloofde gebruik van een herkenbare stem.

Na meldingen en interventie van BREIN heeft YouTube 45 filmpjes verwijderd waarin zonder toestemming gebruik werd gemaakt van AI-gegenereerde stemklonen van Philip Freriks. In deze video's was zijn karakteristieke stem nagebootst en gekoppeld aan inhoud waarmee hij niet geassocieerd wilde worden. De betreffende filmpjes hadden een dubieuze inhoud en wekten door het gebruik van zijn herkenbare stem de indruk dat hij daar op een of andere manier bij betrokken was.

Deze zaak laat duidelijk zien hoe generatieve AI kan worden ingezet om de identiteit en reputatie van bekende personen te misbruiken. Waar vroeger professionele opnametechnieken, acteurs en omvangrijke producties nodig waren om iemands stem overtuigend na te bootsen, kan dat tegenwoordig met relatief toegankelijke AI-technologie. Een relatief korte geluidsopname kan in bepaalde gevallen al voldoende zijn om een digitale nabootsing te creëren die voor luisteraars overtuigend klinkt.

Het gevaar is dat de nagebootste stem vervolgens kan worden gebruikt voor uitspraken die de betreffende persoon nooit heeft gedaan, of voor inhoud waarvoor hij of zij geen enkele verantwoordelijkheid draagt. Daardoor kunnen kijkers en luisteraars worden misleid en kan de betrokken persoon onterecht in verband worden gebracht met bepaalde standpunten, activiteiten of boodschappen.

De verwijdering van de 45 filmpjes onderstreept het belang van een toegankelijk meldpunt en een doeltreffende aanpak. Het Deepfakeloket moet ervoor zorgen dat artiesten en hun vertegenwoordigers niet alleen komen te staan wanneer hun stem of beeltenis op deze manier wordt misbruikt.

Bescherming van identiteit en artistieke prestaties

De gevolgen van deepfakes reiken verder dan het verspreiden van misleidende of ongewenste video's. Voor artiesten en andere creatieve professionals zijn hun stem, gezicht, uitstraling en artistieke prestaties belangrijke onderdelen van hun professionele identiteit. Daar wordt vaak jarenlang aan gewerkt en die identiteit vormt in veel gevallen een wezenlijk onderdeel van hun verdienvermogen.

Wanneer derden deze kenmerken zonder toestemming met AI reproduceren, kunnen zij feitelijk gebruikmaken van de professionele identiteit en bekendheid van iemand anders. Dat kan niet alleen de reputatie van de betrokken artiest aantasten, maar ook leiden tot ongewenste commerciële exploitatie. Denk bijvoorbeeld aan het gebruik van een nagebootste stem in reclames, promotionele video's, digitale producties of andere commerciële toepassingen, zonder dat de betreffende artiest daarmee heeft ingestemd of daarvoor wordt vergoed.

Ook kan ongeoorloofd AI-gebruik de positie van professionele stemacteurs en acteurs onder druk zetten. Opdrachtgevers kunnen immers steeds gemakkelijker kiezen voor een digitale nabootsing van een bestaande stem of een bestaand gezicht, zonder de oorspronkelijke uitvoerende kunstenaar bij de productie te betrekken. Daarmee komen niet alleen de zeggenschap over de eigen identiteit en de bescherming van creatieve prestaties in het geding, maar ook de werkgelegenheid en inkomstenmogelijkheden binnen de sector.

Het is daarom van belang dat technologische innovatie niet ten koste gaat van de rechten en belangen van degenen die met hun talent, creativiteit en vakmanschap de culturele en creatieve sector vormgeven.

Samenwerking binnen de creatieve sector

De opening van het Deepfakeloket wordt ondersteund door verschillende organisaties die opkomen voor de belangen van makers, artiesten, acteurs en andere professionals uit de creatieve sector.

Stichting BREIN benadrukt dat zij zich wil inzetten voor een laagdrempelige voorziening waar slachtoffers van schadelijke deepfakes terechtkunnen. Het aantal AI-gegenereerde nabootsingen neemt toe en vooral artiesten worden regelmatig geconfronteerd met ongeoorloofd gebruik van hun stem en beeltenis. BREIN wil daarom alles doen wat binnen haar mogelijkheden ligt om haar achterban ook op dit terrein te beschermen.

Ook Platform Makers wijst op de verstrekkende gevolgen die deepfakes kunnen hebben voor de positie van makers. Het ongeoorloofd kopiëren van een stem of gezicht kan leiden tot reputatieschade, misbruik van artistiek werk, verlies van zeggenschap over de eigen identiteit en financiële schade. Het Deepfakeloket biedt makers een toegankelijk aanspreekpunt wanneer zij met dergelijke situaties worden geconfronteerd.

De Kunstenbond benadrukt daarnaast dat deepfakes steeds moeilijker van authentieke beelden en geluidsopnamen te onderscheiden zijn. Dat vormt een bedreiging voor de betrouwbaarheid en waarde van creatieve producties, maar ook voor de reputatie en artistieke identiteit van de betrokken makers. De organisatie pleit daarom voor een bredere aanpak, waarbij schadelijke toepassingen worden bestreden, AI-gegenereerde inhoud herkenbaar wordt gemaakt, online platforms verantwoordelijkheid nemen en slachtoffers over effectieve mogelijkheden beschikken om tegen misbruik op te treden.

Samen1Stem, dat de belangen van stemprofessionals behartigt, wijst vooral op de toenemende kwetsbaarheid van stemacteurs. Door generatieve AI kunnen bestaande stemmen steeds eenvoudiger worden gereproduceerd en vervolgens zonder toestemming worden gebruikt. Dat brengt de professionele positie van stemacteurs ernstig onder druk. Het Deepfakeloket wordt daarom gezien als een noodzakelijk initiatief om stemprofessionals te ondersteunen bij het tegengaan van ongecontroleerde AI-stemreplicatie.

Ook de NVPI onderstreept het belang van een evenwicht tussen technologische vooruitgang en de bescherming van makers. Generatieve AI kan nieuwe kansen bieden voor de creatieve sector, maar innovatie mag niet betekenen dat artiesten hun zeggenschap over hun stem, gezicht en identiteit verliezen. Een gezonde creatieve sector vraagt om duidelijke grenzen en respect voor de belangen van de mensen die de creatieve prestaties leveren.

ACT, de belangenorganisatie voor acteurs, benadrukt ten slotte dat acteurs vaak jarenlang investeren in het opbouwen van een professionele carrière en herkenbare artistieke identiteit. Door AI kunnen hun gezichten, stemmen en acteerprestaties steeds eenvoudiger worden nagebootst en gebruikt zonder hun toestemming. Het is daarom belangrijk dat acteurs over mogelijkheden beschikken om op te treden wanneer hun identiteit op deze manier wordt misbruikt. Het Deepfakeloket voorziet volgens de organisatie in een duidelijke behoefte binnen de beroepsgroep.

Verantwoord gebruik van AI vraagt om bescherming van makers

De ontwikkeling van generatieve AI is niet tegen te houden en hoeft ook geen bedreiging te vormen voor de creatieve sector. De technologie kan waardevolle toepassingen hebben en nieuwe mogelijkheden bieden voor productie, communicatie, entertainment en artistieke expressie. De grens wordt echter overschreden wanneer de stem, het gezicht of de identiteit van een bestaande persoon zonder toestemming wordt nagebootst en op een schadelijke, misleidende of anderszins onrechtmatige manier wordt gebruikt.

Daarbij is het belangrijk onderscheid te maken tussen legitiem en verantwoord AI-gebruik enerzijds en misbruik van iemands identiteit anderzijds. Niet iedere AI-gegenereerde afbeelding, video of stemimitatie is automatisch onrechtmatig. De omstandigheden, de wijze van gebruik, de eventuele toestemming en de gevolgen voor de betrokkene spelen daarbij een belangrijke rol. Juist daarom is een zorgvuldige beoordeling van meldingen noodzakelijk.

Het Deepfakeloket biedt een concrete mogelijkheid om gevallen van mogelijk onrechtmatig gebruik onder de aandacht te brengen en te laten onderzoeken. Daarmee wordt een belangrijke stap gezet in de richting van betere bescherming van artiesten en makers in een digitale omgeving waarin de grenzen tussen werkelijkheid en kunstmatige nabootsing steeds minder duidelijk worden.

Waar kunnen slachtoffers terecht?

Artiesten, acteurs, stemacteurs, kunstenaars en hun vertegenwoordigers die te maken krijgen met schadelijke of mogelijk onrechtmatige deepfakes, kunnen voortaan online een melding indienen bij Stichting BREIN.

Het meldpunt is bedoeld voor situaties waarin iemands herkenbare stem of beeltenis zonder toestemming wordt nagebootst en het gebruik daarvan schade veroorzaakt of andere onrechtmatige gevolgen heeft. Na ontvangst worden de meldingen zorgvuldig beoordeeld en onderzocht. Wanneer optreden gerechtvaardigd is, kan BREIN zich inzetten voor verwijdering of blokkering van de betreffende content en, indien nodig, verdere stappen ondernemen.

Met de opening van het Deepfakeloket wil BREIN een duidelijk signaal afgeven: de mogelijkheden van kunstmatige intelligentie mogen niet worden gebruikt als vrijbrief om de identiteit, stem en artistieke prestaties van anderen zonder toestemming te exploiteren.

De bescherming van artiesten, makers en uitvoerende kunstenaars moet ook in het tijdperk van generatieve AI gewaarborgd blijven. Het nieuwe meldpunt vormt daarvoor een belangrijke praktische voorziening en draagt bij aan een digitale omgeving waarin respect voor creatieve prestaties, persoonlijke identiteit en de rechten van makers centraal blijft staan.

Door: Drifter