Meta-platforms gaan AI afbeeldingen van andere bedrijven labelen

Meta-platforms zoals Facebook, Instagram en Threads hebben aangekondigd dat ze later dit jaar afbeeldingen die gegenereerd zijn door AI van derden van een label zullen voorzien. Het doel hiervan is om gebruikers bewust te maken dat de inhoud door AI is gecreëerd. Meta labelt reeds content die door hun eigen AI binnen apps wordt gegenereerd.

Meta werkt samen met partners aan technische standaarden, zodat Meta-apps kunnen herkennen wanneer een afbeelding is gegenereerd door AI. Op die manier kunnen deze apps de inhoud labelen. Het bedrijf overweegt om metadata, zichtbare en onzichtbare watermerken te gebruiken om AI-content van bedrijven zoals Google, OpenAI, Microsoft, Adobe, Midjourney en Shutterstock te kunnen labelen.

Momenteel werkt Meta aan de ontwikkeling van deze labels en verwacht deze in de komende maanden te introduceren voor alle talen die worden ondersteund op hun platforms. Het label dat wordt gebruikt voor content die met Meta's eigen generatieve AI wordt gemaakt, zal het 'Imagined with AI'-label zijn.

Naast afbeeldingen wil Meta ook audio en video die gegenereerd zijn door AI van labels voorzien. Echter is er momenteel nog geen uniforme manier om metadata of watermerken toe te passen op dergelijke inhoud, waardoor Meta deze content niet eenvoudig kan herkennen. Daarom wil Meta gebruikers in staat stellen om zelf aan te geven wanneer ze audio of video uploaden die met generatieve AI is gemaakt, zodat het platform deze inhoud kan labelen. Meta waarschuwt dat er "maatregelen" zullen worden genomen als gebruikers dergelijke content uploaden zonder dit duidelijk aan te geven. Het bedrijf spreekt ook over "extra duidelijke labels" wanneer gemanipuleerde of gegenereerde content een hoog risico vormt om mensen op essentiële onderwerpen te misleiden.

Meta benadrukt echter dat gebruikers de mogelijkheid hebben om zelf de onzichtbare watermerken en metadata te verwijderen, waardoor Meta de gegenereerde content niet meer kan herkennen en dus geen label kan plaatsen. Daarom werkt Meta aan methoden om generatieve AI-content op zichzelf te kunnen herkennen en wil het ook moeilijker maken om deze onzichtbare watermerken te verwijderen of aan te passen.