OpenAI voert onzichtbaar AI-watermerk in voor ChatGPT en Codex in de EU

OpenAI gaat de komende weken een onzichtbaar watermerk toevoegen aan daarvoor in aanmerking komende tekst die ChatGPT en Codex in de Europese Unie genereren. Met de techniek, die het bedrijf textGrain noemt, wil OpenAI voldoen aan de transparantieverplichtingen van de Europese AI Act. Het systeem is technisch interessant, maar zeker geen waterdichte methode om AI-tekst te herkennen. Uit OpenAI's eigen tests blijkt dat korte teksten, bepaalde soorten inhoud en relatief beperkte bewerkingen het detectiesignaal aanzienlijk kunnen verzwakken.

Het watermerk is voor de lezer niet zichtbaar. Er verschijnen geen speciale tekens, verborgen spaties of opvallende leestekens in de tekst. In plaats daarvan past textGrain tijdens het genereren subtiel de statistische keuzes aan die het model maakt bij het selecteren van woorden en woorddelen. Over een voldoende lange passage ontstaat daardoor een patroon dat een speciale detector kan herkennen.

OpenAI rolt de technologie in eerste instantie uit voor gebruikers van ChatGPT en Codex in de Europese Unie, ongeacht hun abonnement. De invoering gebeurt de komende weken en geldt alleen voor tekstuitvoer die binnen de reikwijdte van het systeem valt. OpenAI kiest nadrukkelijk niet voor een wereldwijde standaard: buiten de EU blijft tekstwatermarking voor ChatGPT en Codex voorlopig achterwege.

Voor ontwikkelaars kiest OpenAI voor een andere aanpak. API-klanten kunnen wereldwijd voor bepaalde modellen vrijwillig tekstwatermarking inschakelen. Die mogelijkheid staat standaard uit. OpenAI werkt daarnaast met cloudpartners aan ondersteuning voor watermerken bij OpenAI-modellen die via hun diensten worden aangeboden.

Hoe textGrain werkt

Een traditioneel watermerk is vaak letterlijk zichtbaar of bestaat uit metadata die aan een bestand wordt toegevoegd. Bij tekst ligt dat ingewikkelder. Een tekstbestand bevat immers doorgaans geen vanzelfsprekende plek waarin een watermerk kan worden ingebed zonder de tekst zelf te veranderen.

textGrain probeert dat probleem op te lossen door gebruik te maken van de manier waarop een taalmodel tekst genereert. Bij ieder volgend woord of woorddeel heeft een model meerdere mogelijke keuzes. Het systeem kan daar subtiel voorkeuren in aanbrengen. Die voorkeuren zijn voor een menselijke lezer nauwelijks waarneembaar, maar leveren over honderden tokens heen een statistisch patroon op.

Een detector kan vervolgens onderzoeken of dat patroon overeenkomt met het watermerk van OpenAI.

Het systeem voegt dus niet simpelweg een verborgen code achter de tekst, onzichtbare spaties of speciale Unicode-tekens toe. Het watermerk zit volgens OpenAI in de woordkeuzes zelf.

Dat maakt de techniek fundamenteel anders dan bijvoorbeeld metadata. Metadata kan relatief eenvoudig verloren gaan wanneer een bestand wordt gekopieerd, geconverteerd of opnieuw opgeslagen. Een statistisch watermerk maakt onderdeel uit van de tekst zelf en kan daardoor bepaalde bewerkingen overleven.

Dat betekent echter niet dat het watermerk onverwoestbaar is.

AI Act verplicht machineleesbare markering, niet één specifieke watermerktechniek

De Europese AI Act vormt de belangrijkste aanleiding voor de stap van OpenAI. Artikel 50 bevat transparantieverplichtingen voor bepaalde AI-systemen en verplicht aanbieders van generatieve AI om AI-gegenereerde of gemanipuleerde content op een effectieve, betrouwbare, robuuste en interoperabele manier machineleesbaar te markeren.

Daarmee zegt de Europese wetgeving niet dat iedere aanbieder exact hetzelfde watermerk moet gebruiken. De regelgeving schrijft het doel en de eigenschappen van de markering voor, maar legt niet één specifieke technische methode op.

Dat onderscheid is belangrijk.

De verplichting is bovendien breder dan alleen tekst. De Europese regels hebben betrekking op verschillende vormen van synthetische content. Afhankelijk van het soort systeem en de toepassing kunnen daar bijvoorbeeld afbeeldingen, audio en video onder vallen. Voor bepaalde vormen van deepfakes en AI-gegenereerde publicaties gelden daarnaast afzonderlijke verplichtingen voor de partij die de content inzet of publiceert.

Ook geldt de verplichting niet zonder uitzonderingen voor iedere willekeurige uitvoer van een AI-model. De Europese richtsnoeren maken bijvoorbeeld onderscheid tussen reguliere generatieve output en bepaalde vormen van technische of machine-tot-machine-output. Broncode en sommige andere categorieën output vallen onder specifieke uitzonderingen.

Daarom is het te simpel om te stellen dat de AI Act voorschrijft dat iedere tekst die een AI-model produceert van een watermerk moet worden voorzien. De wettelijke werkelijkheid is genuanceerder.

De transparantieregels van artikel 50 zijn sinds 2 augustus 2026 van toepassing. Voor bepaalde AI-systemen die al vóór die datum op de markt waren, geldt voor de specifieke markeer- en detectieverplichting een beperkte overgangsregeling tot 2 december 2026.

OpenAI kiest met textGrain voor een technische invulling die volgens het bedrijf aan deze eisen moet voldoen.

Het watermerk is niet hetzelfde als bewijs van AI-auteurschap

Een belangrijk misverstand is dat een textGrain-detectie zou kunnen bewijzen dat een bepaald persoon ChatGPT heeft gebruikt om een tekst te schrijven.

Dat kan niet.

Een positief detectieresultaat kan volgens OpenAI aangeven dat een OpenAI-systeem een deel van de tekst heeft gegenereerd of verwerkt. Het zegt niet welke gebruiker daarvoor verantwoordelijk was. De detector kan geen account, persoon, gesprek of prompt aan de tekst koppelen.

Ook kan het systeem niet bepalen hoeveel werk een mens vervolgens zelf heeft verricht.

Dat is van belang bij bijvoorbeeld teksten die iemand zelf schrijft en daarna door ChatGPT laat redigeren. Wanneer het model delen van de tekst herschrijft of genereert, kan ook de uiteindelijke versie een watermerksignaal bevatten. Het watermerk vertelt vervolgens niet welk percentage van de tekst door de mens en welk percentage door AI is geschreven.

Het zegt evenmin iets over de juistheid van de inhoud.

Een watermerk is dus geen kwaliteitskeurmerk en geen bewijs dat de tekst betrouwbaar, juridisch correct of feitelijk juist is.

Het omgekeerde is minstens zo belangrijk: het ontbreken van een detecteerbaar watermerk bewijst niet dat een tekst door een mens is geschreven.

Een tekst kan te kort zijn om betrouwbaar te detecteren. Het watermerk kan door bewerkingen zijn verzwakt. Een tekst kan zijn vertaald, afkomstig zijn van een model dat geen watermerk gebruikt of op een andere manier buiten het detectiebereik van de technologie vallen.

OpenAI laat zelf zien hoe gemakkelijk detectie kan teruglopen

De grootste beperking van textGrain blijkt uit de cijfers die OpenAI zelf publiceert.

In tests met een doelstelling van maximaal 1 procent false positives werd bij ongeveer 80 procent van de teksten van 200 tokens een watermerk gevonden. Bij passages van 400 tokens liep dat voor bepaalde soorten vrij geformuleerde tekst op tot ongeveer 95 procent.

Dat betekent dat tekstlengte een belangrijke factor is. Hoe meer tekst beschikbaar is, hoe meer statistische informatie de detector heeft om naar het patroon te zoeken.

Bij wiskundige teksten liggen de detectiepercentages aanzienlijk lager. Dat is logisch: bij een wiskundige uitleg is er doorgaans minder vrijheid in de keuze van woorden. Een model kan een wiskundige formulering minder gemakkelijk vervangen door tientallen statistisch gelijkwaardige alternatieven zonder de inhoud of nauwkeurigheid te beïnvloeden.

Maar vooral het effect van redactie is opvallend.

Bij een afzonderlijke test met passages van ongeveer 400 tokens detecteerde de detector het watermerk aanvankelijk in ongeveer 92 procent van de gevallen. Nadat 10 procent van de woorden door synoniemen was vervangen, daalde de detectie naar ongeveer 66 procent.

Wanneer 25 procent van de woorden werd vervangen, bleef daar nog ongeveer 17 procent detectie van over.

Dat betekent niet dat iemand exact 25 procent van een tekst moet veranderen om het watermerk te verwijderen. De cijfers zijn afkomstig uit een specifieke testopzet en mogen niet worden vertaald naar een universele regel.

Ze laten wel iets belangrijks zien: het watermerk is geen onveranderlijke digitale handtekening.

Hoe meer de tekst wordt herschreven, hoe groter de kans dat het statistische patroon waarop de detector vertrouwt verloren gaat.

Ook vertaling en omvangrijke inhoudelijke bewerking kunnen de detectie bemoeilijken.

Waarom OpenAI de detector voorlopig niet openbaar maakt

Juist vanwege deze beperkingen stelt OpenAI zijn detector niet onmiddellijk voor iedereen beschikbaar.

Het bedrijf geeft aanvankelijk alleen goedgekeurde onderzoekers en gespecialiseerde organisaties toegang. Zij kunnen de technologie gebruiken om de betrouwbaarheid en mogelijke toepassingen verder te onderzoeken.

Daarmee wil OpenAI voorkomen dat een onvolmaakte detector direct wordt gebruikt als een soort automatische scheidsrechter die bepaalt of iemand wel of niet AI heeft gebruikt.

Dat is begrijpelijk. Een detector die af en toe AI-tekst mist, is vervelend. Een detector die menselijke tekst ten onrechte als AI-tekst aanmerkt, kan veel grotere gevolgen hebben.

Denk bijvoorbeeld aan onderwijs, sollicitaties, journalistiek, wetenschappelijk onderzoek of juridische procedures. Wanneer een detector ten onrechte concludeert dat een tekst door AI is geschreven, kan dat leiden tot beschuldigingen die niet op betrouwbare bewijzen zijn gebaseerd.

OpenAI benadrukt daarom zelf dat zowel false positives als false negatives een probleem vormen.

Het bedrijf is wel van plan om textGrain uiteindelijk als open source beschikbaar te maken. Daarmee kunnen onderzoekers en andere ontwikkelaars de techniek zelf bestuderen en mogelijk aanvullende detectie- en verificatiesystemen bouwen.

Een watermerk is dus geen onzichtbare versie van een AI-detector

Daarmee ontstaat een belangrijk onderscheid tussen twee concepten die vaak door elkaar worden gehaald.

Een watermerk probeert tijdens het genereren een herkenbaar signaal in de content te plaatsen.

Een detector probeert achteraf vast te stellen of dat signaal aanwezig is.

De betrouwbaarheid van de tweede stap hangt af van de kwaliteit van de eerste én van wat er met de tekst gebeurt nadat die is gegenereerd.

Een watermerk kan dus technisch aanwezig zijn geweest, terwijl een detector het na bewerking niet meer betrouwbaar kan vinden.

Dat maakt textGrain anders dan een database waarin iedere door ChatGPT gegenereerde tekst wordt geregistreerd. OpenAI creëert geen universeel register waarin een detector vervolgens kan opzoeken welke gebruiker een passage heeft geschreven.

De detector kijkt uitsluitend naar het statistische signaal in de tekst.

Watermarking lijkt geen merkbare kwaliteitsprijs te hebben

Een andere belangrijke vraag is of het aanpassen van de woordkeuzes invloed heeft op de kwaliteit van de antwoorden.

Volgens OpenAI is daar in de eigen benchmarks geen betekenisvol verschil tussen zichtbaar.

Het bedrijf vergeleek de prestaties van zijn nieuwste frontiermodel, Astra, met en zonder watermarking. Op sommige benchmarks scoorde de versie met watermerk iets hoger en op andere iets lager.

Zo kwam GPQA Diamond uit op 94,44 procent zonder watermerk tegenover 93,94 procent met watermerk. Op BrowseComp was dat respectievelijk 87,92 en 87,35 procent. Andere benchmarks lieten juist een lichte verbetering zien.

De verschillen zijn volgens OpenAI niet groot genoeg om van een betekenisvolle kwaliteitsvermindering te spreken.

Dat is ook technisch logisch. Het doel van textGrain is niet om de inhoud van het antwoord drastisch te veranderen, maar om binnen de bestaande keuzemogelijkheden van het model subtiele statistische voorkeuren aan te brengen.

De gepubliceerde resultaten zijn daarbij wel resultaten van OpenAI's eigen evaluaties. Ze moeten daarom niet worden geïnterpreteerd als onafhankelijk bewijs dat de methode onder alle omstandigheden geen kwaliteitsimpact heeft.

Wat betekent dit voor ChatGPT-gebruikers in Europa?

Voor de meeste gebruikers zal er op het eerste gezicht vrijwel niets veranderen.

Wie in de Europese Unie ChatGPT gebruikt en een tekst laat genereren, krijgt geen zichtbare melding in de tekst. Er komt geen opvallend label boven het antwoord te staan en er verschijnt geen watermerk dat met het blote oog kan worden gelezen.

De verandering vindt plaats op het niveau van de generatie zelf.

De tekst wordt statistisch zo gegenereerd dat een gespecialiseerde detector later kan proberen vast te stellen of het textGrain-signaal aanwezig is.

Een gebruiker hoeft daarvoor niets in te stellen.

Ook betekent de invoering niet dat iedere docent, werkgever, journalist of website-eigenaar vanaf dat moment automatisch kan controleren of een tekst uit ChatGPT afkomstig is. De detector is voorlopig niet publiek beschikbaar.

Dat is een cruciaal verschil met bijvoorbeeld een zichtbaar label.

Een machineleesbaar watermerk is in de eerste plaats bedoeld als technische provenance-informatie. Het is niet hetzelfde als een zichtbare waarschuwing voor iedereen die de tekst leest.

Codex valt eveneens onder de Europese aanpak

De invoering beperkt zich niet tot de gewone ChatGPT-interface. Ook Codex krijgt in de EU voor daarvoor in aanmerking komende tekstuitvoer de watermerktechnologie.

Dat is relevant omdat Codex inmiddels veel meer doet dan uitsluitend losse codefragmenten genereren. De ontwikkelassistent kan onder meer werken met bestanden, terminaltaken uitvoeren en verschillende soorten ontwikkelwerk ondersteunen.

Niet iedere Codex-uitvoer moet echter automatisch als tekst onder artikel 50 worden beschouwd. De Europese richtsnoeren bevatten specifieke uitzonderingen, waaronder bepaalde vormen van broncode en machine-tot-machine-output.

Dat maakt de formulering dat "alle Codex-output wordt gewatermerkt" te absoluut.

Waar Codex tekst genereert die binnen de toepasselijke transparantieregels valt, past OpenAI de nieuwe provenance-aanpak toe.

API-gebruikers krijgen wereldwijd een keuze

Voor gebruikers van de OpenAI API ligt de situatie anders.

OpenAI maakt text watermarking voor bepaalde modellen wereldwijd beschikbaar als opt-in. Een API-klant kan dus zelf besluiten om watermerken aan te zetten.

Dat kan vooral interessant zijn voor organisaties die zelf AI-diensten aanbieden en hun gebruikers willen kunnen laten zien of technische systemen willen kunnen vaststellen dat bepaalde output met een OpenAI-model is gegenereerd.

De functie staat niet automatisch wereldwijd aan.

OpenAI werkt daarnaast samen met cloudpartners om dezelfde mogelijkheid beschikbaar te maken voor OpenAI-modeloutput die via die infrastructuur wordt geleverd.

Daarmee probeert het bedrijf te voorkomen dat provenance alleen beschikbaar is wanneer een gebruiker rechtstreeks de ChatGPT-interface gebruikt.

OpenAI kiest bewust voor een regionale introductie

Opvallend is dat OpenAI textGrain niet onmiddellijk wereldwijd verplicht stelt.

De Europese Unie fungeert daarmee feitelijk als eerste grote testomgeving voor de technologie.

Dat heeft een juridische én technische reden. De AI Act creëert in Europa een concrete verplichting rond de machineleesbare herkenbaarheid van AI-gegenereerde content. Door textGrain eerst in de EU uit te rollen kan OpenAI praktijkervaring opdoen met de gevolgen voor gebruikers, ontwikkelaars, onderzoekers en detectiesystemen.

Buiten de EU blijft de standaardinstelling voor ChatGPT en Codex vooralsnog ongewijzigd.

Voor API-klanten is er wel wereldwijd een opt-inmogelijkheid.

OpenAI is niet de enige

Tekstwatermerken zijn inmiddels onderdeel geworden van een bredere ontwikkeling in de AI-industrie.

Verschillende AI-aanbieders onderzoeken technieken waarmee gegenereerde content achteraf herkenbaar kan worden gemaakt. Het principe is steeds ongeveer hetzelfde: de maker probeert een signaal te verstoppen in de manier waarop content wordt gegenereerd, zodat een speciaal systeem het later kan terugvinden.

Bij afbeeldingen en audio bestaan daarnaast andere vormen van provenance.

OpenAI gebruikt voor ondersteunde afbeeldingen onder meer C2PA-metadata en SynthID-watermerken. Voor audio wordt SynthID gebruikt. C2PA is een open standaard waarmee informatie over de oorsprong en bewerkingsgeschiedenis van digitale content kan worden vastgelegd.

Dat illustreert waarom bedrijven steeds vaker meerdere technieken combineren.

Metadata kan veel informatie bevatten, maar kan bij conversie of bewerking verloren gaan. Een watermerk bevat minder context, maar zit directer in de content zelf en kan bepaalde transformaties overleven.

Geen van beide methoden is onfeilbaar.

Het belangrijkste probleem blijft: een detector kan niet bewijzen wie de auteur is

Daarmee komt de discussie uiteindelijk neer op een fundamentele beperking.

Stel dat een detector een watermerk vindt in een essay.

Dan kan hij mogelijk zeggen: deze tekst bevat een patroon dat overeenkomt met een OpenAI-watermerk.

Hij kan niet zeggen:

• welke persoon ChatGPT heeft gebruikt;
• welk account de tekst heeft gegenereerd;
• welke prompt is gebruikt;
• hoeveel van de tekst door AI is geschreven;
• hoeveel een mens daarna heeft aangepast;
• of de gebruiker de tekst zelf heeft geschreven en alleen heeft laten redigeren;
• of de uiteindelijke inhoud feitelijk juist is;
• of de gebruiker de tekst zonder toestemming van iemand anders heeft overgenomen.

En als de detector niets vindt, kan hij evenmin met zekerheid zeggen:

"Deze tekst is door een mens geschreven."

Dat maakt watermerken vooral geschikt als provenance-signaal, niet als sluitend bewijs van auteurschap.

Is textGrain dan een wassen neus?

De kwalificatie "wassen neus" is uiteindelijk te kort door de bocht.

De technologie is niet nutteloos. Bij langere, weinig bewerkte teksten kan het watermerk een daadwerkelijk bruikbaar signaal opleveren. Dat kan waardevol zijn voor platforms, onderzoekers en organisaties die willen weten of content waarschijnlijk afkomstig is van een bepaald AI-systeem.

Maar het is evenmin een digitale vingerafdruk die onder alle omstandigheden blijft bestaan.

De eigen testresultaten van OpenAI maken duidelijk waarom.

Bij relatief lange, vrij formuleerbare teksten kan de detectie behoorlijk hoog zijn. Maar korte teksten zijn moeilijker te herkennen. Wiskundige teksten leveren minder betrouwbare signalen op. En wanneer een tekst wordt bewerkt, kan de detectiekans snel afnemen.

Een herschrijving van een kwart van de woorden bracht de detectie in OpenAI's eigen test terug tot ongeveer 17 procent.

Daarmee is textGrain vooral te zien als een probabilistisch herkomstsignaal, niet als een forensisch bewijsstuk.

Wat de Europese wet hiermee wel en niet oplost

De Europese regelgeving probeert met deze aanpak een praktisch probleem aan te pakken: AI-gegenereerde content wordt steeds moeilijker te onderscheiden van menselijke content, terwijl synthetische media kunnen worden gebruikt voor misleiding, manipulatie en grootschalige verspreiding van valse informatie.

Een machineleesbaar signaal kan daarbij helpen.

Maar een watermerk lost het probleem van AI-misleiding niet zelfstandig op.

Een watermerk vertelt niet of informatie waar is. Het vertelt niet wie verantwoordelijk is. Het vertelt niet hoeveel menselijke inbreng er was. En het kan door bewerking minder betrouwbaar of zelfs ondetecteerbaar worden.

De kracht zit daarom eerder in een combinatie van technieken: machineleesbare markeringen, metadata, watermerken, verificatietools en duidelijke informatie voor gebruikers.

Dat is ook de richting waarin de Europese regelgeving zich beweegt.

Een eerste stap, geen sluitend AI-bewijs

Met textGrain zet OpenAI een belangrijke stap richting machineleesbare herkomstinformatie voor tekst. Voor gebruikers in de Europese Unie betekent dit dat daarvoor in aanmerking komende ChatGPT- en Codex-output voortaan een onzichtbaar statistisch signaal kan bevatten.

Voor de gewone gebruiker verandert er vrijwel niets aan de zichtbare tekst.

Voor onderzoekers, platforms en organisaties kan de verandering wel degelijk relevant zijn. Zij krijgen uiteindelijk een technisch hulpmiddel om te onderzoeken of een passage waarschijnlijk met een OpenAI-systeem is gegenereerd of verwerkt.

Maar de beperkingen zijn minstens zo belangrijk als de technologie zelf.

Een ontbrekend watermerk betekent niet dat een mens de tekst heeft geschreven. Een gevonden watermerk identificeert geen gebruiker. En een watermerk kan door redactie, vertaling of andere bewerkingen worden verzwakt.

Daarmee is textGrain geen universele AI-detector en al helemaal geen onfeilbare methode om menselijke en kunstmatige auteurschap van elkaar te scheiden.

Het is beter te spreken van een onzichtbaar herkomstsignaal dat onder gunstige omstandigheden kan aantonen dat OpenAI-technologie bij de totstandkoming van een tekst betrokken is geweest.

Precies dat onderscheid zal de komende jaren belangrijk worden. Naarmate AI-gegenereerde tekst normaler wordt, zal de vraag niet alleen zijn óf een tekst een watermerk bevat, maar vooral wat zo'n watermerk juridisch en praktisch daadwerkelijk bewijst.

Door: Drifter