ChatGPT krijgt onzichtbaar watermerk in de EU
OpenAI voegt een onzichtbaar watermerk toe aan teksten van ChatGPT en Codex in de Europese Unie. Zo voldoet het bedrijf aan de Europese AI-verordening. Anthropic kondigde in augustus al iets vergelijkbaars aan voor Claude, en dan wereldwijd.
OpenAI gaat de komende weken een onzichtbaar watermerk toevoegen aan teksten die ChatGPT en Codex maken voor gebruikers in de Europese Unie. Dat maakte het bedrijf maandag bekend. Het geldt voor alle abonnementen.
De techniek heet textGrain. Ontwikkelaars buiten Europa kunnen het watermerk via de API zelf aanzetten. Standaard staat het daar uit.
Europese regels dwingen het af
De Europese AI-verordening verplicht aanbieders sinds 2 augustus om door AI gemaakte content machineleesbaar te markeren. Een computer moet dus kunnen herkennen dat een tekst van een AI-model komt.
OpenAI is niet de eerste. Anthropic kondigde in augustus aan dat Claude een vergelijkbaar watermerk krijgt. Dat bedrijf past het wereldwijd toe, niet alleen in Europa.
Het watermerk zit in de woordkeuze
Het watermerk is niet te vergelijken met het merkje in een bankbiljet. Er komen geen verborgen tekens in de tekst. Het zit in de woorden zelf.
Vaak passen meerdere woorden even goed in een zin. Een geheime sleutel bepaalt dan welk woord het model kiest. In één zin valt dat niet op, maar over een langere tekst ontstaat een patroon. Alleen een detector met dezelfde sleutel kan dat patroon terugvinden.
Korte teksten zijn lastiger. Ook bewerken, herschrijven of vertalen maakt het watermerk zwakker.
Docenten kunnen het niet controleren
Gewone gebruikers, docenten en werkgevers kunnen voorlopig niet zien of een tekst een watermerk heeft. De detector is eerst alleen beschikbaar voor goedgekeurde onderzoekers en deskundige organisaties.
OpenAI wil de toegang pas uitbreiden als de uitkomsten verantwoord te duiden zijn. Een detector kan zich namelijk vergissen. Hij kan een watermerk melden dat er niet is, of er een missen dat er wel is.
Wat een watermerk niet bewijst
Geen watermerk betekent niet dat een mens de tekst schreef. De tekst kan bewerkt zijn, uit een ander AI-programma komen of buiten de EU met ChatGPT gemaakt zijn.
Een gevonden watermerk zegt ook weinig over de schrijver. Het laat zien dat een model van OpenAI waarschijnlijk meeschreef. Niet wie de tekst maakte, hoeveel iemand zelf deed of of de inhoud klopt.
Hoe gevoelig dat ligt, bleek vorige maand. Premier Jetten en D66 lieten honderden berichten op sociale media door AI schrijven.
ChatGPT en Claude naast elkaar
Twee watermerken vergeleken
| ChatGPT | Claude | |
|---|---|---|
| Waar | Alleen in de EU | Wereldwijd |
| Wanneer | De komende weken | Aangekondigd in augustus |
| Techniek | textGrain, eigen techniek van OpenAI | Afgeleid van SynthID-Text van Google DeepMind |
| Wie kan controleren | Goedgekeurde onderzoekers en deskundige organisaties | Onder meer toezichthouders, media, factcheckers en onderzoekers |
Sebastiaan Deckx
Sebastiaan schrijft voor Nieuws.co over sport en technologie, en over de plek waar die twee elkaar raken.
