Het Amerikaanse AI-bedrijf Anthropic heeft aangekondigd dat teksten die met hun AI-model Claude zijn gemaakt, voortaan worden voorzien van een onzichtbaar watermerk. Deze nieuwe functie is bedoeld om de herkomst van AI-gegenereerde content te waarborgen en wordt wereldwijd uitgerold voor de nieuwste modellen van Claude.
Wat houdt het onzichtbare watermerk in?
Het watermerk dat Anthropic implementeert, blijft intact wanneer iemand de tekst kopieert en deze op een andere locatie plakt. Dit zorgt ervoor dat de oorsprong van de teksten, die met Claude zijn geschreven, traceerbaar blijft, ongeacht waar de inhoud wordt gebruikt.
Toepassingen van het watermerk
De nieuwe watermerkfunctie is niet alleen van toepassing op de chatbot van Claude, maar ook op teksten die via de API worden gegenereerd, Claude Code en verschillende zakelijke toepassingen. Dit betekent dat gebruikers van de technologie in een breed scala aan contexten kunnen vertrouwen op de herkenbaarheid van AI-gegenereerde teksten.
Technische details van het watermerk
Hoewel Anthropic de specifieke techniek achter het watermerk nog niet heeft onthuld, is het gebruikelijk dat onderzoekers bij het ontwikkelen van AI-watermerken een systeem implementeren dat het model tijdens het schrijven aanmoedigt om subtiel voorkeur te geven aan bepaalde woorden. Dit leidt tot unieke patronen die kunnen worden herkend door speciale detectiesystemen.
Detectie van AI-gegenereerde content
De detectiesystemen zijn in staat om te analyseren of bepaalde woordpatronen in een tekst vaker voorkomen dan op basis van willekeurigheid verwacht zou mogen worden. Dit maakt het mogelijk om AI-gegenereerde teksten te identificeren, hoewel een positieve detectie niet automatisch betekent dat de volledige tekst door AI is geschreven. Claude kan immers ook worden gebruikt om bestaande teksten te corrigeren, vertalen of samenvatten.
Beperkingen van het watermerk
Bij korte teksten kan het zijn dat er niet genoeg woorden zijn om het watermerk betrouwbaar te herkennen. Bovendien kan een ingrijpende herschrijving of parafrasering het watermerk gedeeltelijk verwijderen, wat vragen oproept over de effectiviteit van het systeem in de praktijk. Of het watermerk bestand is tegen slimme manieren om het te omzeilen, moet nog blijken.
Vergelijking met andere media
Voor afbeeldingen hanteert Anthropic een andere aanpak, waarbij digitale herkomstgegevens volgens de C2PA-standaard worden gebruikt. Dit toont aan dat het bedrijf actief werkt aan het waarborgen van de herkomst van niet alleen teksten, maar ook visuele content.
Verband met wetgeving
De invoering van het onzichtbare watermerk komt voort uit de Europese AI Act, die aanbieders verplicht om AI-gegenereerde content herkenbaar te maken. Deze wetgeving beoogt een transparantere omgang met AI-technologieën en het waarborgen van de rechten van consumenten en gebruikers.
Impact op oudere teksten
Het watermerk zal niet worden toegepast op oudere teksten; alleen nieuwe content die na de invoering van het systeem door Claude wordt geproduceerd, zal worden gemarkeerd. Dit betekent dat de bestaande inhoud buiten beschouwing blijft in deze ontwikkeling.
Met de implementatie van het onzichtbare watermerk zet Anthropic een belangrijke stap in de richting van verantwoord gebruik van AI in contentcreatie. Het biedt een manier om de herkomst van teksten te traceren, wat van groot belang is in een tijd waarin de vraag naar transparantie en authenticiteit in media steeds groter wordt. De effectiviteit van deze technologie zal echter pas in de praktijk blijken, vooral wanneer het gaat om het omgaan met bewerkte of opnieuw geformuleerde teksten.
