Google’s SynthID-watermerk is technisch moeilijk te kraken, maar het lost het onderliggende probleem van AI-desinformatie niet op. Voor ondernemers betekent dit dat je niet blind kunt vertrouwen op watermerken om te bepalen of content echt is. Je hebt aanvullende verificatiemethoden nodig om je bedrijf te beschermen tegen misleidende AI-content.

Wat er aan de hand is

De hoeveelheid AI-gegenereerde media groeit explosief. Het Starling Lab, een onderzoekssamenwerking tussen Stanford University en de University of Southern California, schat dat het tot 1975 duurde — 149 jaar na de uitvinding van de camera — voordat de mensheid 1,5 miljard afbeeldingen had gemaakt. Generatieve AI deed hetzelfde in slechts 18 maanden. Google meldde dit voorjaar op zijn I/O-conferentie dat zijn tools in een paar jaar tijd meer dan 100 miljard AI-afbeeldingen en -video’s hebben gecreëerd, en Google is lang niet de enige bron van AI-content.

Tegelijkertijd breidt Google het gebruik van zijn SynthID-watermerktechnologie uit via meerdere partnerschappen. SynthID kan AI-gegenereerde content labelen en zou mensen mogelijk kunnen helpen om te identificeren wat echt is. Uit tests van Ars Technica blijkt dat het watermerk zelf moeilijk te breken is. Maar de effectiviteit van watermerken in de praktijk is beperkt, omdat ze niet verplicht zijn en niet alle AI-content ermee wordt gemarkeerd.

Wat dit betekent

Voor jou als ondernemer betekent dit dat watermerken geen betrouwbare garantie bieden. AI-content zonder watermerk kan evengoed door AI zijn gemaakt, en content met een watermerk kan nog steeds uit context worden gehaald of worden gemanipuleerd. De kern van het probleem is niet de techniek van het watermerk zelf, maar de acceptatie en het gebruik ervan door de hele industrie.

Dit raakt direct aan je bedrijfsvoering. Denk aan klantbeelden die worden vervalst, nepbeoordelingen die AI-gegenereerd zijn, of concurrenten die AI-content inzetten om jouw merk te beschadigen. De kans dat je hiermee te maken krijgt, neemt toe naarmate AI-tools toegankelijker worden. Het is daarom verstandig om niet te wachten op een watermerkstandaard, maar zelf methoden te ontwikkelen om content te verifiëren.

Hoe je dit kunt toepassen

Als je een webshop runt en productafbeeldingen ontvangt van leveranciers, dan is het verstandig om niet alleen op watermerken te vertrouwen. Je zou kunnen overwegen om een vaste procedure in te stellen waarbij je afbeeldingen controleert op inconsistenties die typisch zijn voor AI-generatie, zoals onlogische schaduwen of vervormde randen. Een mogelijkheid is om medewerkers te trainen in het herkennen van deze signalen, zodat zij verdachte content kunnen doorsturen voor nadere controle.

Als je een team aanstuurt dat content produceert voor marketing of communicatie, dan is het belangrijk om duidelijke richtlijnen op te stellen voor het gebruik van AI-tools. Overweeg om een intern beleid te introduceren waarin staat dat AI-gegenereerde content altijd moet worden gelabeld, ongeacht of er een watermerk aanwezig is. Je zou ook kunnen overwegen om een vast controlepunt in te bouwen in je publicatieproces waar content wordt gecontroleerd op herkomst.

Als je werkt met klantbeelden, reviews of andere gebruikerscontent, dan is het verstandig om alert te zijn op de mogelijkheid van AI-vervalsing. Een optie is om een verificatiestap toe te voegen voor content die gevoelig ligt, bijvoorbeeld door gebruikers te vragen om aanvullende bewijsstukken. Je zou ook kunnen overwegen om te investeren in tools die AI-content detecteren, maar houd er rekening mee dat ook die niet feilloos zijn.

Als je in een sector werkt waar authenticiteit cruciaal is, zoals juridisch, financieel of medisch, dan is het verstandig om extra voorzichtig te zijn met ontvangen documenten en beelden. Overweeg om een protocol op te stellen waarin staat hoe je omgaat met mogelijk AI-gegenereerd materiaal, inclusief het vastleggen van de herkomst van documenten op het moment van ontvangst. Een mogelijkheid is om bij twijfel altijd om originele bestanden of aanvullende verificatie te vragen.

De praktische toepassing hangt af van jouw situatie, maar de kern is dat je niet kunt vertrouwen op één enkele verificatiemethode. Combineer watermerken met eigen controles en protocollen om je bedrijf te beschermen tegen de groeiende stroom AI-content.

Bron: Ars Technica