Een 22-jarige Indiase geneeskundestudent verdient duizenden euro’s met een AI-gegenereerd Instagram-account dat politiek geladen content verspreidt. Dit voorbeeld laat zien hoe eenvoudig het is om met AI misleidende of schadelijke content te maken, en hoe snel jouw bedrijf onbedoeld in een vergelijkbare situatie kan belanden.

Wat er aan de hand is

Volgens een artikel van Ars Technica heeft een Indiase geneeskundestudent, die anoniem wil blijven om zijn medische carrière en immigratieplannen naar de VS niet in gevaar te brengen, een AI-gegenereerd Instagram-account opgezet. Hij gebruikte Google Gemini’s Nano Banana Pro om een fictieve vrouw te creëren en verkoopt bikini-foto’s van dit AI-figuur online. De student, die kampt met financiële problemen, verdient er duizenden euro’s mee. Het account verspreidt ook politiek geladen content, gericht op een specifiek Amerikaans publiek. Dit nieuws onderstreept hoe laagdrempelig het is om met AI overtuigende, maar volledig fictieve personages te maken en in te zetten voor commerciële of politieke doeleinden.

Wat dit betekent

Voor ondernemers en professionals betekent dit dat de grens tussen authentieke en AI-gegenereerde content steeds vager wordt. Jouw bedrijf kan onbedoeld in een lastig parket komen als je AI-tools inzet zonder goed te controleren wat de output is. Denk aan een marketingcampagne die per ongeluk een AI-gegenereerd figuur gebruikt, of een medewerker die zonder toestemming AI inzet voor klantcommunicatie. De reputatieschade kan groot zijn: klanten en partners kunnen het vertrouwen verliezen als blijkt dat je niet transparant bent over het gebruik van AI. Bovendien kan het inzetten van AI voor misleidende content juridische gevolgen hebben, zoals schending van portretrecht of het verspreiden van desinformatie.

Hoe je dit kunt toepassen

Als je een marketingteam aanstuurt, overweeg om een duidelijk beleid op te stellen voor het gebruik van AI in contentcreatie. Je zou kunnen afspreken dat alle AI-gegenereerde beelden of teksten expliciet worden gelabeld, bijvoorbeeld met een watermerk of een disclaimer. Dit voorkomt dat klanten zich misleid voelen en beschermt de reputatie van je merk.

Als je personeel inhuurt voor social media, is het verstandig om hen te wijzen op de risico’s van AI-tools. Een mogelijkheid is om een korte training of richtlijn te geven waarin staat dat het gebruik van AI voor het creëren van nep-personages of misleidende content niet is toegestaan. Dit kan voorkomen dat een medewerker, zoals de student uit het artikel, op eigen initiatief schadelijke content maakt.

Als je zelf AI inzet voor klantinteractie, zoals chatbots of gepersonaliseerde aanbiedingen, overweeg dan om transparant te zijn over het gebruik van AI. Je zou bijvoorbeeld een melding kunnen toevoegen dat een bericht door AI is gegenereerd. Dit versterkt het vertrouwen en voorkomt dat klanten het gevoel hebben dat ze worden misleid.

Als je een webshop runt en AI gebruikt voor productafbeeldingen, is het verstandig om te controleren of de gegenereerde beelden geen bestaande personen of merken imiteren. Een optie is om een juridische check te doen op de output voordat je deze publiceert. Dit minimaliseert het risico op claims van portretrecht of merkinbreuk.

Bron: Ars Technica