AI wordt gebruikt om de stemmen van overleden piloten te reconstrueren op basis van oude cockpitopnames, waardoor de Amerikaanse veiligheidsraad NTSB tijdelijk de toegang tot zijn dossiersysteem moest blokkeren. Dit voorval laat zien dat deepfake-technologie niet alleen een risico is voor grote bedrijven of politici, maar voor elke organisatie die met gevoelige data werkt. Voor ondernemers betekent dit dat je nu moet nadenken over hoe je je bedrijf beschermt tegen reputatieschade door AI-manipulatie van audio en data.

Wat er aan de hand is

Mensen hebben AI gebruikt op een spectrogramafbeelding van cockpitopnames om de stemmen van overleden piloten te reconstrueren. Dit dwong de National Transportation Safety Board (NTSB) om tijdelijk de toegang tot zijn docketsysteem te blokkeren. Het incident, gemeld door TechCrunch, laat zien hoe laagdrempelig het manipuleren van audio is geworden. Waar deepfake-video’s nog relatief veel rekenkracht vereisen, kan audio worden gereconstrueerd uit visuele representaties van geluid, zoals spectrogrammen. Dit is een nieuwe stap in de evolutie van AI-manipulatie, die eerder vooral draaide om het vervalsen van stemmen met behulp van trainingsdata.

Wat dit betekent

Dit voorval heeft directe impact op ondernemers die vertrouwelijke of gevoelige data beheren, zoals juridische documenten, klantgesprekken of interne communicatie. Als een spectrogram van een cockpitopname al genoeg is om een stem te reconstrueren, dan zijn opnames van vergaderingen, telefoongesprekken of voicemails ook kwetsbaar. Voor sectoren zoals de juridische dienstverlening, de zorg, de financiële sector en de media betekent dit dat bestaande beveiligingsmaatregelen mogelijk niet volstaan. Het risico is niet alleen dat data wordt gestolen, maar dat deze wordt gemanipuleerd om iemand anders te laten lijken. Een deepfake-audio van een CEO die een frauduleuze overboeking goedkeurt, kan een bedrijf miljoenen kosten. Daarnaast kan reputatieschade ontstaan als valse uitspraken worden verspreid die lijken te komen van een medewerker of klant.

Hoe je dit kunt toepassen

Als je een bedrijf runt met gevoelige klantdata, zoals een advocatenkantoor of een zorginstelling, overweeg dan om al je audio-opnames te beveiligen met encryptie, zowel in rust als tijdens transport. Het is niet genoeg om bestanden alleen achter een wachtwoord te zetten. Je zou kunnen investeren in een systeem dat spectrogrammen of andere visuele representaties van audio automatisch detecteert en blokkeert bij het delen van bestanden. Een mogelijkheid is om medewerkers te trainen in het herkennen van verdachte verzoeken om data, zoals iemand die vraagt om een ‘onschuldige’ grafiek van een opname.

Als je een team aanstuurt dat werkt met vertrouwelijke communicatie, zoals een salesafdeling die klantgesprekken opneemt, kun je een protocol opstellen voor het delen van opnames. Overweeg om alleen geanonimiseerde transcripties te delen in plaats van ruwe audiobestanden. Je zou ook kunnen overwegen om watermerken of metadata aan opnames toe te voegen die later kunnen worden gebruikt om authenticiteit te verifiëren. Een optie is om een extern bedrijf in te schakelen voor een audit van je databeveiliging, specifiek gericht op deepfake-risico’s.

Als je in de media of communicatie werkt, zoals een pr-bureau of een nieuwsredactie, is het verstandig om een procedure te hebben voor het verifiëren van audiobronnen voordat je ze publiceert. Dit kan zo simpel zijn als het terugbellen van de bron om te bevestigen, of het gebruik van tools die deepfake-audio detecteren. Je zou kunnen overwegen om een standaardclausule in contracten op te nemen over de authenticiteit van aangeleverd materiaal. Een mogelijkheid is om samen te werken met een forensisch audiobureau voor steekproefsgewijze controles.

Als je een webshop runt of klantenservice via telefoon aanbiedt, overweeg dan om tweefactorauthenticatie in te voeren voor gevoelige handelingen, zoals het wijzigen van een adres of het doen van een terugbetaling. Een deepfake-stem van een klant kan worden gebruikt om fraude te plegen. Je zou kunnen overwegen om een code te gebruiken die via een andere weg wordt verstuurd, zoals een sms of e-mail, voordat je actie onderneemt op basis van een telefoongesprek. Een optie is om medewerkers te trainen om bij twijfel altijd een callback te doen naar het bekende nummer van de klant.

Bron: TechCrunch