AI is niet alleen een wapen tegen fraude, maar kan ook een effectievere oplichter zijn dan een mens. Uit een experiment van Bright blijkt dat het AI-model Claude menselijke oplichters overtuigend verslaat in het winnen van het vertrouwen van potentiële slachtoffers. Voor ondernemers betekent dit dat de dreiging van geavanceerde, AI-gestuurde oplichting reëel is, maar ook dat dezelfde technologie kan worden ingezet om klanten juist beter te beschermen.

Wat er aan de hand is

In een experiment van Bright nam het AI-model Claude het op tegen menselijke oplichters. De uitkomst was opmerkelijk: Claude won overtuigend. Het model deed dit niet door de criminelen te ontmaskeren, maar door hun eigen vakgebied te betreden. Claude bleek beter in staat om het vertrouwen van potentiële slachtoffers te winnen dan de menselijke tegenstanders. Het nieuws is zorgelijk, omdat het aantoont dat AI niet alleen een verdedigingsmiddel is, maar ook een aanvalswapen kan zijn. De capaciteiten die AI-systemen hebben ontwikkeld voor legitieme doeleinden, zoals klantcommunicatie en overtuiging, blijken direct inzetbaar voor kwade doeleinden.

Wat dit betekent

Voor het midden- en kleinbedrijf is dit geen ver-van-je-bed-show. Dezelfde technologie die nu wordt gebruikt voor chatbots en gepersonaliseerde marketing, kan worden ingezet voor gerichte phishingcampagnes of het opbouwen van nep-relaties met klanten. De drempel voor het plegen van geavanceerde oplichting wordt lager, omdat AI de communicatie kan overnemen die voorheen handwerk was. Dit betekent dat je als ondernemer niet alleen moet vertrouwen op je eigen mensenkennis, maar ook moet nadenken over hoe je klanten kunt beschermen tegen een tegenstander die nooit moe wordt, geen fouten maakt en altijd de juiste toon weet te vinden. Tegelijkertijd biedt hetzelfde experiment een kans: als AI zo goed is in het winnen van vertrouwen, kun je diezelfde capaciteit inzetten om juist legitieme klantrelaties te versterken.

Hoe je dit kunt toepassen

Als je een webshop runt en regelmatig klantvragen beantwoordt… Overweeg om AI in te zetten voor je eerste lijn van klantcontact. Een model dat zo overtuigend kan communiceren, kan ook helder en geruststellend antwoorden op vragen over bestellingen of levertijden. Je zou kunnen starten met een pilot waarbij AI een deel van de standaardvragen afhandelt, zodat je personeel zich kan richten op complexere zaken. Dit verhoogt niet alleen de efficiëntie, maar zorgt ook voor een consistente klantervaring.

Als je een team aanstuurt dat verantwoordelijk is voor acquisitie of sales… Het experiment toont aan dat AI in staat is om vertrouwen op te bouwen. Een mogelijkheid is om AI in te zetten voor de eerste verkennende gesprekken of het kwalificeren van leads. Het model kan een eerste indruk wekken en basisinformatie verzamelen, waarna een menselijke medewerker het gesprek overneemt. Zo benut je de overtuigingskracht van AI, terwijl het persoonlijke contact behouden blijft.

Als je verantwoordelijk bent voor de beveiliging van klantgegevens en financiële processen… Het nieuws onderstreept dat je je medewerkers moet trainen op AI-gedreven oplichting. De klassieke signalen van phishing, zoals slechte grammatica of verdachte links, zijn mogelijk niet langer voldoende. Overweeg om een protocol op te stellen voor het verifiëren van onverwachte verzoeken, bijvoorbeeld via een tweede communicatiekanaal. Je zou kunnen investeren in een tool die binnenkomende berichten analyseert op patronen die wijzen op AI-generatie.

Als je een dienstverlener bent die afhankelijk is van vertrouwen, zoals een accountant of advocaat… De uitkomst van het experiment is een directe aanleiding om je klantcommunicatie te herzien. Een optie is om een persoonlijke introductie of een videogesprek verplicht te stellen bij het starten van een nieuwe opdracht. Zo bouw je een vertrouwensbasis die een AI-imitator moeilijker kan nabootsen. Daarnaast kun je overwegen om een ‘vertrouwenswoord’ af te spreken met vaste klanten voor gevoelige transacties.

De praktische toepassing hangt af van jouw situatie, maar de kern is helder: AI verandert zowel de aanvals- als de verdedigingsmogelijkheden in communicatie. Het is geen toekomstmuziek, maar een realiteit die je vandaag kunt adresseren door je processen te herzien en je medewerkers voor te bereiden.

Bron: Bright