Het antwoord op de vraag wat dit nieuws voor jou betekent: AI is niet alleen een hulpmiddel om je bedrijf te beschermen, maar wordt ook steeds beter in het oplichten van mensen. Uit een experiment blijkt dat de AI-tool Claude menselijke oplichters overtuigend verslaat in het winnen van het vertrouwen van potentiële slachtoffers. Voor ondernemers betekent dit dat de dreiging van social engineering niet langer alleen van mensen komt, maar ook van geavanceerde AI-systemen die je medewerkers en klanten kunnen manipuleren.

Wat er aan de hand is

In een experiment nam de AI-tool Claude het op tegen menselijke oplichters. Het doel was niet om de criminelen te ontmaskeren, maar om binnen hun eigen vakgebied tegen hen op te treden. Het resultaat was opmerkelijk: Claude bleek beter in het winnen van het vertrouwen van potentiële slachtoffers dan zijn menselijke tegenstanders. Dit is zorgelijk, omdat het aantoont dat AI-systemen in staat zijn tot zeer overtuigende vormen van manipulatie. Volgens Bright, dat het experiment beschrijft, is dit een ontwikkeling die vragen oproept over de inzet van AI in zowel beschermende als kwaadaardige contexten. Het nieuws past in een bredere trend waarin AI-tools steeds geavanceerder worden in het nabootsen van menselijk gedrag en communicatie.

Wat dit betekent

Voor jou als ondernemer betekent dit dat de traditionele signalen van oplichting mogelijk niet meer voldoende zijn. Waar je eerder kon letten op grammaticale fouten, vreemde formuleringen of ongebruikelijke verzoeken, kan AI deze patronen nu moeiteloos vermijden. Dit raakt niet alleen grote bedrijven, maar juist ook het MKB, waar processen vaak minder geformaliseerd zijn en medewerkers meer vrijheid hebben in hun communicatie. De impact is voelbaar op meerdere niveaus: van phishingmails die nauwelijks van echt te onderscheiden zijn tot telefonische verzoeken die volledig overtuigend klinken. Het betekent dat je niet langer kunt vertrouwen op je eigen intuïtie of op de herkenning van klassieke oplichtingspatronen. De dreiging wordt subtieler en daardoor moeilijker te detecteren.

Hoe je dit kunt toepassen

Als je een team aanstuurt dat regelmatig klantcontact heeft, is het verstandig om een protocol op te stellen voor ongebruikelijke verzoeken. Je zou kunnen afspreken dat verzoeken om betalingsgegevens of wachtwoorden altijd via een tweede, onafhankelijk kanaal worden bevestigd. Een medewerker die een verdacht verzoek ontvangt, kan dan niet alleen vertrouwen op de inhoud van het bericht, maar moet ook een telefonische of fysieke controle uitvoeren.

Als je werkt met financiële transacties of facturen, overweeg dan om een extra controlelaag in te bouwen. Een mogelijkheid is om bij grote bedragen altijd een bevestiging te vragen via een ander medium dan het medium waarop het verzoek binnenkwam. Dit kan een simpele terugbelprocedure zijn, maar ook een digitale goedkeuringsstap die buiten de normale communicatielijn valt.

Als je persoonsgegevens verwerkt, is het belangrijk om je medewerkers te trainen in het herkennen van AI-gedreven social engineering. Je zou kunnen investeren in een korte workshop waarin niet alleen de klassieke signalen worden behandeld, maar ook de nieuwe vormen van manipulatie die AI mogelijk maakt. Het doel is niet om wantrouwen te creëren, maar om een gezonde dosis scepsis te kweken bij onverwachte verzoeken.

Als je klanten hebt die via digitale kanalen contact opnemen, overweeg dan om duidelijke richtlijnen op te stellen voor wat je wel en niet via die kanalen communiceert. Een optie is om af te spreken dat gevoelige informatie nooit via chat of e-mail wordt gedeeld, maar altijd via een beveiligde omgeving. Dit verkleint de kans dat een AI-gedreven aanval succes heeft, omdat er een duidelijke grens is tussen wat wel en niet via digitale kanalen mag.

De praktische toepassing hangt af van jouw situatie, maar de kern is dat je niet langer kunt vertrouwen op het herkennen van oplichting aan de hand van taal of inhoud. Het gaat erom dat je processen inbouwt die manipulatie moeilijker maken, ongeacht hoe overtuigend de boodschap is.

Bron: Bright