Voice cloning: belazerd door de AI-stem van huilende dochter

Instanties roepen ouders op om onmiddellijk samen met hun kinderen een specifiek codewoord af te spreken om oplichting door voice cloning te voorkomen, zo blijkt uit recente waarschuwingen in het AD. De opkomst van stemklonen door cybercriminelen baart zorgen, aangezien deskundigen waarschuwen voor ernstige financiële gevolgen.

Opgelicht door voice cloning

De nationale politie maakt zich bezorgd over de snelle vooruitgang van kunstmatige intelligentie en pleit voor de inzet van tientallen digitale rechercheurs en analisten om effectiever tegen cybercriminaliteit op te treden. “We kunnen de ontwikkelingen nauwelijks bijhouden”, verzucht Jan Struijs, de voorzitter van de Nederlandse Politiebond in het AD. “Het gaat werkelijk als een raket. Rechercheurs sturen alarmerende signalen die ons wakker schudden.”

Met name voice cloning baart Struijs zorgen: het nabootsen van de stem van een familielid via AI-gestuurde software. Criminelen maken hier gebruik van om mensen telefonisch op te lichten, bijvoorbeeld door een verhaal te vertellen waarin iemands dochter in acute nood verkeert en direct geld nodig heeft. In de Verenigde Staten komt dit fenomeen al vaak voor, waarbij een toezichthouder voor dit type oplichting waarschuwt. Ook in andere landen zijn talrijke personen, bedrijven en banken voor enorme bedragen opgelicht.

Moeilijk van echt te onderscheiden

Volgens de Fraudehelpdesk is het slechts een kwestie van tijd voordat deze vorm van oplichting zich ook in ons land verspreidt. “Dit is een patroon dat we vaak zien bij nieuwe oplichtingsmethodes”, legt de Fraudehelpdesk uit in het AD. “Het begint elders en verspreidt zich langzaam naar onze regio. Dit bemoeilijkt de onderscheiding tussen echt en nep. We maken ons grote zorgen over wat er komen gaat.”

Om te anticiperen op deze dreiging, adviseert de Fraudehelpdesk ouders om samen met hun kind een codewoord af te spreken. Hierdoor kunnen ze oplichters ontmaskeren als er twijfel ontstaat. Bureau Jeugd en Media ondersteunt deze aanpak en adviseert ouders ook om het telefoonnummer van de beller in de gaten te houden. “Als je kind in nood lijkt te zijn en belt vanaf een ander nummer, is enige argwaan gepast”, aldus oprichter Justine Pardoen in het AD.

Codewoord niet beste oplossing?

AI-deskundige Henk van Ess heeft echter twijfels over de effectiviteit van codewoorden. Hij wijst op situaties waarin codewoorden niet hebben voorkomen dat vervalste gesprekken plaatsvonden. Van Ess pleit in de krant voor een diepgaandere oplossing: verificatie van stemmen via slimme technologie. Hij suggereert dat maximaal één stem per account, in combinatie met identiteitsverificatie, misbruik van stemmen kan voorkomen.

De meest overtuigende vervalsingen maken gebruik van geavanceerde diensten met aanzienlijke rekenkracht, die binnen een half uur een stem in een robot kunnen omzetten. “Het vervalsen van een stem op een standaard computer met gedownloade scripts verloopt veel moeizamer en primitiever”, weet Van Ess. Hij benadrukt dat commerciële diensten niet zomaar elke stem zouden moeten accepteren.

Politie niet voldoende uitgerust

Er bestaan andere voorzorgsmaatregelen voor mensen die bang zijn slachtoffer te worden van voice cloning. Volgens Peter de Kock, voormalig politieagent en oprichter van Pandora Intelligence, kunnen “stemkloners” vaak worden ontmaskerd door persoonlijke vragen te stellen of over totaal andere onderwerpen te beginnen.

Op dit moment is de politie voornamelijk verantwoordelijk voor de bestrijding van cybercriminaliteit. Echter, de politie is momenteel niet goed uitgerust om de inventiviteit van cybercriminelen het hoofd te bieden. De snelle groei van AI overtreft de mogelijkheden van de overheid, waardoor er een gebrek is aan een doeltreffende aanpak. De huidige achterstand wordt verergerd door politieke ontwikkelingen.

Exponentiële groei cybercrime

Het toevoegen van meer digitale rechercheurs alleen is waarschijnlijk niet voldoende, volgens internetdeskundigen. Een bredere benadering met meer innovatie, samenwerking en onderwijs is noodzakelijk. Digitale geletterdheid is niet langer een optionele vaardigheid; het is essentieel om de veiligheid te waarborgen. “Het is onbegrijpelijk dat scholen zo weinig aandacht aan dit probleem besteden”, zegt Dave Maasland, CEO van het beveiligingsbedrijf ESET. “De volgende generaties moeten veel beter worden voorbereid op de uitdagingen van moderne criminaliteit.”

Deskundigen waarschuwen voor een exponentiële groei van cybercriminaliteit en benadrukken dat de vraag niet is óf dit zal gebeuren, maar hoe snel en adequaat erop wordt gereageerd. Er komen nog talrijke uitdagingen op ons af, en we moeten ons voorbereiden op de invloed van AI op verschillende aspecten van onze samenleving.