Deepfakes, gevaar of een zege?

Jihane Abid
Steeds vaker zien we apps voorbijkomen die gebruik maken van deepfake. Deze relatief nieuwe technologie wordt ontwikkeld aan de hand van Artificial Intelligence (AI). Door AI-modellen te trainen aan de hand van voorbeelden, zoals foto’s en video, is het mogelijk om beeld, audio en teksten te manipuleren.

De technologie kan op veel verschillende manieren worden ingezet. Vaak wordt het gebruikt voor entertainment. Zo heb je bijvoorbeeld Wombo, een app waarmee je een foto van jezelf kunt koppelen aan een liedje. De app maakt hier vervolgens een filmpje van, waardoor het net lijkt alsof jij dat liedje zingt. Een ander voorbeeld is Doublicat, een zogenaamde 'Face Swap AI-tool', waarmee je aan de hand van een selfie je gezicht op het lichaam van iemand anders kunt plakken. Deepfake kan ook worden ingezet voor serieuze doeleinden. Denk hierbij bijvoorbeeld voice-cloning deepfakes, die kunnen worden gebruikt om de stem van mensen te herstellen, wanneer deze bijvoorbeeld door een ziekte is verloren.

Cybercriminaliteit en deepfakes

Echter, experimenteren cybercriminelen ook graag met de technologie. De technologie is immers ideaal voor social engineering, een tactiek die wordt gebruikt voor het manipuleren van slachtoffers om vervolgens kwaadaardige acties uit te voeren. Denk hierbij aan een werknemer die via een deepfake video om de tuin wordt geleidt om geld over te maken. Het kan ook voorkomen dat deepfake de publieke opinie beïnvloed. Zo kunnen er bijvoorbeeld nepvideo’s van CEO’s worden ingezet om desinformatie over een bedrijf te delen. Als er niet adequaat op wordt gereageerd, kan dit gevolgen hebben voor de reputatie, het consumentengedrag en mogelijk een negatieve impact hebben op de aandelenkoers. Deepfakes kunnen ook verkiezingen beïnvloeden, door video's te laten circuleren waarin politici te zien zijn die dingen zeggen, die ze in werkelijkheid helemaal niet hebben gezegd. Arjan Lubach liet premier Mark Rutte bijvoorbeeld een tijdje in zijn satirische programma al dingen zeggen die hij nooit heeft gezegd. Stel je voor dat dit wordt gedaan door partijen met minder goede bedoelingen? Geen wonder dat er nu naar oplossingen worden gezocht om Deepfake berichten te ontmaskeren.

Deepfakes voorkomen

Veel securitybedrijven werken momenteel aan nieuwe detectiemodellen, die deepfake vroegtijdig kunnen detecteren om de impact te minimaliseren. Daarnaast is het belangrijk dat organisaties hun medewerkers trainen om deepfake te herkennen. Hoewel het steeds ingewikkelder is om Deepfakes te herkennen, kan het bieden van adequate training en het creëren van bewustwording dienen als een extra verdedigingslinie. Als medewerkers bijvoorbeeld schokkerige bewegingen in het beeld zien, er veranderingen zijn in huidskleur of dat de lippen niet helemaal synchroniseren met de spraak, dan moeten alarmbellen gaan rinkelen.

De training moet zich dan ook richten op hoe de technologie wordt gebruikt bij kwaadaardige pogingen en hoe dit kan worden gedetecteerd. Mocht een deepfake herkent worden, dan is het belangrijk dat er een responsstrategie klaar staat. Op deze manier kan een organisatie adequaat reageren. Het is belangrijk dat hierbij individuele verantwoordelijkheden en vereiste acties in dit plan worden gedefinieerd. Er kan worden afgesproken dat de IT-afdeling een bewijs aanlevert dat gaat om een deepfake model. De communicatieafdeling kan daarnaast een persverklaring uitgeven die de kwaadaardige deepfake blootlegt. Het is verstandig om dergelijke processen te integreren in een standaard proces voor incidentbeheer of crisisrespons.

Blijf kritisch

Hoewel Deepfake een reëel risico vormt, is het belangrijk dat we niet teveel in ‘doemscenario’s’ gaan denken. Het is namelijk belangrijk om te beseffen dat elke nieuwe technologie als een dreiging wordt gezien. Met de komst van de televisie dacht men vroeger ook dat dit de perceptie van de waarheid zou beïnvloeden. Laten we echter wel kritisch zijn en mensen goed voorlichten over hoe je deepfake kunt herkennen en wat er mogelijk is met de technologie . Daarnaast is het ook belangrijk dat overheden goed kijken naar de ontwikkelingen, zodat er op tijd nieuwe wet- en regelgevingen kunnen worden ontwikkeld. Op deze manier kunnen er voor nu al veel risico’s worden ingedamd.

afbeelding van Jihane Abid
Door: Jihane Abid

Jihane Abid |

International Account Manager bij G DATA CyberDefense.

Bekijk alle artikelen vanJihane