Nep nieuwsfoto's veroveren internet: zien is niet langer geloven

De beelden zijn echter pure visuele fictie die worden gegenereerd met behulp van AI-beeldgenerator Midjourney. Massaal tuinen we in deze AI-hoaxes. Het is een voorbode van de infocalypse die op ons afkomt.

Thierry Baudet retweette een schokkende foto van Julian Assange, de Australische oprichter van het klokkenluidersplatform WikiLeaks. De foto is stiekem vanuit zijn cel gemaakt. Assange is er overduidelijk slecht aan toe. Hij lijkt op sterven na dood. De duizenden reacties onder de foto liegen er niet om: 'Dit is onmenselijk', 'Onwerkelijk. Pijnlijk om te zien.' en 'Dit is gewoon schandalig. Voor het vertellen van de wereld de waarheid….'. De foto is nep en met behulp van AI gegenereerd.

Massaal zijn we in diverse AI-hoaxes getrapt. Voor de opname van paus Franciscus in het ziekenhuis, ging een foto van hem viraal waarin hij een te hippe witte pufferjas droeg. Ook circuleerden nepbeelden van de gewelddadige arrestatie van Donald Trump, moest de Franse president Macron rennen voor zijn leven in een uit de hand gelopen demonstratie en bakte Barack Obama zandtaartjes met Angela Merkel. Naast mensen die dingen beleven die ze in werkelijkheid nooit overkomen zijn, worden ook complete gebeurtenissen gefingeerd. Zo worden online beelden verspreid van de beruchte Blauwe Plaag die Rusland in 1977 teisterde, van de zonne-superstorm uit 2012 die wereldwijd een black-out veroorzaakte en de aardbeving die zich op 3 april 2001 voordeed langs de westkust van Noord-Amerika waarbij meer dan 8.159 mensen het leven verloren. Het zijn allen pseudo-gebeurtenissen die volledig zijn gegenereerd door kunstmatige intelligentie. Online worden ze fakumentary genoemd. Zelfs AI detectie tools hebben niet in de gaten dat het om geschiedvervalsing gaat. Zo weet Hugging Face met 87% zekerheid te garanderen dat enkele foto's van de aardbeving echt zijn.

We betreden onbekend terrein. De vele hyperrealistische nepbeelden van afgelopen week symboliseren een keerpunt in de ontwikkeling van generatieve AI. Vanaf nu is het voor de leek niet meer mogelijk om feit van fictie, origineel van kopie en nep van echt te onderscheiden. Allemaal zijn we opgegroeid met het idee: 'zien is geloven'. Deze wijsheid gaat niet meer op. Vorig jaar publiceerde Europol een rapport waarin staat dat in 2026 meer dan 90% van alle informatie op het internet door kunstmatige intelligentie gegenereerd zal zijn. Het is een waarschuwing voor de infocalypse die op ons afkomt. De AI-foto's zijn het eerste salvo dat gelost wordt in deze realiteitsoorlog.

Nu zijn het nog foto's, over een half jaar zijn het bewegende beeldend die door de exponentiële groei van dit soort technologieën niet langer van echt zijn te onderscheiden. Dankzij de democratisering van AI kan iedere creatieve geest nu zijn eigen werkelijkheid creëren. Dit roept serieuze vragen op over de authenticiteit van informatie op het internet en de invloed die AI-technologieën hebben op ons vermogen om waarheid van fictie te onderscheiden. Met de verspreiding van het nepbeeld van Assange laat Baudet zien hoe makkelijk het is om deze technologie als wapen in te zetten voor propaganda-doeleinden teneinde de fundamenten van onze democratie te ondermijnen.

Niemand die precies weet wat de exacte gevolgen zijn nu iedereen AI naar hartelust kan gebruiken. Regulering en wetgeving omtrent dit soort nieuwe technologieën loopt hopeloos achter. We moeten het dus zelf doen. In dit tijdperk van digitale hallucinatie is een sceptische houding de beste verdediging. Het is verstandig om standaard niets meer te vertrouwen dat op het internet verschijnt.