Nieuws

In de Computer Idee een leuk artikel over deepfake foto's. Op social media worden vaak nepprofielen aangemaakt om de indruk te wekken dat een organisatie veel aanhang heeft. De valse profielen gebruiken niet alleen valse namen maar ook de profielfoto's zijn nep. Daar worden vaak deepfake foto's voor gebruikt die worden samengesteld door een GAN (Generative Adversarial Network). Als je enorm veel afbeeldingen in zo'n netwerk invoert, kan het systeem nieuwe afbeeldingen van een soortgelijk type genereren. Voed de GAN een hoeveelheid portretten en de tool begint zelf nieuwe gezichten samen te stellen met de neus van persoon A, de lippen van B, de wenkbrauwen van C, enzovoorts. Op de website This Person Does Not Exist worden continu nieuwe gezichten gegenereerd van niet-bestaande personen. Gewoon telkens je scherm verversen en dan komt er een andere foto. Je kunt de foto's ook downloaden.

Nepprofielen worden gebruikt om de publieke opinie te beïnvloeden. Het is bekend dat Russische trollen in 2016 hebben geprobeerd de verkiezingen te verstoren.Ook in Nederland zijn er bekende gevallen. Het bekendste voorbeeld is Eduard van Vlugtenstahl, die momenteel nog als meneer Panini rondloopt op Twitter. Hij twitterde tijdens Corona: "Vandaag vervelende post gehad. Mijn ex-schoonvader plotseling overleden na de tweede prik. Gelieve geen vragen hierover. Trek je eigen conclusies." Het bericht werd meteen geretweet door een bekende politicus. De Volkskrant besteedde er flink aandacht aan. De man bestaat helemaal niet en zijn profielfoto werd door een GAN gegenereerd.

He wordt steeds moeilijker valse gezichten te herkennen. De resultaten zijn tegenwoordig heel realistisch, maar toch maakt een neuraal netwerk fouten. Soms komt er een haar op een vreemde manier uit het voorhoofd, de rand van een brilmontuur verdwijnt, de tanden kloppen niet, enzovoorts. Deze visuele uitschuivers noemen ze glitches. Je kunt jezelf trainen om glitches te herkennen op Which Face is Real, Op Deepfact.3duniversum.com kun je een quiz spelen en je vaardigheid in het herkennen van deepfake verbeteren.

Soms is het niet verkeerd om nepfoto's te gebruiken. Stel dat je een presentatie hebt waar je wat portretfoto's voor nodig hebt. Op www.generated.photos staan AI foto's zonder copyright die je daarvoor gratis kunt downloaden als het niet voor commercieel gebruik is. In plaats van door de foto's te bladeren kun je ook zelf gezichten maken.

Nepfoto's kun je ontdekken via een zogenaamde omgekeerde zoekactie op bijvoorbeeld TinEye. Edge, Chrome, Firefox en Opera hebben hier zelfs een extensie voor. Je sleept een verdachte foto naar het zoekvak of je plakt het webadres in het zoekvak. Als je de extensie hebt geïnstalleerd, klik je rechts op de afbeelding en kies je Search Image on TinEye. TinEye heeft een betaalde variant genaamd MatchEngine waarmee je dubele foto's en bijna-dubbele foto's kunt ontdekken. De tool wordt bijvoorbeeld gebruikt voor fraudedetectie voor het vinden van schadefoto's die ingediend worden bij verzekeringsmaatschappijen. Ook op datingsites en social media platforms wordt deze tool gebruikt .

Al met al genoeg materiaal om er eens een lesje aan te besteden denk ik!