Zo herken je de Twitter-accounts met nepgezichten die Baudet retweet

Forum voor Democratie-lijsttrekker Thierry Baudet retweette in de afgelopen maand meermaals Twitter-accounts met nepprofielfoto's. Hoe kun je die nepprofielen precies herkennen?

Baudet retweette op 15 april een bericht van het account @MeneerPanini met de naam Eduard van Vlugtenstahl. "Vandaag vervelende post gehad", schreef de gebruiker. "Mijn ex-schoonvader plotseling overleden na tweede prik."

Een tweede retweet volgde op 5 mei, ditmaal een bericht van @PietVeenstra4. "Als ik zo eens naar alle politieke partijen kijk, zijn jullie ook de enigen die voor ons opkomen", verzekerde Veenstra Baudets collega Pepijn van Houwelingen.

Beide Twitter-accounts lijken op het eerste gezicht onschuldig. Ze plaatsen constant berichtjes en hebben een realistisch ogende Twitter-biografie. Van Vlugtenstahl linkt zelfs naar het Twitter-account van zijn neef @gerrisma, die op zijn profiel ook bevestigt dat hij familie is.

De realiteit is anders, merkte universitair docent en factchecker Peter Burger op. Volgens hem gaat het om profielen met computergegenereerde gezichten van mensen die niet echt bestaan.

Software kan willekeurige gezichten genereren
Speciale computersoftware is in staat willekeurige gezichten te genereren. Met behulp van kunstmatige intelligentie wordt naar een gigantische hoeveelheid foto's van echte personen gekeken, om daarna op basis van de opgedane kennis automatisch een nieuwe foto te maken.

Chipfabrikant NVIDIA liet al eens zien hoe realistisch dat eruit kan zien met zijn software StyleGAN, die gratis te downloaden is om zelf een foto te maken. Sindsdien wordt de software veelvuldig misbruikt voor profielfoto's bij nepaccounts.

Online trollen genereren tientallen dergelijke beelden om daarmee meerdere accounts tegelijk te vullen en zich zo voor te doen als een grotere groep. Hierdoor lijkt het alsof veel mensen een specifieke mening hebben, terwijl die in werkelijkheid door een kleine groep wordt verspreid.

Zo herken je deze nepfoto's
Op de website Sensity kun je foto's scannen om te zien of ze door een computer zijn gegenereerd. Deze site is opgericht door Giorgio Patrini, die eerder bij de Universiteit van Amsterdam onderzoek deed naar machinelearning, de techniek die wordt gebruikt door deze software. Ook deed hij met een eerder bedrijf onderzoek naar deepfakevideo's voor porno.

Je krijgt bij een scan door de site te zien hoe groot de kans is dat het beeld gefabriceerd is en welke software vermoedelijk is gebruikt. Je kunt vijf beelden per dag scannen, daarna moet je betalen.

De foto's van Baudets retweets zijn volgens de site beide nep. Bij @PietVeenstra4 is de kans 71,8 procent dat zijn foto met het computerprogramma PGGAN is gemaakt. @MeneerPannini is voor 99,8 procent zeker met StyleGAN2 gemaakt, net als de foto van de genoemde neef.

Volgens Burger kun je synthetische foto's vaak herkennen aan de positie van de ogen, die altijd op dezelfde plek van de afbeelding staan. Dat is geen sluitend bewijs, maar wel indicatief: het is een manier om een mogelijk nepprofiel te herkennen, waarna je het beeld kunt analyseren om er zeker van te zijn.

Eigenaars van accounts zijn onbekend
Het is niet duidelijk wie achter de Twitter-accounts in kwestie zit. Andere tweets van de profielen staan vol met nepnieuws en onwaarheden over bijvoorbeeld het coronavaccin, dat volgens de Twitteraars dodelijk en gevaarlijk zou zijn.

Nepaccounts zijn op Twitter overigens niks nieuws: al bij de Amerikaanse verkiezingen in 2016 probeerden trollen op die manier het politieke proces te verstoren. Dat gebeurde toen veelal vanuit Rusland. Twitter probeert sindsdien nepaccounts op te sporen en te schorsen. In 2018 daalde het aantal gebruikers op het platform daarom met negen miljoen.