Onderzoekers: AI-gegenereerde gezichten gebruikt voor pro-Trump-campagne

Onderzoekers hebben een campagne ontmaskerd waarbij kunstmatig gegenereerde gezichten gebruikt werden om pro-Trump-boodschappen te verspreiden, schrijft onderzoeksbureau Graphika vrijdag in een rapport. Dit was voor de onderzoekers de eerste keer dat ze de inzet van nepgezichten op zo'n grote schaal tegenkwamen.

Facebook bracht vrijdag naar buiten dat het een grootschalige pro-Trump-campagne offline had gehaald. Daarbij waren 610 Facebook-accounts, 156 Facebook-groepen, 86 Facebook-pagina's en 72 Instagram-accounts betrokken. Deze accounts zijn door Facebook verwijderd.

Facebook stuurde de betrokken accounts door naar onderzoeksbureau Graphika, dat ze samen met het Atlantic Council's Digital Forensic Research Lab (DFRLab) analyseerde. Zij kwamen erachter dat veel van de betrokken accounts geen echte personen waren en voor hun profielfoto gebruikmaakten van AI-gegenereerde gezichten.

De accounts plaatsten memes en andere inhoud over politiek nieuws en kwesties in de VS, waaronder de impeachment van president Donald Trump, de verkiezingen, politieke kandidaten en onderwerpen als handel en godsdienstvrijheid. De Facebook-berichten waren vaak geautomatiseerd en stuurden de lezers door naar berichten buiten Facebook.

"Naast pro-Trump-materiaal plaatsten ze berichten waarin ze zijn critici en rivalen aanvielen, warbij vaak een partijdige verklaring werd gegeven en lezers werden aangemoedigd om te reageren als zij het ermee eens waren", schrijven de onderzoekers in hun rapport.

Ze ontdekten de neppersonen door details als misvormde oren en vervormde achtergronden, maar concludeerden ook dat de technologie "snel evolueert naar het genereren van geloofwaardigere foto's".

9 miljoen dollar uitgegeven aan promotie
Volgens Facebook hebben de mensen achter de campagne 9 miljoen dollar (8,1 miljoen euro) uitgegeven aan reclame om hun berichten te promoten. Dat is bijna honderd keer zo veel als in 2016 door het Russische trollenleger werd uitgegeven in de aanloop naar de presidentsverkiezingen.

Facebook vond een link tussen de campagne en The BL, een in de VS gevestigd mediabedrijf. De Facebook-pagina's van dit bedrijf werden beheerd door particulieren in de VS en Vietnam. The BL werd weer gelinkt aan Epoch Media Group, ook een in de VS gevestigde mediaorganisatie, en personen in Vietnam die namens haar werkten.

Met kunstmatige intelligentie vermomden medewerkers zich als Amerikanen om lid te worden van Facebook-groepen en daar artikelen van het mediabedrijf te plaatsen. The BL is van Facebook verwijderd vanwege het overtreden van Facebooks beleid tegen spam en desinformatie.