Scannen op kinderporno brengt in Nederland nu ook al dilemma's met zich mee

Apple wil (vooralsnog alleen) in de Verenigde Staten foto's op iPhones gaan scannen in de strijd tegen kinderporno. Het initiatief ontving, ondanks nobele intenties, de afgelopen week ook kritiek. In Nederland kunnen netwerken en servers van websites met een vergelijkbare methode worden gescand op de aanwezigheid van kinderporno. Maar ook die brengt dilemma's met zich mee.

Het plan van Apple stuit op verzet van experts. Zij vrezen een glijdende schaal: nu is het kinderporno, straks eist een regime om te controleren of de iPhones van burgers beelden van bijvoorbeeld homoseksualiteit of majesteitsschennis bevatten.

Apple belooft de software alleen te gebruiken om "waardevolle en bruikbare informatie" over kinderporno aan de politie te overhandigen. Het bedrijf zegt niet toe te zullen geven aan druk om het systeem uit te breiden. Deskundigen zijn er niet gerust op.

Een verplichte meldplicht bij de vondst van kinderporno, zoals die in de VS geldt, werkt bovendien averechts, stelt Arda Gerkens, directeur van het Expertisebureau Online Kindermisbruik (EOKM) in gesprek met NU.nl.

Ze wijst erop dat Apple apparaten gaat scannen op materiaal dat al bekend is bij de autoriteiten. "Stel je voor wat tienduizenden meldingen per jaar betekent voor de werkdruk van de politie. Die moeten onderzoek doen, een huiszoeking en het in beslag nemen van gegevensdragers. En het is niet zo dat één rechercheur daarmee bezig is."

"Terwijl het misschien gaat om één persoon in een hutje op de hei die een afbeelding toegestuurd kreeg en een instelling aan heeft staan om die automatisch te downloaden", schetst Gerkens.

"Het gaat om bekend materiaal. Dus je gaat er geen slachtoffers mee redden en ook geen daders mee vinden. Ondertussen komen op andere online plekken duizenden mensen samen om kinderporno uit te wisselen. De politie kan die tijd veel beter gebruiken om die netwerken op te sporen. Daar zitten de echte daders en slachtoffers."

Scannen voor opschoning, niet voor opsporing
Het EOKM biedt een vergelijkbare tool aan om kinderporno op te sporen. Bedrijven en organisaties kunnen de scanner vrijwillig gebruiken om hun online platformen, netwerken en servers te controleren op de aanwezigheid van bekend kinderpornomateriaal.

De software werkt in de kern hetzelfde als de methode die Apple wil toepassen. Via een wiskundige formule wordt aan bekend beeldmateriaal een code toegewezen. Dit gebeurt ook met alle foto's op de plek waar gezocht wordt naar kinderporno. Als een code daar matcht met een code uit de database met beelden van kindermisbruik of -porno, gaan de alarmbellen af.

De dienst van het EOKM heet de HashCheckService. Het verwijst naar de methode waarbij het beeldmateriaal wordt omgezet in een unieke code: een hash.

Gerkens benadrukt dat de dienst niet bedoeld is voor opsporing van daders. "Er is geen plicht om het aan de politie te melden. Sterker nog: het hoeft niet, want het materiaal is al bekend. Het belangrijkste is dat het internet schoon wordt."

Handvol incidenten met Nederlandse scansoftware
Welke risico's en dilemma's het gebruik van Apples voorstel met zich meebrengt, blijkt uit een recent incident waarbij de HashCheckService legitieme afbeeldingen verwijderde.

De dienst bestaat uit meerdere databases. Niet alleen kinderpornobeelden van de Nederlandse politie, maar ook van het Amerikaanse NCMEC, de internationale politieorganisatie Interpol en van de Canadese politie zijn erop aangesloten.

"De Canadese database bestaat uit drie categorieën: illegaal, twijfelachtig en overig, dus niet illegaal", legt Gerkens uit. "Die laatste set bevat bijvoorbeeld restmateriaal dat bij een onderzoek wordt gevonden. Dat had niet meegenomen moeten worden."

Vanwege het incident liet TransIP, een bedrijf dat serverruimte voor websites aanbiedt en de HashCheckService daarvoor beschikbaar stelt, zijn klanten in juni weten de dienst voorlopig uit te schakelen.

"We worstelen er wel mee", zegt woordvoerder Marco Edelman van TransIP. "We hebben ons bij de dienst aangesloten uit het oog van wereldverbetering, maar we willen ook kunnen garanderen dat de lijsten kloppen en dat het dus niet de verkeerde kant op werkt."

Naast dit incident is het "vier tot zes keer" voorgekomen dat de HashCheckService onterecht beelden verwijderde, zegt Gerkens, die laat weten dat de dienst bij ongeveer dertig bedrijven actief is.

"Als er mensenwerk aan te pas komt, heb je nooit voor 100 procent de garantie dat het altijd goed gaat", zegt Edelman van TransIP. "Daar hebben we nu nog een beetje moeite mee." Het bedrijf wacht nu tot het EOKM verbeteringen doorvoert voor het weer met de organisatie om tafel gaat.