IBM stopt ontwikkeling van gezichtsherkenning wegens bevooroordeeldheid

IBM is gestopt met het onderzoeken, ontwikkelen en aanbieden van systemen die gezichten herkennen, schrijft IBM-directeur Arvind Krishna in een brief aan het Amerikaanse Congres.

Het bedrijf zegt dat technologie voor gezichtsherkenning onder meer wordt gebruikt voor massasurveillance en etnisch profileren. "IBM is sterk tegen het gebruik van deze technologie en keurt dit af", schrijft Krishna.

De IBM-directeur hoopt met de beslissing aanleiding te geven voor een nationaal gesprek over "of en hoe autoriteiten van gezichtsherkenning zouden moeten gebruikmaken".

Krishna noemt kunstmatige intelligentie (AI) een krachtig hulpmiddel voor het veilig houden van burgers en autoriteiten. "Maar aanbieders en gebruikers van deze techniek moeten er samen voor zorgen dat AI wordt getest op vooringenomenheid, zeker in het geval van rechtshandhaving. Dat moet worden gecontroleerd en gerapporteerd."

Gebruik van gezichtsherkenning onder vuur
Krishna's brief werd openbaar terwijl wereldwijd tegen racisme wordt geprotesteerd. Maar het gebruik van gezichtsherkenning ligt al langer onder vuur. Zo zeggen critici dat het op grote schaal herkennen van gezichten in strijd is met burgerrechten en de privacy. De techniek zou daarnaast minder goed vrouwen en zwarte mensen kunnen herkennen.

De afgelopen maanden ligt ook het Amerikaanse gezichtsscanbedrijf Clearview AI onder vuur. Dit bedrijf verzamelde afbeeldingen van sociale media om een grote database van gezichten te creëren. Met deze database kon de identiteit van personen worden vastgesteld. De software werd onder meer aan opsporingsdiensten en de politie geleverd.

Datasets van IBM niet altijd netjes verkregen
IBM heeft zich al eerder ingezet voor de bestrijding van vooroordelen in technologie voor gezichtsherkenning. Het bedrijf publiceerde in 2018 een dataset die moest bijdragen aan de verbetering van de techniek.

Overigens ging het bedrijf ook een keer de fout in. Vorig jaar gebruikte IBM zonder toestemming van geportretteerden een miljoen foto's van de website Flickr om kunstmatige intelligentie op gezichtsherkenning te trainen.