Human Rights Watch: China gebruikt big data voor doelgroepen met minderheidsgroepen

De Chinese overheid gebruikt voorspellende politiealgoritmen om etnische minderheden in de provincie Xinjiang te targeten, volgens een rapport van Human Rights Watch dat maandag is vrijgegeven.

De provincie in het noordwesten van China herbergt 11 miljoen Oeigoeren, een Turkse etnische moslimgroep die de afgelopen jaren door de Chinese overheid werd gediscrimineerd.

Nu gebruiken autoriteiten naar verluidt big data om systematisch iedereen te targeten die verdacht wordt van politieke ontrouw. De push is onderdeel van de 'Strike Hard'-campagne, gericht op het vernietigen van potentiële terroristische activiteiten in China. In de praktijk heeft dit geleid tot onevenredige politiezorg van Oeigoeren, aldus Human Rights Watch.

Het predictive policing-systeem, bekend als IJOP - Integrated Joint Operations Platform - wordt gevoed met gegevens van verschillende bewakingsinstrumenten. Deze omvatten CCTV-camera's, nummerplaat- en burger-ID-kaartnummers verkregen uit beveiligingscontroles en een groot aantal persoonlijke gegevens, waaronder gezondheids-, bank- en juridische gegevens.

Naast geautomatiseerd toezicht, voeren overheidsfunctionarissen in-home bezoeken uit om gegevens over de bevolking te verzamelen. Een Chinese zakenman heeft een formulier gedeeld dat hij heeft ingevuld voor de records van IJOP met Human Rights Watch - onder andere de vragenlijst waarin werd gevraagd of de zakenman Uyghur was, hoe vaak hij bidt en waar hij voor religieuze diensten gaat.

Al deze gegevensinvoer worden door IJOP gebruikt om mensen te markeren als potentiële bedreigingen. Wanneer iemand wordt aangezet, opent de politie een verder onderzoek en neemt hij ze in hechtenis als ze achterdochtig worden geacht.

"Voor het eerst kunnen we aantonen dat het gebruik van big data en predictive policing door de Chinese overheid niet alleen schaamteloos de privacyrechten schendt, maar ook ambtenaren in staat stelt om mensen willekeurig vast te houden", zegt Human Rights Watch senior China-onderzoeker Maya Wang.

Volgens het rapport zijn sommige van de gemarginaliseerde personen naar politieke centra verscheept waar ze zonder proces voor onbepaalde tijd worden vastgehouden.

"Sinds schattingen van Human Rights Watch rond april 2016 hebben Xinjiang-autoriteiten tienduizenden Oeigoeren en andere etnische minderheden naar 'centra voor politiek onderwijs' gestuurd", aldus het rapport. IJOP verleent geloofwaardigheid aan deze detenties door een fineer van objectieve, algoritmische analyse toe te passen op de discriminerende arrestaties.

Om het nog erger te maken, zijn de interne werking van IJOP gehuld in geheimhouding.

"Mensen in Xinjiang kunnen het steeds indringender worden van hun dagelijks leven niet weerstaan ​​of uitdagen, omdat de meesten niet eens weten wat dit 'zwarte doos'-programma of hoe het werkt,' zei Wang.

Het is hetzelfde probleem dat de meest geavanceerde systemen voor het leren van computers teistert: de besluitvormingsprocedures die zij toepassen zijn zelfs voor de makers van het algoritme ondoorzichtig.

Het gebruik van IJOP in China is de moeite waard om op te letten, omdat predictive policing waarschijnlijk zal toenemen naarmate de technologie verbetert. Zoals Jon Christian aangaf De omtrek voorspellende politiële systemen worden al op sommige plaatsen in de Verenigde Staten gebruikt. Het politieafdeling van Los Angeles maakt gebruik van software die anticipeert op waar en wanneer vermoedelijk misdaden zullen plaatsvinden, zodat agenten ze kunnen afschudden.

Aan de andere kant van het strafrechtsysteem maken rechtszalen soms gebruik van algoritmen die potentiële parolees-scores voor "risicobeoordeling" geven om rechters te helpen beter geïnformeerde beslissingen te nemen. Helaas discrimineren deze zogenaamd onbevooroordeelde algoritmen eigenlijk op basis van ras.

De zoektocht van China naar predictive policing onderstreept het belang van een verantwoorde implementatie van algoritmen, omdat machine learning de publieke sector blijft betreden. Misschien is het tijd voor technologisch onderlegde regeringen om een ​​nieuwe mantra te adopteren: Soms creëert kunstmatige intelligentie meer problemen dan het oplost.