Microsoft gaat precriminatie met een app die recidive voorspelt

In een webcast met politie-afdelingen eerder dit jaar liet een senior Microsoft-programmeur weten dat het bedrijf diep bezig was met het ontwikkelen van een app die kan voorspellen of een gevangene zes maanden na de release weer achter de tralies zit.

"Het draait allemaal om software die de mogelijkheid heeft om de toekomst te voorspellen", zei programmeur Jeff King.

De nog niet benoemde app wordt uitgevoerd door de geschiedenis van de gevangene te analyseren met behulp van - wat nog meer? - een ingewikkeld algoritme, waarvan King zei dat deze tot 91 procent nauwkeurig is. Een paar voorbeelden van de factoren waarvan koning zei dat ze in overweging zouden worden genomen: bendevorming, deelname aan een revalidatieprogramma, overtredingen tijdens het dienen van hun tijd en uren in administratieve segregatie. Het is eigenlijk niet zo ver weg van de factoren die paroolbesturen overwegen bij het maken van beslissingen over het al dan niet vrijlaten van gedetineerden.

Die klinken als redelijke voorspellers, totdat je bedenkt dat de gedetineerden die worden geëvalueerd mogelijk niet veel keus hebben in hoe ze hun opsluiting hebben doorgebracht. Zoals De econoom notities, gevangenisbendes waren niet eens een ding tot de tweede helft van de 20e eeuw, toen de gedetineerde bevolking explodeerde en het leven achter de tralies zo gevaarlijk werd dat mannen zich aanmeldden als een vorm van bescherming die de bewakers niet leverden. Wat de revalidatie betreft, hebben financiële staten in het afgelopen decennium honderden miljoenen geld gesnoeid voor die programma's. Californië heeft in 2011 met name 250 miljoen dollar gekort voor behandeling van middelenmisbruik, beroepsopleiding en educatieve programma's. Dat is op zijn minst gedeeltelijk de schuld van het aantal gedetineerden dat een revalidatieprogramma heeft ondergaan dat veel lager is dan twintig jaar geleden. De bewijslast voor gedetineerden leggen om zichzelf te bewijzen hoe ze zich aanpassen aan de gevangenis, terwijl ze de gevangenis vrijgeven voor beleid dat meer kans maakt om recidive te vergroten, is in het beste geval de helft van het verhaal te vertellen.

Dan is er de vraag wat we doen met Microsoft's Minderheidsverslag -waardige cijfers. Zou een ex-con meer sociale diensten krijgen om hem te beschermen tegen recidive? Zou parole boards de mening van het algoritme in overweging nemen? Zou een lage score worden gebruikt om langere gevangenisstraffen te rechtvaardigen? Hoe zit het met het rechtvaardigen van verplichte straffen, een beleid dat historisch gezien veel meer kwaad dan goed heeft gedaan.

Toen hij de voorspellingsplannen van Microsoft doorbrak Fusie, Daniel Rivero schreef dat King's speech "vrijwel onopgemerkt was gebleven", met ongeveer 100 views van de YouTube-speech. (Goed oog, Daniel.) Misschien is het onder de radar gegaan omdat het gewoon niet zo verrassend meer is. Criminaliteitsvoorspellingsalgoritmen, en argumenten over hun nuances en morele implicaties, komen steeds vaker voor. Het Japanse bedrijf Hitachi heeft een half dozijn Amerikaanse steden die betrokken zijn bij een proof-of-concept-test voor een systeem waarvan het bedrijf zegt dat het kan helpen bij het voorspellen van misdaden door de cijfers op historische misdaadstatistieken, OV-kaarten, weerberichten en zelfs sociale media te berekenen. Aan het einde van de techneut is Chicago bezig met een "heatlist" van potentiële daders die willekeurige politiebezoeken afleggen, ongeacht wat ze hebben gedaan. En Los Angeles overweegt een geautomatiseerde lezer om de kentekenplaat te scannen van elke auto die alleen maar rijdt in de buurt een gebied dat door prostituees wordt bezocht en een "Dear John" -brief stuurt naar de naam op de voertuigregistratie. Meer en meer is de beste voorspelling die we u kunnen geven dat uw toekomst zal worden bekeken en geëvalueerd door een heleboel buitenaardse intelligentie. Maar hey, je hebt tenminste een hoverboard.