De gezichtsherkenningstechnologieën van de FBI respecteren uw privacy en rechten

Wie is de waakhond van de waakhond? Het Government Accountability Office, zoals de titel suggereert. Het recente rapport van de GAO over het gebruik van gezichtsherkenningstechnologie door de overheid vond woensdag zijn weg naar het publiek. In wezen hebben we onszelf een situatie. Een slechte situatie. Kort gezegd: met zijn programma's voor gezichtsherkenning schendt de FBI uw privacy en vertelt u er niets over. Bovendien test de FBI niet of deze programma's juist en betrouwbaar zijn.

De FBI en biometrie gaan ver terug - de liefdesrelatie begon met vingerafdrukdatabases. Maar het gaat nu veel verder dan dat. "Biometrics", naar de FBI en volgens de GAO, betekent "de automatische herkenning van individuen op basis van hun biologische en gedragskenmerken." In 2011 rolde de FBI de pilot uit van haar "Next Generation Identification" (NGI) -systeem; vier jaar later, in april 2015, was het volledig operationeel.

De NGI maakt voor een deel gebruik van het Interstate Photo System (IPS) voor deze zogenaamde biometrie. Deze database biedt - naast externe databases van privébedrijven - overheidsinstanties toegang tot meer dan 411 miljoen gezichtsfoto's (de huidige Amerikaanse bevolking is slechts 319 miljoen). Het ministerie van Justitie beweert dat de meeste van deze foto's afkomstig zijn van mug shots - "Meer dan 80 procent van de foto's in NGI-IPS zijn crimineel" - maar ze werken ook samen met een groot aantal staten om toegang te krijgen tot rijbewijzen en pasfoto's. De GAO zegt dat het moment a verdachte is "geboekt voor een misdrijf", hij of zij staat in de boeken - d.w.z. in de NGI-IPS.

Wat niet precies duidelijk is uit het rapport is hoeveel de FBI met je sociale media foto's worstelt. De FBI beweert dat ze niet zijn opgenomen in de NGI-IPS, maar het gebruikt ze wel:

"… foto's van beveiligingscamera's of foto's van sociale media worden niet bij NGI-IPS ingeschreven … Volgens de FBI bevatten de externe fotobestanden geen privé verkregen foto's of foto's van sociale media, en de FBI onderhoudt deze foto's niet; het zoekt alleen tegen hen."

Maar het is de moeite waard om op te merken hoeveel van een goudmijn sociale media zou kunnen zijn. De foto-app van je computer heeft de mogelijkheid om jou en je vrienden te herkennen. Facebook doet dat ook, en het is verontrustend goed om elke persoon in een foto te catalogiseren. Telkens wanneer u een Snapchat-lens gebruikt, brengt Snapchat de unieke contouren van uw gezicht in kaart. En het stopt hier niet - deze technologieën zijn praktisch overal.

Hoe dan ook, het is niet alleen de FBI die lol heeft met je gezicht: de toegang strekt zich uit tot de lokale politie-afdelingen. (Er is ook dit: "Het gezichtsherkenningsysteem van het ministerie van Defensie wordt gebruikt om oorlogsvechters in het veld te ondersteunen om vijandige strijders te identificeren.") De FBI is het enige bureau met direct toegang, maar iedereen kan gewoon om toegang vragen. Nadat de toegang is verleend, stuurt het betreffende bureau een foto naar de FBI en vraagt ​​een specifiek aantal mogelijke matches aan. (De foto kan een hoge resolutie hebben, maar beveiligings-camera's kennen is dat waarschijnlijk niet.) Eenmaal daar, voert de NGI-IPS de foto uit via de database en vervolgens zegt de GAO dat "menselijke analyse moet worden uitgevoerd." Een team van "29 getrainde specialisten in biometrische afbeeldingen in FACE Facial Analysis Comparison Evaluation Services" geeft vervolgens het laatste woord. Eindelijk vindt het vereiste aantal mogelijke matches zijn weg terug naar het bureau. Het is vervolgens aan dat bureau om te bepalen of deze schijnbare verdachten echte verdachten zijn.

Dit is hoe het werkt:

"Meer specifiek haalt de technologie functies uit de gezichten en zet ze in een formaat - vaak een gezichtafdruk genoemd - dat onder andere voor verificatie kan worden gebruikt. Nadat de faceprint is gemaakt, kan de technologie een gezichtsherkenningalgoritme gebruiken om de faceprints met elkaar te vergelijken om een ​​enkele scorewaarde te produceren die de mate van overeenkomst tussen de twee vlakken vertegenwoordigt."

Afhankelijk van je bekendheid met science fiction, kan dat wel of niet een betrouwbaar, betrouwbaar systeem lijken. Het is niet. Hier is een sectie header binnen het GAO-rapport:

"De FBI heeft beperkte informatie over de nauwkeurigheid van haar gezichtsherkenningstechnologie."

De hele FBI weet dat, wanneer het deed test de 50-potentialen-nauwkeurigheidspercentage van het programma - wat het deed, zenuwachtig, met een testdatabase, en niet de echte database - het was 86 procent accuraat. De FBI heeft "de nauwkeurigheid van gezichtsherkenningsonderzoeken van NGI-IPS in zijn operationele omgeving niet beoordeeld - de omgeving waarin geregistreerde foto's, in plaats van een testdatabase met foto's, worden gebruikt om onderzoek te doen naar onderzoeksleads." zorg hoe accuraat de gezichtsherkenningssystemen van private bedrijven zijn: er zijn geen audits.

Zesentachtig procent nauwkeurig. Met andere woorden: ongeveer vier van de vijf sterren. Als je lokale sushi-restaurant vier van de vijf sterren heeft, kun je bestellen om af te halen. Maar net zoals een laag aantal beoordelingen de beoordeling van een restaurant kan beïnvloeden, zo ook hoog aantal mogelijke matches kan de nauwkeurigheid van de NGI-IPS beïnvloeden. Vijftig mogelijke matches is het maximum dat bureaus kunnen aanvragen; het systeem kan zo weinig spuwen als maar twee. De GAO zegt dat hoe kleiner de lijst, hoe minder nauwkeurig het systeem.

Er is ook het hele vervelende valse positieve ding. "FBI-functionarissen verklaarden dat ze niet hebben beoordeeld hoe vaak NGI-IPS-herkenningszoekopdrachten een persoon onjuist koppelen aan de database (het vals-positieve cijfer)." Valse positieven zijn - excuseer mijn taal - serieuze fuck-ups, omdat ze "kunnen veranderen het traditionele vermoeden van onschuld in strafzaken door verdachte meer te belasten om te laten zien dat hij niet is wie het systeem identificeert. "Het systeem kan aan beide kanten van de vergelijking stukgaan: als de foto van slechte kwaliteit is, slagingspercentages kelderen; als de software van slechte kwaliteit is, kelderen de succespercentages. Lage succespercentages betekenen veel valse positieven.

De GAO, na het voltooien van haar rapport, gaf de Amerikaanse procureur-generaal Loretta Lynch en FBI directeur James Comey zes aanbevelingen. De kern: het ministerie van Justitie heeft een ondoorzichtigheidsprobleem. Het publiek weet misschien dat zijn privacy wordt geschonden, maar het publiek weet het niet specifiek hoe zijn privacy wordt geschonden. Ook moet het ministerie van Justitie het gebrek aan toezicht corrigeren om ervoor te zorgen dat er minimale privacyoverschrijdingen zijn. Ten slotte moet het ministerie van Justitie ervoor zorgen dat deze programma's betrouwbaar zijn, zij het met terugwerkende kracht.

Het ministerie van Justitie stemde slechts volledig in met één aanbeveling. Het stemde "gedeeltelijk" overeen met nog twee, maar verwierp de resterende drie - twee ervan probeerden nauwkeurigheidsrichtlijnen vast te stellen.