Förra månaden beslutade staden San Francisco att förbjuda användningen av ansiktsigenkänningsteknik i dess olika statliga myndigheter. Även om ett fullständigt förbud för evigt sannolikt går för långt, återspeglar det en verklig spänning som polisens användning av tekniken skapar. Städer över hela USA kommer att möta ett liknande dilemma när de försöker balansera teknikens löfte att förbättra offentliga tjänster med regeringens enorma makt – och dess förmåga att orsaka skada. När man formulerar en sammanhängande policy för att styra ansiktsigenkänning, bör beslutsfattare överväga hur, när och varför man använder ett så kraftfullt verktyg: att använda lämpliga trösklar för förtroende för fotografier, endast använda ansiktsigenkänning i efterhand snarare än i realtid, och begränsa dess användning för de allvarligaste brotten. Slutligen måste regeringar överväga att säkra data för att undvika intrång i känslig personlig information.
På en grundläggande nivå fungerar ansiktsigenkänningsteknik genom att skanna geometrin hos ett ansikte för att känna igen nyckelfunktioner (som nässtorlek, ögonform, hakans framträdande plats, etc.) och avstånden mellan dem. Detta gör att datorn kan skapa en virtuell karta över ett ansikte, som den sedan kan matcha mot andra skannade ansikten i sin databas med en motsvarande konfidensgräns. För närvarande används ansiktsigenkänning mest i konsumentteknologiapplikationer som att låsa upp smartphones eller kategorisera dina Facebook- och Google-foton.
Även om dessa applikationer erbjuder bekvämlighet för konsumenter, ställer regeringens användning av samma teknik några svåra frågor – särskilt i straffrättsliga sammanhang. Till skillnad från privata enheter är statliga myndigheter inte föremål för konkurrens , och deras misstag har vanligtvis långtgående konsekvenser. Det är en sak för ansiktsigenkänning att felidentifiera en vän på Facebook; Det är en helt annan sak att felidentifiera en misstänkt. Dessutom håller tekniken på att mogna och implementeringsdetaljerna kan vara knepiga. Därför är det förnuftigt att kräva en hög nivå av noggrannhet och vissa sunt förnuftsskydd finns på plats innan dessa tekniker implementeras.
Ett problem med statlig användning av ansiktsigenkänning är att tekniken, precis som andra algoritmiska system, bara är lika bra som den data som används för att träna den. Amazons Rekognition-programvara – som brottsbekämpande myndigheter redan använder i Oregon och Orlando – har komma under eld för att felidentifiera färgade i högre takt än det felidentifierar vita. Amazon har motverkat att dessa skillnader börjar försvinna när de använder sin rekommenderas 99% förtroendetrösklar, men påpekar kritiker att polisavdelningar för närvarande inte är skyldiga att använda dessa höga standarder (det har faktiskt varit känt att brottsbekämpande myndigheter matar in kändisbilder och rättsmedicinska skisser i mjukvara för ansiktsigenkänning att försöka få matcher ).
hur såg Amerika ut 1492
Vi vet att rasminoriteter redan är inblandade i det straffrättsliga systemet i en oproportionerlig takt: A studie på uppdrag av distriktsåklagaren i San Francisco fann att även om svarta personer utgjorde 6 % av stadens befolkning mellan 2007 och 2014, utgjorde de 41 % av gripandena. Övertilltro till bristfällig teknik – eller dålig implementering av nämnda teknik – riskerar inte bara att öka felaktiga övertygelser, utan också att ytterligare förvärra rasskillnaderna i systemet.
Att skapa ytterligare oro för medborgarna i San Francisco är polisens förmåga att missbruka ansiktsigenkänningsteknik inom det bredare svepet av missbruk av statsmakt. Även om tekniken exakt kan identifiera ansikten, oroar förespråkarna att det kan skapa ett övervakningstillstånd, vilket ökar gripandena för småbrott utan att förbättra den allmänna säkerheten. Det är den kinesiska regeringen redan med hjälp av ansiktsigenkänning att arrestera jaywalkers och spåra muslimska minoritetsgrupper . Om den används olämpligt kan tekniken för ansiktsigenkänning skada ett fritt, demokratiskt samhälle – skapa en kylande effekt som negativt påverkar våra rättigheter att samlas, protestera, rösta och röra sig fritt i offentliga områden.
Å andra sidan bör vi vilja att våra statliga myndigheter ska förnya sig och anta de senaste verktygen som gör att de kan tjäna allmänheten på bästa sätt. Teknik för ansiktsigenkänning har verklig potential att hjälpa brottsbekämpande myndigheter att fånga brottslingar och förbättra den allmänna säkerheten. Till exempel har tekniken redan gjort det hjälpte till att identifiera Jarrod Ramos, en misstänkt som för närvarande står inför fem anklagelser för första gradens mord, när han vägrade att identifiera sig efter att polisen grep honom. De flesta medborgare skulle sannolikt vara bekväma med detta är en användning av ansiktsigenkänningsteknik. Och utanför traditionella brottsbekämpande sammanhang kan ansiktsigenkänning också användas för att auktorisera statligt anställda vid högsäkerhetsanläggningar, bekämpa barnsexhandel , och hitta saknade personer .
Så även om försiktighet verkligen är berättigad, låser ett direkt förbud – utan någon bestämmelse som gör att vi måste se över policyn igen – oss i onödan från att använda användbara verktyg som kan hjälpa brottsbekämpning i allvarliga fall när traditionella utredningstekniker misslyckas.
Som sagt, användningen av denna teknik kräver verkliga skyddsåtgärder; ett tillfälligt moratorium för dess användning medan sådana skydd utvecklas är inte uteslutet. Hur kan lämplig tillsyn över brottsbekämpande myndigheters användning av teknik för ansiktsigenkänning se ut? Matthew Feeney från Cato Institute lägger ut några användbara förslag, inklusive ett förbud mot realtidskapacitet som skulle begränsa ansiktsigenkänning till utredningar i efterhand, vilket skulle förhindra bland annat att polisens kroppskameror blir obegränsade övervakningsmaskiner.
Att säkerställa att ansiktsigenkänning endast används i efterhand skulle också möjliggöra granskning från tredje part. Till exempel kan lagstiftare kräva att en domare eller domare granskar den föreslagna användningen av ansiktsigenkänning i varje enskilt fall, liknande processen för godkännande av husrannsakningsorder. Dessutom för att förhindra användningen av ansiktsigenkänning för mindre brott som snatteri , kan lagstiftare identifiera vilka brott som stiger till en allvarlighetsnivå som skulle motivera det integritetsintrång som tekniken skapar. Starka restriktioner för de individer som ingår i datauppsättningar för ansiktsigenkänning kan också förhindra att personer med parkeringsöverträdelser sopas upp i ett polisdragnät. Helst bör endast de med en aktiv arresteringsorder inkluderas i datasetet.
hur gammal var catherine of aragon när hon gifte sig med arthur
Med insamlingen av biometrisk information som den som används i ansiktsigenkänningsteknik kommer den relaterade oro över hur sådan information skyddas och lagras. Bara förra veckan kom nyheter om en dataintrång av en tull- och gränsbevakningsentreprenör, som exponerade tusentals bilder på internationella resenärer som hade samlats in för ansiktsigenkänningsändamål. Risken för att personuppgifter hamnar i orätta händer är mycket reell. För att minska denna risk bör statliga myndigheter (och deras entreprenörer) åläggas att uppfylla lämpliga hygienstandarder för cybersäkerhet. Restriktioner för hur lång tid biometrisk information kan lagras efter insamlingen kan också minska skadan av ett brott.
Slutligen, om städer ifrågasätter sin egen förmåga att få tillgång till dessa verktygs tekniska prestanda, bör de överväga att kräva en extern revision via det ursprungliga upphandlingskontraktet. En viktig kontroll mot statligt missbruk eller oavsiktlig algoritmisk fördom är förmågan hos civilsamhällesorganisationer att testa dessa system oberoende, verifiera att tekniken fungerar korrekt och se till att inga minoritetsbefolkningar är orättvist riktade.
Eftersom städer som Oakland och Somerville, och stater som Massachusetts, överväger liknande lagar, uppstår också frågor om huruvida denna politik är bäst att införa på stads- eller delstatsnivå. Det här är inte första gången städer har försökt leda vägen för rättsliga reformer - till exempel Atlanta nyligen förbjudna kontanter borgen (även om Georgiens lagstiftare försökte föregripa den politiken denna lagstiftande session). Lokala restriktioner för polisteknik är dock mer komplicerade, eftersom ärenden ibland kan beröra flera jurisdiktioner. Helst skulle det då finnas konsekvens i en given stat när det gäller att skydda medborgarnas integritetsrättigheter så att statliga trupper och lokal brottsbekämpning hålls till samma standarder.
Även om San Francisco är den första staden att förbjuda statlig användning av ansiktsigenkänning, kommer det troligen inte att vara den sista. Städer och stater har rätt att trycka på pausknappen om de i slutändan bestämmer sig för att tekniken inte är redo för offentlig implementering. Men de bör också para ihop eventuella förseningar med en konkret utvecklingsplan.
Ett moratorium kan vara ett användbart verktyg för att skapa utrymme för att noga överväga vilka typer av begränsningar och skydd vi vill införa. Men det slutliga målet med ett moratorium bör vara korrekt användning av dessa verktyg, inte att underlätta en knä-reaktion på en ny teknik som ser skrämmande ut. Allmänhetens oro kring den här tekniken är förståelig, men ett balanserat tillvägagångssätt inför sådana rädslor kommer sannolikt att ge utdelning i framtiden.