Algoritmul de recunoaștere facială cauzat arestare greșită

Într-o joi după-amiază din ianuarie, Robert Julian-Borchak Williams se afla în biroul său la o companie de aprovizionare auto, când a primit un apel de la departamentul de poliție din Detroit, care i-a spus să vină la stație pentru a fi arestat. La început a crezut că este o farsă.

O oră mai târziu, când s-a tras în aleea într-o subdiviziune liniștită din Farmington Hills, Mich., O mașină de poliție a rămas în spate, blocându-l. Doi ofițeri au ieșit și l-au încătușat pe domnul Williams pe gazonul său din față, în fața lui soția și două fiice tinere, care erau îndurerate. Poliția nu ar spune de ce a fost arestat, arătându-i doar o bucată de hârtie cu fotografia sa și cuvintele „mandat de infracțiune” și „larcin”.

Soția sa, Melissa, a întrebat unde a fost dus. „Google,” își amintește un ofițer care răspunse.

Poliția l-a condus pe domnul Williams la un centru de detenție. El a tras cu cana, amprentele și ADN-ul, și a fost ținut peste noapte. În jurul amiezii de vineri, doi detectivi l-au dus într-o cameră de interogatori și au așezat trei bucăți de hârtie pe masă, cu fața în jos.

- Când a fost ultima dată când te-ai dus la un magazin Shinola? întrebă unul dintre detectivi, în amintirea domnului Williams. Shinola este o boutique de lux care vinde ceasuri, biciclete și articole din piele din cartierul trendy Midtown din Detroit. Domnul Williams a spus că el și soția sa l-au verificat atunci când magazinul a deschis prima dată în 2014.

Detectivul dădu peste prima bucată de hârtie. Era o imagine statică dintr-un videoclip de supraveghere, care arăta un bărbat cu ochii mari, îmbrăcat în negru și purtând o șapcă roșie Saint Louis Cardinals, stând în fața unui afișaj de ceas. Cinci ceasuri, în valoare de 3,800 de dolari, au fost ridicate la cumpărături.

"Esti tu?" întrebă detectivul.

A doua bucată de hârtie a fost un prim-plan. Fotografia a fost încețoșată, dar nu era clar domnul Williams. Ridică imaginea și o ținu lângă față.

„Nu, nu eu sunt”, a spus domnul Williams. „Crezi că toți bărbații negri arată la fel?”

Domnul Williams știa că nu a comis crima în cauză. Ceea ce nu ar fi putut să știe, în timp ce stătea în camera de interogatoriu, este că cazul său poate fi primul raport cunoscut al unui american care a fost arestat greșit pe baza unei potriviri defectuoase dintr-un algoritm de recunoaștere facială, potrivit unor experți în tehnologie și drept .

Un sistem defectuos

O dezbatere la nivel național face furie rasismul în aplicarea legii. În întreaga țară, milioane protestează nu doar pentru acțiunile unor ofițeri individuali, ci pentru prejudecăți în sistemele utilizate pentru a supraveghea comunitățile și pentru a identifica oamenii pentru urmărire penală.

Sistemele de recunoaștere facială au fost folosite de forțele de poliție pentru mai mult de două decenii. Studii recente de MIT si Institutul Național de Standarde și Tehnologiesau NIST, au descoperit că, în timp ce tehnologia funcționează relativ bine la bărbații albi, rezultatele sunt mai puțin exacte pentru alte demografii, în parte din cauza lipsei diversității imaginilor utilizate pentru dezvoltarea bazelor de date subiacente.

Anul trecut, în timpul unei audieri publice despre utilizarea recunoașterea facială în Detroit, un șef asistent de poliție a fost printre cei care au ridicat îngrijorarea. „În ceea ce privește problema falselor pozitive - aceasta este absolut factuală și este bine documentată”, a spus James White. „Așa că mă privește ca un bărbat afro-american.”

În această lună, Amazon, Microsoft și IBM au anunțat că se vor opri sau pauză ofertele lor de recunoaștere facială pentru oamenii legii. Gesturile au fost în mare măsură simbolice, având în vedere că companiile nu sunt jucători mari în industrie. Utilizarea departamentelor de poliție tehnologică este furnizată de companii care nu sunt nume de uz casnic, precum Vigilant Solutions, Cognitec, NEC, Ranking First Computer și clearview AI.

Citește povestea completă aici ...