Poliția locală „Supercharges” a tehnicii de recunoaștere facială a Amazonului

Când muncitorii de la Ace Hardware au raportat că o femeie ieșise din magazin cu un rezervor de 11.99 dolari de gaz de sudură pe care nu-l plătise în geanta sa, a început o acțiune elaborată de înaltă tehnologie de combatere a criminalității.

Un detectiv al șerifului din județul Washington, care lucrează cu unitatea de investigații speciale a agenției, a rulat filmările de supraveghere ale magazinului printr-un program intern de recunoaștere facială construit de Amazon, dezvăluind un posibil meci.

Plăcuța de înmatriculare a acelei femei a fost semnalizată și, trei luni mai târziu, un ofițer narcotic dintr-un SUV nemarcat a văzut-o și a transmis prin radio altor deputați de patrulare să o oprească. O adjunctă a bătut o pereche de cătușe în jurul încheieturilor, iar raportul arestării precizează. A spus că avea nevoie de gaz pentru a-și repara mașina.

Deputații din acest colț din vestul Oregonului, în afara ultraliberalii Portland, obișnuiau să urmărească infractorii pe modul de modă veche, trimitând prin fax imagini prinse cu camera unui suspect în jurul biroului, în speranța că cineva ar putea recunoaște fața.

Apoi, la sfârșitul anului 2017, șeriful din județul Washington a devenit prima agenție de aplicare a legii din țară cunoscută că folosește instrumentul de inteligență artificială Amazon Recunoaștere, transformând această desiș de păduri și suburbii într-un teren de testare public pentru un nou val de supraveghere experimentală a poliției. tehnici.

Aproape peste noapte, deputații și-au văzut puterile de anchetă supraalimentate, permițându-le să caute meciurile feței unui suspect peste peste 300,000 de focuri de mână făcute la închisoarea județeană din 2001. O imagine granulată a feței cuiva - capturată de o cameră de securitate, o rețea de socializare cont sau smartphone-ul unui deputat - poate deveni rapid un link către identitatea lor, inclusiv numele, familia și adresa. Peste 1,000 de căutări de recunoaștere facială au fost înregistrate anul trecut, au spus deputații, care uneori au folosit rezultatele pentru a găsi pagina de Facebook a unui suspect sau pentru a-și vizita casa.

Dar județul Washington a devenit, de asemenea, punctul zero pentru o luptă cu mize mari asupra creșterii nereglementate a poliției prin algoritm. Avocații apărării, cercetătorii în inteligență artificială și experții în drepturi civile susțin că tehnologia ar putea duce la arestarea ilegală a unor oameni nevinovați care au doar o asemănare cu o imagine video. Acuratețea recunoașterii este, de asemenea, puternic contestată, iar unii experți se tem că un caz de identitate greșită a deputaților înarmați ar putea avea implicații periculoase, amenințând intimitatea și viața oamenilor.

Unele agenții de poliție au efectuat în ultimii ani căutări de recunoaștere facială împotriva bazelor de date de stat sau FBI folosind sisteme construite de contractori precum Cognitec, IDEMIA și NEC. Dar lansarea de către Amazon a marcat poate cel mai mare pas în transformarea în controversată tehnologie de scanare a feței. Recunoașterea este ușor de activat, nu necesită nicio infrastructură tehnică majoră și este oferită practic oricui la prețuri de barilă. Județul Washington a cheltuit aproximativ $ 700 pentru a încărca primul său mare transport de fotografii, iar acum, pentru toate căutările sale, plătește aproximativ $ 7 pe lună.

Cu toate acestea, este imposibil de spus cât de exactă sau eficientă a fost tehnologia în primele 18 luni de teste din lumea reală. Deputații nu trebuie să noteze în rapoartele de arestare când a fost utilizată o căutare de recunoaștere facială și nu este clar numărul exact de ori în care a avut loc o arestare. Oficialii șerifului au declarat că software-ul a condus la zeci de arestări pentru furt, violență sau alte infracțiuni, dar o cerere de înregistrări publice a prezentat nouă rapoarte de caz în care a fost menționată recunoașterea facială.

„La fel ca oricare dintre tehnicile noastre de investigație, nu le spunem oamenilor cum le prindem”, a declarat Robert Rookhuyzen, un detectiv din echipa principală a criminalității agenției, care a spus că a efectuat „câteva zeci” de căutări și a găsit că este utilă în jur de 75%. a timpului. „Vrem să continue să ghicească.”

Oficialii șerifului spun că scanările faciale nu marchează întotdeauna sfârșitul anchetei: deputații trebuie să stabilească încă o cauză probabilă sau să găsească dovezi înainte de a acuza un suspect pentru o infracțiune. Dar Biroul Șerifului își stabilește propriile reguli de recunoaștere facială și le permite deputaților să folosească instrumentul pentru a identifica corpuri, suspecți inconștienți și persoane care au refuzat să-și dea numele.

Rezultatele imperfecte ale instrumentului de căutare cresc riscul ca o persoană nevinovată să fie semnalată și arestată, în special în cazurile în care imaginile scanate sunt neclare, de calitate scăzută sau parțial ascunse. Deputaților li se permite, de asemenea, să ruleze schițe ale artiștilor prin căutare, o utilizare neobișnuită despre care experții din AI au spus că ar putea duce mai des la o potrivire falsă.

Liniile directoare ale Amazon pentru aplicarea legii spun că oficialii ar trebui să utilizeze rezultatele Rekognition numai atunci când sistemul are încredere de 99% într-un meci. Dar deputaților de aici nu li se arată măsurarea încrederii în căutare atunci când utilizează instrumentul. În schimb, li se oferă cinci potriviri posibile pentru fiecare căutare, chiar dacă certitudinea sistemului într-o potrivire este mult mai mică.

După ce a trimis întrebări de la The Washington Post, Amazon a adăugat limbaj la aceste linii directoare, afirmând că ofițerii ar trebui să revizuiască manual toate meciurile înainte de a reține un suspect și că căutarea „nu ar trebui să fie folosită ca singurul factor determinant pentru a lua măsuri”.

Relația dintre Amazon și cea de-a treia cea mai mare agenție de aplicare a legii din Oregon este benefică reciproc: biroul șerifului ajută la rafinarea sistemului, pe care Amazon speră să îl vândă în toată țara. Dar împingerea Amazon în vânzările de aplicare a legii a alarmat unii avocați legali care spun că sistemul prezintă prea multe riscuri pentru libertățile civile. (Fondatorul și CEO-ul Amazon Jeff Bezos deține The Post.)

„Guvernul este incredibil de puternic și aduce multe de suportat împotriva unui cetățean individual într-un caz”, a spus Mary Bruington, directorul Oficiului apărătorului public din județul Washington, care reprezintă inculpații care nu își pot permite un avocat. „Cuplați asta cu Amazon? Este un parteneriat puternic. ”

Matt Wood, directorul general al inteligenței artificiale pentru divizia de cloud computing a companiei, Amazon Web Services, a declarat într-o declarație că Recunoașterea este doar „o altă contribuție printre multe alte oportunități pentru o investigație 100% umană”.

Cu toate acestea, compania se confruntă cu critici pe mai multe fronturi: cercetători de top în AI, membri ai Congresului și grupuri pentru drepturile civile - precum și unii dintre investitorii și angajații proprii Amazon - au cerut companiei să nu mai furnizeze tehnologia forțelor de ordine, indicând studii care au descoperit că sistemul este mai puțin precis cu fețele cu pielea închisă la culoare. Amazon a contestat aceste cercetări.

Unii dintre rivalii Amazon au respins contracte similare. Președintele Microsoft, Brad Smith, a declarat în aprilie că compania a refuzat recent să furnizeze software-ul său de recunoaștere facială către o agenție de aplicare a legii din California care dorea să efectueze o scanare a feței de fiecare dată când ofițerii săi au tras pe cineva, dar că a aprobat un acord care pune tehnologia într-o închisoare din SUA. Microsoft a refuzat să ofere detalii.

Investitorii Amazon vor vota în luna mai o propunere, susținută de un grup de acționari activiști, care ar împiedica compania să vândă Recunoaștere agențiilor guvernamentale, cu excepția cazului în care consiliul companiei stabilește că nu prezintă un risc pentru drepturile omului.

Biroul șerifului le-a permis jurnaliștilor de la Post să petreacă două zile în martie în mașinile echipei sale, în birourile detectivului și în închisoarea județeană, observând cum deputații au îndoit tehnologia în numărul zilnic de cazuri. Cei mai mulți dintre cei intervievați au spus că software-ul le-a economisit timp, le-a sporit numărul de arestări și i-a ajutat să proceseze lipsa tot mai mare de dovezi vizuale. Până în prezent, nu a fost formulată nicio contestație legală cu privire la arestare pe motiv că meciul foto a fost greșit, au spus atât deputații, cât și apărătorii publici.

Însă avocații din Oregon au spus că tehnologia nu ar trebui să fie, așa cum o văd mulți, un pas iminent înainte pentru viitorul poliției, iar ei încadrează sistemul nu ca o etapă tehnică, ci una morală: este bine să punem mai mult pe băieți răi dacă ar putea fi arestați și mai mulți oameni buni?

„Oamenilor le place să spună întotdeauna:„ Hei, dacă prinde oameni răi, grozavi, cărora le pasă ”, a spus Joshua Crowther, apărător șef adjunct în Oregon,„ până când ajung la celălalt capăt ”.

„Nu se distinge de magie”

Când Amazon a dezvăluit Rekognition în 2016, compania a numit-o o descoperire pentru un stil puternic de inteligență artificială de învățare profundă, care a arătat rezultate „indistincte de magie”. Într-o postare pe blog ilustrată cu o fotografie a câinelui unui executiv, compania a oferit câteva idei generale despre modul în care oamenii ar putea începe să-l folosească, inclusiv pentru puncte de control de securitate sau panouri publicitare prin cablu pentru a aduna date de pe fața spectatorului.

Dezvăluirea i-a atras atenția lui Chris Adzima, un fost programator eBay care fusese angajat la șeriful din județul Washington pentru a lucra la o aplicație iPhone pe care deputații o folosesc pentru a urmări comportamentul deținuților. Agenția sa avea deja sute de mii de fotografii faciale online și nu avea o modalitate reală de a le analiza. Folosind AI de la Amazon, el a pus în funcțiune un sistem în mai puțin de trei săptămâni.

„Nu aveau cu adevărat o idee fermă despre niciun tip de caz de utilizare în lumea reală, dar știau că au un instrument puternic pe care l-au creat”, a spus Adzima, un analist senior în sisteme de informații care lucrează într-o mică cabină la sediul șerifului. „Deci, știi, tocmai am început să-l folosesc.”

Deputații au început imediat să plece căutările faciale în poliția lor zilnică, iar Adzima a construit un site web intern, care le-a permis să caute de pe mașinile lor de patrulare. El a renunțat la procentele de încredere în căutare și a proiectat sistemul pentru a întoarce cinci rezultate, de fiecare dată: Când sistemul a returnat zero rezultate, a spus el, deputații s-au întrebat dacă au încurcat ceva. Pentru a-l condimenta, el a adăugat, de asemenea, o animație violetă inutilă de „scanare” ori de câte ori un deputat a încărcat o fotografie - o notă despre care a spus că a fost inspirată de emisiuni de polițiști precum „CSI”.

Citește povestea completă aici ...