Poliția locală „Supercharges” a tehnicii de recunoaștere facială a Amazonului

Vă rugăm să împărtășiți această poveste!
image_pdfimage_print
Amazon spune că sistemul său Rekognition AI „nu se distinge de magie”, dar acum îl oferă pentru taxe nominale pentru forțele de ordine la toate nivelurile, de la poliția locală și oficiile de șerif până la FBI. În prezent, nu există legi naționale care reglementează utilizarea recunoașterii faciale. ⁃ TN Editor

Când lucrătorii de la Ace Hardware au raportat că o femeie a ieșit din magazin cu un rezervor de sudură de 11.99 de dolari pe care nu l-a plătit în geanta cu tote, a început o acțiune elaborată de înaltă tehnologie de luptă împotriva criminalității.

Un detectiv al șerifului din județul Washington, care lucrează cu unitatea de investigații speciale a agenției, a rulat filmele de supraveghere ale magazinului printr-un program intern de recunoaștere facială construit de Amazon, dezvăluind o posibilă potrivire.

Placa de înmatriculare a femeii a fost semnalizată și, trei luni mai târziu, un ofițer de stupefiante dintr-un SUV nemarcat a văzut-o și a transmis alți adjuncți ai patrulei pentru a o opri. Un deputat a încleștat o pereche de cătușe în jurul încheieturilor și a declarat un raport de arestare. Ea a spus că are nevoie de gaz pentru a-și repara mașina.

Deputații din acest colț din vestul Oregonului, în afara ultraliberalii Portland, obișnuiau să urmărească infractorii pe modul de modă veche, trimitând prin fax imagini prinse cu camera unui suspect în jurul biroului, în speranța că cineva ar putea recunoaște fața.

Apoi, la sfârșitul 2017, ofițerul șerifului din Washington a devenit prima agenție de aplicare a legii din țară cunoscută să utilizeze instrumentul de inteligență artificială Rekognition al Amazonului, transformând această groapă de păduri și suburbii într-un teren de testare publică pentru un nou val de supraveghere experimentală a poliției. tehnici.

Aproape peste noapte, deputații și-au văzut puterile de investigare supraîncărcate, permițându-le să scaneze meciurile de pe chipul unui suspect pe mai multe fotografii de cană 300,000 luate la închisoarea județeană de la 2001. O imagine înfiorătoare a feței cuiva - surprinsă de o cameră de securitate, un cont de social media sau smartphone-ul unui deputat - poate deveni rapid o legătură către identitatea sa, inclusiv numele, familia și adresa. Mai mult de căutările de recunoaștere facială 1,000 au fost înregistrate anul trecut, au spus deputații, care au folosit uneori rezultatele pentru a găsi pagina de Facebook a unui suspect sau pentru a vizita casa lor.

Dar județul Washington a devenit de asemenea zero pentru o luptă cu mize mari pentru creșterea nereglementată a poliției prin algoritm. Avocații de apărare, cercetătorii în domeniul informațiilor artificiale și experții în drepturi civile susțin că tehnologia ar putea duce la arestarea greșită a unor oameni nevinovați care nu au decât o asemănare cu o imagine video. Precizia recunoasterii este de asemenea contestata, iar unii experti se tem ca un caz de identitate gresita de catre deputati armati ar putea avea implicatii periculoase, amenintand intimitatea si viata oamenilor.

Unele agenții de poliție au efectuat în ultimii ani căutări de recunoaștere facială împotriva bazelor de date de stat sau FBI folosind sisteme construite de contractori precum Cognitec, IDEMIA și NEC. Dar lansarea de către Amazon a marcat poate cel mai mare pas în transformarea în controversată tehnologie de scanare a feței. Recunoașterea este ușor de activat, nu necesită nicio infrastructură tehnică majoră și este oferită practic oricui la prețuri de barilă. Județul Washington a cheltuit aproximativ $ 700 pentru a încărca primul său mare transport de fotografii, iar acum, pentru toate căutările sale, plătește aproximativ $ 7 pe lună.

Cu toate acestea, este imposibil de spus cât de precisă sau eficientă a fost tehnologia în primele sale 18 luni de teste din lumea reală. Deputații nu trebuie să țină cont de rapoartele de arestare atunci când a fost utilizată o căutare de recunoaștere facială, iar numărul exact de ori în care a dus la arestare nu este clar. Oficialii șerifului au declarat că software-ul a dus la zeci de arestări pentru furt, violență sau alte infracțiuni, dar o cerere de înregistrare publică a prezentat nouă rapoarte de caz în care a fost menționată recunoașterea facială.

„La fel ca oricare dintre tehnicile noastre de investigare, nu le spunem oamenilor cum le prindem”, a declarat Robert Rookhuyzen, un detectiv din echipa principală a crimelor agenției, care a spus că a efectuat „câteva zeci de” percheziții și a considerat că este util cu 75% a vremii. „Vrem să le ghicească.”

Oficialii șerifului spun că scanările faciale nu marchează întotdeauna sfârșitul anchetei: deputații trebuie să stabilească în continuare o cauză probabilă sau să găsească probe înainte de a acuza un suspect cu o infracțiune. Dar Biroul Șerifului stabilește propriile reguli pentru utilizarea recunoașterii faciale și le permite deputaților să utilizeze instrumentul pentru a identifica corpuri, suspecți inconștienți și persoane care au refuzat să-și dea numele.

Rezultatele imperfecte ale instrumentului de căutare crește riscul ca o persoană nevinovată să fie semnalată și arestată, în special în cazurile în care imaginile scanate sunt estompate, de calitate scăzută sau parțial ascunse. Deputaților li se permite să execute schițe ale artiștilor prin căutare, o utilizare neobișnuită despre care experții AI au spus că ar putea duce mai des la o potrivire falsă.

Îndrumările Amazon pentru aplicarea legii spun că oficialii ar trebui să folosească rezultatele Rekognition doar atunci când sistemul este 99% încrezător într-un meci. Însă deputaților de aici nu li se arată acea măsură de încredere în căutare atunci când folosesc instrumentul. În schimb, li se oferă cinci meciuri posibile pentru fiecare căutare, chiar dacă certitudinea sistemului într-un meci este mult mai mică.

După ce a trimis întrebări de la The Washington Post, Amazon a adăugat limbă la aceste orientări, precizând că ofițerii ar trebui să revizuiască manual toate meciurile înainte de reținerea unui suspect și că căutarea „nu ar trebui să fie utilizată ca unic factor determinant pentru luarea de măsuri.”

Relația dintre Amazon și cea de-a treia cea mai mare agenție de aplicare a legii din Oregon este benefică reciproc: Biroul Șerif ajută la perfecționarea sistemului, pe care Amazon speră să îl vândă în toată țara. Dar presiunea Amazon către vânzările de aplicare a legii a alarmat unii avocați legali care spun că sistemul prezintă prea multe riscuri pentru libertățile civile. (Fondatorul și CEO-ul Amazon, Jeff Bezos, deține The Post.)

"Guvernul este incredibil de puternic, și aduce multe de suportat împotriva unui cetățean individual într-un caz", a declarat Mary Bruington, directorul Biroului Apărătorului Public al County Washington, care reprezintă inculpații care nu își pot permite un avocat. „Îl asociezi cu Amazon? Acesta este un parteneriat puternic.

Matt Wood, directorul general al serviciilor de inteligență artificială pentru divizia de cloud computing a companiei, Amazon Web Services, a declarat într-o declarație că Rekognition este doar „o altă contribuție printre multe alte oportunități pentru o investigație bazată pe 100 la sută dintre oameni”.

Cu toate acestea, compania se confruntă cu critici pe mai multe planuri: cercetători de top ai AI, membri ai Congresului și ai grupurilor pentru drepturile civile - precum și unii dintre investitorii și angajații proprii ai Amazonului - au cerut companiei să înceteze să furnizeze tehnologia forțelor de ordine, indicând studii care au descoperit că sistemul este mai puțin precis cu fețele cu pielea întunecată. Amazon a contestat această cercetare.

Unii dintre rivalii Amazon au stârnit contracte similare. Președintele Microsoft, Brad Smith, a declarat în aprilie că compania a refuzat recent să furnizeze software-ul de recunoaștere facială unei agenții de aplicare a legii din California care dorea să conducă o scanare a feței oricând ofițerii săi au tras pe cineva, dar că a aprobat un acord de punere în aplicare a tehnologiei. într-o închisoare din SUA Microsoft a refuzat să ofere detalii.

Investitorii Amazon vor vota în luna mai o propunere, susținută de un grup de acționari activiști, care ar împiedica compania să vândă Rekognition către agenții guvernamentale, cu excepția cazului în care consiliul societății stabilește că nu prezintă un risc pentru drepturile omului.

Biroul șerifului le-a permis jurnaliștilor de la Post să-și petreacă două zile în martie în mașinile sale de echipă, birourile detectivului și închisoarea județeană, observând modul în care deputații au pliat tehnologia în caseta zilnică. Cei mai mulți dintre cei intervievați au spus că software-ul le-a economisit timp, le-a crescut numărul de arestare și i-a ajutat să proceseze creșterea probelor vizuale. Până în prezent, nu a fost formulată nicio contestație legală la o arestare pe motiv că meciul foto a fost greșit, au declarat atât deputații, cât și apărătorii publici.

Însă avocații din Oregon au spus că tehnologia nu ar trebui să fie, așa cum o văd mulți, un pas iminent înainte pentru viitorul poliției, iar ei încadrează sistemul nu ca o etapă tehnică, ci una morală: este bine să punem mai mult pe băieți răi dacă ar putea fi arestați și mai mulți oameni buni?

„Oamenii adoră să spună mereu:„ Hei, dacă îi prinde pe oameni răi, grozav, cui îi pasă ”, a spus Joshua Crowther, un apărător șef adjunct în Oregon,„ până când sunt pe celălalt capăt ”.

„Indistinguibil de magie”

Când Amazon a dezvăluit Rekognition în 2016, compania a numit o descoperire pentru un stil puternic de inteligență artificială profund-învățată, care a arătat rezultate „indistinguibile de magie”. Într-o postare pe blog ilustrată cu o fotografie a câinelui unui executiv, compania a oferit unele generale idei despre modul în care oamenii ar putea începe să o folosească, inclusiv pentru punctele de control de securitate sau panouri publicitare cu fir pentru a strânge date de pe fața spectatorului.

Dezvăluirea a atras atenția lui Chris Adzima, un fost programator eBay, care a fost angajat la biroul șerifului din Washington, pentru a lucra la o aplicație iPhone pe care deputații o folosesc pentru a urmări comportamentul deținuților. Agenția sa avea deja sute de mii de fotografii faciale online și nici o modalitate reală de a le analiza. Folosind AI-ul Amazon, el a pus în funcțiune un sistem în mai puțin de trei săptămâni.

„Nu aveau cu adevărat o idee fermă a vreunui tip de caz de utilizare în lumea reală, dar știau că au un instrument puternic pe care l-au creat”, a spus Adzima, un analist senior de sisteme informaționale care lucrează într-un mic cubic la sediul șerifului. „Deci, știi, tocmai am început să-l folosesc.”

Deputații au început imediat să plieze căutările faciale în poliția de bătăi zilnice, iar Adzima a construit un site intern cu oase goale, care îi permite să caute din mașinile de patrulare. El a scăzut procentele de încredere în căutare și a proiectat sistemul pentru a returna cinci rezultate, de fiecare dată: când sistemul a returnat zero rezultate, a spus el, deputații s-au întrebat dacă au încurcat ceva. Pentru a-l condimenta, el a adăugat, de asemenea, o animație inutilă de „scanare” violet ori de câte ori un deputat a încărcat o fotografie - o notă pe care a spus-o a fost inspirată de spectacole de polițiști precum „CSI”.

Citește povestea completă aici ...

Alătură-te listei noastre de mail!


Technocracy.News este numai site web de pe Internet care raportează și critică tehnocrația. Vă rugăm să luați un minut pentru a susține activitatea noastră despre Patreon!
Avatar
Abonează-te la canal
Anunță-mă