Software pre-criminalitate: „Sfântul Graal” sau părtinitor împotriva minorităților?

Vă rugăm să împărtășiți această poveste!

După cum s-a prevăzut, software-ul de dinainte de criminalitate a măturat națiunea, departamentele de la toate nivelurile încercând să beneficieze de promisiunea utopică de a le prinde înainte de a se comite. Cu toate acestea, criticii își dau seama că se transformă într-o nouă metodă de profilare din care nu poate exista scăpare.  Editor TN

Sgt. Charles Coleman a ieșit din SUV-ul poliției și a scanat o stradă împrăștiată cu gunoi, populară pentru persoanele fără adăpost din oraș, răspunzând la o crimă care nu se întâmplase încă.

Nu a fost un apel la 911 care l-a adus pe ofițerul Departamentului de Poliție din Los Angeles la acest loc, ci un computer care zbârnâia ani buni de date despre infracțiuni pentru a ajunge la o prezicere: un furt de autovehicule sau o spargere ar avea loc probabil aici în această dimineață.

Sperând să o îndepărteze, Coleman a inspectat o linie de RV-uri dezastruoase folosite pentru adăpost de persoanele fără adăpost, a trezit un bărbat care dormea ​​într-o camionetă și a bătut în partea unei cabane din placaj și prelate.

„Cum merg lucrurile, iubito?” a întrebat o femeie care s-a distrat. Coleman a ascultat cu înțelegere în timp ce descria cum a fost aproape violată cu cuțitul cu câteva luni mai devreme, spunând că zona era „foarte dură” pentru o femeie.

Curând, Coleman s-a întors în SUV-ul său în drum spre a lupta cu următoarea pre-crimă. Zeci de alți ofițeri LAPD făceau același lucru și în alte locuri, ghidați de sistemul de prognosticare a criminalității cunoscut sub numele de PredPol.

„Poliția predictivă” reprezintă o schimbare de paradigmă care străbate departamentele de poliție din întreaga țară. Agențiile de aplicare a legii încearcă din ce în ce mai mult să prezică unde și când va avea loc infracțiunea sau cine ar putea fi un făptuitor sau o victimă, folosind software care se bazează pe algoritmi, aceeași matematică pe care Amazon o folosește pentru a recomanda cărți.

„Speranța este sfântul graal al aplicării legii - prevenirea criminalității înainte ca aceasta să se întâmple”, a declarat Andrew G. Ferguson, profesor de drept al Universității din Districtul Columbia, care pregătește o carte despre big data și poliție.

Utilizate acum de 20 dintre cele mai mari 50 de forțe de poliție ale națiunii într-un singur punct, tehnologiile se află în centrul unei dezbateri din ce în ce mai aprinse despre eficacitatea lor, impactul potențial asupra comunităților sărace și minoritare și implicațiile asupra libertăților civile.

Unele departamente de poliție au salutat PredPol și alte sisteme ca fiind esențiale în reducerea criminalității, concentrând resursele rare asupra locurilor de problemă și a persoanelor și înlocuind intențiile ofițerilor și potențialele prejudecăți cu date dificile.

Dar grupurile de confidențialitate și justiție rasială spun că există puține dovezi că tehnologiile funcționează și notează că formulele care alimentează sistemele sunt în mare parte un secret. Ei sunt îngrijorați de faptul că practica ar putea concentra în mod nedrept aplicarea în comunitățile de culoare, bazându-se pe date de poliție înclinate rasial. Și își fac griji că ofițerii care așteaptă un furt sau o spargere este pe cale să se întâmple pot avea mai multe șanse să trateze oamenii pe care îi întâmpină ca potențiali criminali.

Experimentele sunt unul dintre cele mai consecvente teste ale algoritmilor care sunt forțe din ce în ce mai puternice în viața noastră, determinând scorurile de credit, măsurând performanța locului de muncă și marcând copiii care ar putea fi abuzați. Casa Albă a studiat cum să echilibreze beneficiile și riscurile pe care le prezintă.

„Capacitățile tehnice ale Big Data au atins un nivel de sofisticare și omniprezență care necesită luarea în considerare a modului cel mai bun de a echilibra oportunitățile oferite de Big Data în raport cu întrebările sociale și etice pe care aceste tehnologii le ridică”, a scris Casa Albă într-un raport recent.

O schimbare seismică în poliție

Luni era ora 6:45, dar foaia de hârtie pe care Coleman o ținea în mâini oferea o privire asupra modului în care ar putea merge 24 octombrie: un furt de mașini lângă colțul Van Nuys și Glenoaks, un efracție la Laurel Canyon și Roscoe si asa mai departe.

Prognoza criminalității este produsă de PredPol la începutul fiecărei schimbări. Căsuțe roșii răspândite pe hărțile Google ale văii San Fernando, evidențiind locațiile de 500 x 500 de metri pătrați, unde PredPol a concluzionat că sunt probabile infracțiuni asupra proprietății.

Citește povestea completă aici ...

Mă abonez
Anunță-mă
oaspete

0 Comentarii
Feedback-uri în linie
Vezi toate comentariile