Poliția din SUA antrenează AI-uri care prevăd criminalitatea pe date falsificate

Wikimedia Commons
Vă rugăm să împărtășiți această poveste!
image_pdfimage_print
Întregul sistem de justiție penală din toată America este corupt de utilizarea flagrantă a tehnologiei AI. Poliția nu este ignorantă atunci când caută rezultatele dorite în locul faptelor obiective ale unei chestiuni. Acest lucru este comparabil cu falsa comunitate științifică a încălzirii globale. ⁃ Editor TN

În luna mai a 2010, determinată de o serie de scandaluri de mare anvergură, primarul din New Orleans a cerut Departamentului de Justiție al SUA să investigheze departamentul de poliție al orașului (NOPD). Zece luni mai târziu, DOJ a oferit-o analiza blistering: în perioada revizuirii sale de la 2005 în continuare, NOPD a încălcat în mod repetat dreptul constituțional și federal.

A folosit forță excesivă și în mod disproporționat împotriva rezidenților negri; minorități rasiale vizate, vorbitori de limba engleză nativ și persoane LGBTQ; și nu a reușit să abordeze violența împotriva femeilor. Problemele, a spus la acea vreme, procurorul general adjunct, Thomas Perez, era „serios, larg, sistemic și adânc înrădăcinat în cultura departamentului.”

În ciuda descoperirilor tulburătoare, orașul a intrat în parteneriat secret abia un an mai târziu, cu firma Palantir pentru extragerea datelor, va implementa un sistem de poliție predictivă. Sistemul a folosit date istorice, inclusiv înregistrări de arestare și rapoarte electronice ale poliției, pentru a prognoza criminalitatea și a ajuta la formarea strategiilor de siguranță publică, potrivit companie   guvernul orașului materiale. În niciun caz, aceste materiale nu au sugerat niciun efort pentru curățarea sau modificarea datelor pentru a rezolva încălcările dezvăluite de DOJ. După toate probabilitățile, datele corupte au fost introduse direct în sistem, consolidând practicile discriminatorii ale departamentului.

Algoritmii de poliție predictivă devin o practică obișnuită în orașele din SUA. Deși lipsa de transparență face ca datele statistice exacte să fie clar definite, PredPol, un furnizor principal, se mândreşte cu că ajută la „protejarea” 1 la americanii 33. Software-ul este adesea oferit ca o modalitate de a ajuta departamentele de poliție întinse subțire să ia decizii mai eficiente, bazate pe date.

Dar cercetările noi sugerează că nu doar New Orleans a instruit aceste sisteme cu „date murdare” hârtie lansat astăzi, care urmează să fie publicat în NYU Law Review, cercetătorii de la AI Now Institute, un centru de cercetare care studiază impactul social al inteligenței artificiale, au descoperit că problema este omniprezentă printre jurisdicțiile pe care le-a studiat. Acest lucru are implicații semnificative pentru eficacitatea poliției predictive și a altor algoritmi utilizați în sistemul de justiție penală.

„Sistemul tău este la fel de bun ca datele pe care le folosești pentru a-l instrui”, spune Kate Crawford, cofondator și co-director al AI Now și autoră a studiului. „În cazul în care datele în sine sunt incorecte, acestea vor determina mai multe resurse ale poliției să fie concentrate pe aceleași comunități supra-supravegheate și adesea vizate rasial. Deci, ceea ce ați făcut este de fapt un tip de spălare a tehnologiei în care oamenii care folosesc aceste sisteme presupun că sunt oarecum mai neutre sau obiective, dar, de fapt, au înrădăcinat o formă de neconstituționalitate sau ilegalitate. "

Cercetătorii au examinat jurisdicțiile 13, concentrându-se pe cele care au folosit sisteme de poliție predictivă și au făcut obiectul unei investigații comandate de guvern. Această din urmă cerință a asigurat faptul că practicile de poliție aveau documentație verificabilă legal. În nouă dintre jurisdicții, au găsit dovezi puternice că sistemele au fost instruite pe „date murdare”.

Problema nu a fost doar datele înclinate de orientarea disproporționată a minorităților, ca în New Orleans. În unele cazuri, departamentele de poliție au avut o cultură a manipulării intenționate sau a falsificării datelor sub presiune politică intensă pentru a reduce rata oficială a criminalității. În New York, de exemplu, pentru a dezumfla în mod artificial statisticile crimei, comandanții de secție au solicitat în mod regulat victimelor de la scenele crimei să nu depună plângeri. Unii polițiști au plantat chiar droguri pe oameni nevinovați pentru a-și îndeplini cotele pentru arestări. În sistemele moderne de poliție predictivă, care se bazează pe învățarea automată pentru a prognoza criminalitatea, acele puncte de date corupte devin predictori legitimi.

Citește povestea completă aici ...

Mă abonez
Anunță-mă
oaspete
2 Comentarii
Cele mai vechi
Cele mai noi Cele mai votate
Feedback-uri în linie
Vezi toate comentariile
Tom S

GIGO! Gunoiul; Gunoiul afara!