Povestile de rezistență împotriva schemelor biometrice sunt rareori văzute în mass-media consacrate, deoarece avocații Big Tech renunță la astfel de povești prin bullying-uri cu amenințări legale. Monsanto și Big Pharma au transformat acest lucru într-o formă de artă. ⁃ TN Editor
Un adolescent dă în judecată Apple pentru 1 miliarde de dolari. proces, depus luni, depinde de presupusa folosire a unei tehnologii din ce în ce mai populare - și controversate -: recunoașterea facială. Tehnologia poate identifica o persoană prin analizarea caracteristicilor sale faciale în imagini, videoclipuri sau în timp real.
Ousmane Bah, reclamant, student în vârstă de 18, susține compania instrument de recunoaștere facială l-a determinat să fie arestat pentru furturi din magazinul Apple nu a comis, legând greșit numele său cu chipul adevăratului hoț. Ofițerii NYPD au venit la domiciliul lui Bah în toamna anului trecut pentru a-l aresta dimineața la 4, doar pentru a descoperi că aparent au avut un tip greșit. Bah spune că întregul remediu i-a provocat grave suferințe emoționale. Între timp, Apple insistă că magazinele sale nu folosesc tehnologia recunoașterii faciale.
Indiferent de adevărul care se dovedește a fi în acest caz, procesul lui Bah este cel mai recent semn al unei reacții în creștere împotriva recunoașterii faciale. Pe măsură ce tehnologia se pune în aplicare în tot mai multe domenii, a stârnit tot mai mult controverse. Luați, de exemplu, chiriașii negri din Brooklyn care recent s-au opus planului proprietarului lor de a instala tehnologia în clădirea lor stabilizată cu chirie. Sau călătorul care s-a plâns prin Twitter că JetBlue o verificase în zbor, folosind recunoașterea facială fără acordul ei. (Compania aeriană a explicat că a folosit datele Departamentului Securității interne pentru a face asta și și-a cerut scuze.)
Asta în plus față de cercetători, avocaţi, și mii de membri ai publiculuicare au exprimat îngrijorări cu privire la riscul recunoașterii faciale care duce la arestări greșite. Ei se tem că anumite grupuri vor fi afectate în mod disproporționat. Tehnologia de recunoaștere facială este destul de bună pentru identificarea fețelor albe masculine, deoarece acestea sunt tipurile de fețe pe care a fost antrenat. Dar prea des, ea identifică greșit oamenii de culoare și femeile. Această părtinire ar putea duce la reținerea în mod disproporționat a unor chestionare, deoarece mai multe agenții de aplicare a legii folosesc tehnologia.
Acum, ajungem la un punct de inflexiune în care marile companii - nu numai Apple, ci și Amazon și Microsoft - sunt nevoite să ia în serios aceste reclamații. Și deși în sfârșit încearcă să telegrafieze că sunt sensibili la îngrijorări, poate fi prea târziu să-ți recuperezi încrederea. Nemulțumirea publică a ajuns la un astfel de ton de febră, încât unii, inclusiv orașul San Francisco, iau în considerare acum interdicțiile generale ale tehnologiei recunoașterii faciale.
Un vot pentru a interzice Amazon să vândă Rekognition
Instrumentul de recunoaștere facială al Amazon, Rekognition, a fost deja vândut forțelor de ordine și înclinat la imigrație și executare vamală. Dar cercetătorii de top din AI au argumentat recent o scrisoare deschisă că tehnologia este profund defectă. (Caz la punct: într-un test de anul trecut, Recunoașterea a asortat membrii 28 ai Congresului la focurile de cană criminală.) Și acționarii Amazon au cerut un vot pentru a vedea dacă compania ar trebui să înceteze să vândă instrumentul către agenții guvernamentale până când trece o revizuire independentă a impactului drepturilor sale civile.
Amazon a luptat din greu pentru a împiedica votul, dar Comisia pentru valori mobiliare și schimb a decis luna aceasta pe care compania trebuie să o lase să meargă înainte. Acesta va avea loc pe 22 mai. Deși rezultatul va fi în mare măsură simbolic - rezoluțiile acționarilor nu sunt obligatorii - votul este de a atrage atenția negativ asupra Amazon.
Între timp, compania a fost încercând să-i înmoaie imaginea prin, de exemplu, apelarea înapoi a unei tactici promoționale agresive. Kartik Hosanagar, profesor de Școală de afaceri din Wharton, a spus Amazon întreprinde „acțiuni preventive” pentru a face frumos „înainte ca unul dintre candidații [prezidențiali] să-i facă pe Amazon afișul a ceea ce se referă la problemele cu Big Tech.”
Mesaje mixte Microsoft despre utilizarea etică a recunoașterii faciale
Întrucât Amazon este încă o companie tânără, fondată în 1994, Microsoft a ajuns la vârsta adultă - a trecut de 1975. Această durată de viață mai lungă înseamnă că a avut mai mult timp pentru a greși, dar și mai mult timp pentru a învăța de la ei. Kim Hart la Axios susține că de aceea Microsoft a reușit, în cea mai mare parte, să evite atacul împotriva tehnologiei mari. "Microsoft, care a trecut prin propria sa luptă antimonopol cu Departamentul de Justiție din '90s', a evitat greșelile comise de frații săi mai mici și mai înflăcărați ai Big Tech", scrie ea.
Cu toate acestea, Microsoft nu este în niciun caz complet imun la criza de reacție. După ce s-a raportat în această lună că cercetătorii Microsoft au produs trei lucrări despre AI și recunoașterea facială cu o universitate condusă de militari în China, unii politicieni americani au lăudat compania pentru că au ajutat un regim care deține un milion de musulmani uiguri în lagărele de internare și supraveghere de milioane mai multe. Senatorul Marco Rubio am sunat „Profund tulburător ... un act care îi face complici la sprijinirea aparatului de cenzură totalitară al guvernului comunist chinez”.
De asemenea, presa a subliniat că compania și-a vândut software-ul de recunoaștere facială către o închisoare din SUAși că președintele Microsoft, Brad Smith, a spus că așa va fi "crud" pentru a opri în totalitate vânzarea software-ului către agenții guvernamentale.
Zile mai târziu, compania s-a străduit să arate că îi pasă de utilizarea etică a AI. Smith a anunțat că a refuzat să-și vândă software-ul de recunoaștere facială unei agenții de aplicare a legii din California care dorea să-l instaleze în mașinile de ofițeri și camerele de caroserie. El a spus că Microsoft a refuzat din motive pentru drepturile omului, știind că utilizarea software-ului ar determina persoanele de culoare și femeile să fie reținute în mod disproporționat pentru a pune întrebări.
Împingerea de a interzice direct tehnologia recunoașterii faciale
Luna aceasta a arătat clar că presiunea publică funcționează atunci când vine vorba de recunoașterea facială. Companiile Behemoth știu că nu mai pot ignora criticile - sau, așa cum au făcut-o recent, spun pur și simplu că ar saluta reglementarea acestei tehnologii. Criticii arată clar că nu este suficient de bun - vor să vadă astfel de companii „ieșind din afacerea de supraveghere”, după cum a declarat Uniunea Americană pentru Libertăți Civile Vox.
wpDiscuz