Dezvoltarea AI distopică din China încorporează controlul populației

Încă de la concepția sa, oamenii s-au îngrijorat că o inteligență artificială se va întoarce împotriva umanității și ne va amenința viața. Deși acest lucru ar putea fi un rezultat de temut câțiva ani în viitor, în acest moment, pericolul mai presant este AI folosit pentru a asupri milioane de oameni și pentru a facilita amenințarea unui regim de control.

Fiind alături de noi în carantina pandemică, eu și fiica mea am urmărit-o Persoana de interes pe Netflix.

În esență, fosta serie de rețea este despre un om care a creat o inteligență artificială aproape omniscientă, care urmărește pe toată lumea prin intermediul rețelelor de camere, computere și smartphone-uri. În fiecare săptămână, echipa noastră de eroi, reunită de creatorul AI, încearcă să ajute o persoană pe care AI a identificat-o ca fiind probabil o victimă a crimei în curând. Deoarece acest AI a fost inventat de protagonistul spectacolului, acesta demonstrează empatie și prețuiește viața umană.

Cu toate acestea, în cel de-al treilea sezon, o a doua IA este operată în numele guvernului, iar această IA nu prețuiește viața umană. Funcționează sub comenzi de la și în beneficiul unei corporații umbre, care începe să organizeze viețile oamenilor în scopuri proprii, inclusiv uciderea oamenilor care nu se vor încadra în programul său. Este înspăimântător.

Această emisiune este o televiziune bună și o recomand oricui citeste regulat acest blog și, astfel, este interesat de modul în care tehnologia ne poate afecta viața. Persoana de interes vă poate prezenta, de asemenea, ceea ce se întâmplă acum în cea mai populată țară din lume.

Am scris mult de curând supraveghere video și recunoaștere facială în SUA, dar poliția americană este limitată de cerințele constituționale și poate exista cu ușurință rules aplicat la noile tehnologii care vor limita abilitățile guvernului de a le folosi fără discriminare. SUA se laudă, de asemenea, cu protecții pentru drepturile indivizilor de a se întruni și de a protesta, un guvern care poate fi schimbat în mod regulat și un sistem judiciar care, în general, protejează aceste drepturi. O presă independentă luminează comportamentul guvernamental considerat abuziv de aceste drepturi.

Așadar, gândiți-vă la o țară fără niciunul dintre aceste controale, fără drepturi individuale garantate conform legii, fără presă gratuită, fără un sistem judiciar operativ independent și cu o singură dictatură de partid care deține toate puterile. Acum gândiți-vă la ce s-ar întâmpla dacă veți oferi țării respective supraveghere electronică și fizică nelimitată de la sute de milioane de camere la drone până la captarea întregului trafic de telefon, text și internet, inclusiv căutări și social media. Apoi, oferiți acestei societăți o sofisticare din ce în ce mai mare în inteligența artificială pentru a gestiona fluxul informațional și a atribui semnificație tuturor actelor pe care le surprinde, chiar agregând viziunea completă a comportamentului unei persoane într-un scor care determină toate aspectele importante ale vieții unei persoane. Obțineți un scor bun de la guvern și vi se acordă apartamentul dorit sau permisiunea de a avea un copil. Un scor slab înseamnă blocaje în viața ta. Aceasta este ceea ce China devine rapid.

China nu instituie doar o societate de supraveghere, incluzând un sistem de notare socială pentru fiecare rezident, ci investește puternic în inteligența artificială necesară pentru a gestiona totul și pentru a face evaluări despre ceea ce captează camerele, cititoarele biometrice și filtrele de internet. Conform Estimările militare americane, China va cheltui 70 de miliarde de dolari în fonduri guvernamentale pentru dezvoltarea AI în 2020, comparativ cu 17 miliarde de dolari în 2017. Cheltuielile SUA pentru apărare în AI în acest an vor fi de aproximativ un miliard de dolari.

Nu numai că China construiește laboratoare guvernamentale pentru a dezvolta următoarele generații de AI, dar coordonarea strânsă a guvernului cu companii precum Huawei și Alibaba oferă statului de supraveghere și cercetări comerciale private de top. Toate sunt alimentate de cantitățile supermasive de date produse în cel mai mare stat de supraveghere din lume, deoarece seturile uriașe de date sunt elementele constitutive ale AI eficiente. China, ca Economist observată recent, este Arabia Saudită a datelor.

Cealaltă recomandare pe care o voi face în această coloană este să citesc articolul lui Ross Anderson din The Atlantic numit Panopticonul este deja aici, ceea ce explică modul în care supravegherea, IA, punctajul social, un stat cu un singur partid și opresiunea politică se combină în China pentru a crea primul sistem social atotștiutor și pentru a-l exporta în alte țări. Anderson relatează despre modul în care întregul sistem este testat chiar acum în „închisoarea în aer liber” din provincia Xinjiang, unde uigurii musulmani sunt monitorizați în fiecare minut din viața lor.

Anderson scrie despre președintele chinez, liderul partidului și dictatorul eficient, Xi Jinping: „Cu AI, Xi poate construi cel mai opresiv aparat autoritar din istorie, fără ca forța de muncă pe care Mao să o aibă nevoie pentru a menține informațiile despre disidență care curge către un singur nod centralizat. În cele mai importante companii start-up din China - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - Xi a găsit parteneri comerciali dispuși. Și în minoritatea musulmană din Xinjiang, el și-a găsit populația testată ”.

Peste un milion de uiguri au fost închiși, ceea ce reprezintă mai mulți prizonieri politici decât orice altă instanță de la lagărele de concentrare naziste. John Oliver discutat viața în aceste închisori și tabere de reeducare la spectacolul său din această săptămână. Dar uigurii care locuiesc încă în provincia Xinjiang sunt supuși unor puncte de control, supraveghere video constantă și de altă natură și introducerea „fraților și surorilor mari” chinezești han pentru a monitoriza asimilarea forțată în cultura comunistă. Potrivit lui Anderson, „La aceste verificări, polițiștii extrag toate datele pe care le pot din corpurile uighurilor. Măsoară înălțimea și iau o probă de sânge. Înregistrează voci și tamponează ADN-ul. ”

Iar acest teren de supraveghere și verificare a conformității politice poate fi ușor exportat în restul țării. Anderson notează: „Odată ce Xi perfecționează acest sistem în Xinjiang, nicio limitare tehnologică nu-l va împiedica să extindă supravegherea AI în toată China. El ar putea, de asemenea, să-l exporte dincolo de granițele țării, consolidând puterea unei întregi generații de autocrați ”.

Investiția în AI conduce întregul proces.  Oceanul Atlantic articolul afirmă: „O mare parte din filmările colectate de camerele din China sunt analizate de algoritmi pentru amenințări de securitate de un fel sau altul. În viitorul apropiat, fiecare persoană care intră într-un spațiu public ar putea fi identificată, instantaneu, prin potrivirea AI cu un ocean de date personale, inclusiv fiecare comunicare text și schema de construcție a proteinelor unică în corpul lor. În timp, algoritmii vor fi capabili să strângă puncte de date dintr-o gamă largă de surse - înregistrări de călătorie, prieteni și asociați, obiceiuri de lectură, achiziții - pentru a prezice rezistența politică înainte ca aceasta să se întâmple. Guvernul Chinei ar putea obține în curând un control politic fără precedent asupra a peste 1 miliard de oameni. ”

Deci noi instrumente de supraveghere precum drone de supraveghere păsări robot, suficient de buni pentru a păcăli alte păsări să zboare cu ele, sunt deja introduse în China pentru a furniza mai multe date despre comportamentul oamenilor în AI administrată de stat. Conform  C / NET, „De asemenea, China angajează recunoastere faciala, inteligență artificială, ochelari deștepți și alte tehnologii pentru a-și monitoriza 1.4 miliarde de cetățeni, cu scopul de a le oferi într-o zi fiecăruia dintre ei scor personal pe baza comportamentului lor. ”

Imaginați-vă un scor de credit care, în loc să măsoare pur și simplu comportamentul și capacitatea financiară, măsoară toate aspectele vieții dvs. și interacțiunile cu societatea. Și apoi imaginați-vă că scorul dvs. poate determina ce fel de apartament aveți voie să aveți - sau dacă guvernul vă va permite să locuiți într-un apartament. Același lucru este valabil și pentru locul de muncă, oportunitățile de educație, reproducere și alte aspecte esențiale ale vieții tale. Acesta este scorul social chinez. După cum sa menționat în Marea Britanie cu fir, deși o parte din sistemul actual este voluntar, există stimulente pentru participare și penalități pentru neparticipare.

În cele din urmă, și poate cel mai înspăimântător, China își folosește influența economică și industria privată pentru a exporta tehnologia de control a populației către dictatori din întreaga lume. Anderson observă: „China dezvoltă deja noi instrumente puternice de supraveghere și le exportă către zeci de autocrații actuale și viitoare ale lumii. În următorii câțiva ani, aceste tehnologii vor fi rafinate și integrate în sisteme de supraveghere atotcuprinzătoare pe care dictatorii le pot conecta și juca ”.

Citește povestea completă aici ...