Tehnocrația Chinei folosind sistemul de notare a creditelor sociale pentru a conduce dictatura științifică

Descoperiri cheie

• Guvernul chinez a aprobat testarea pilot a unui sistem de credit social care se bazează pe datele personale ale cetățenilor pentru a aloca scoruri de credit neoficiale, care vin cu beneficii și penalități pe care le gestionează companiile private și birourile guvernamentale.
• Cele cinci dimensiuni ale datelor scorului de credit sunt „istoricul de credit al utilizatorilor, obiceiurile comportamentale, capacitatea de a achita datoriile, informațiile personale și rețelele sociale”.
• Algoritmii care obțin scorurile de credit sunt secrete comerciale, interzicând formele de testare care pot determina modul de funcționare.
• Listele negre guvernamentale ale debitorilor sunt partajate cu servicii private și publice de notare a creditelor pentru a interzice persoanelor fizice să efectueze anumite tranzacții.

Această postare, a doua în a serie pe sistemele de plăți mobile, examinează o caracteristică a aplicației de plată mobilă din China, din ce în ce mai acoperită în mass-media străină: testarea a ceea ce poate fi într-o zi un sistem oficial de credit social la nivel național pentru a înlocui omologul său tradițional analog. Cele mai populare scoruri de credit social disponibile public sunt în prezent emise prin intermediul Sesame Credit, o companie înființată de filiala Alibaba Ant Financial. Rapoartele mass-media occidentale despre sistemul de credit social descriu un fenomen asemănător științifico-ficțional prin care cetățenilor li se atribuie scoruri pe baza comportamentului lor online, a informațiilor financiare și a înregistrărilor guvernamentale. Dezvăluirile reprezentanților Finanțelor Financiare au sugerat că navigarea pe internet noaptea târziu, orele petrecute jocurilor video și articolele specifice achiziționate pot reduce scorul cuiva. Indiferent dacă aceste afirmații sunt adevărate sau nu, mecanismele de notare ale Sesame Credit sunt încă într-o fază experimentală și, prin urmare, pot fi modificate. Explorarea potențială securitate, confidențialitate și alte probleme ale unui astfel de sistem este menită să ridice întrebări care pot informa discuțiile despre modul în care va evolua.

Încă din 2003, Guvernul chinez și-a exprimat interesul în crearea unui mijloc cuprinzător de atribuire a scorurilor de credit cetățenilor, care ar fi o îmbunătățire a sistemului de rating al țării. Consiliul de Stat a aprobat recent Consiliul „Schema reglementărilor privind crearea unui sistem de credit social (2014-2020)” iar în prezent, opt companii au primit permisiunea băncii centrale de a conduce testarea pilot a propriilor sisteme de credit social, similar cu calificările de credit ale consumatorilor din cadrul Târgului, Isaac și Compania (FICO). O parte din ceea ce face un astfel de efort unic în China este vagul și, în unele cazuri, absența completă a reglementărilor cu privire la colectarea de date mari în scopuri de notare a creditului, potențialele utilizări ale unor terțe părți și protecția vieții private a utilizatorilor care determină scorul creditului. calcule. noua lege a cibersecurității lansat pe 7 noiembrie, 2016 conține limbaj privind protecția vieții private, dar nu va fi implementat până în iunie 2017.

Acest articol se referă la serviciul de scoruri de credit social al Sesame Credit, pe care utilizatorii Alipay pot opta în prezent să îl primească în cadrul aplicației. Scorurile Sesame Credit sunt cel mai popular exemplu despre modul în care un sistem național chinez de credit social ar putea funcționa într-o zi și oferă o idee despre ce considerente companiile chineze, cetățenii și statul cred că ar trebui să intre într-un astfel de sistem. Este o componentă a unei presiuni mai largi a guvernului chinez pentru a valorifica datele mari ca resursă pentru controlul social. Scorurile de credit sunt defalcate pe cinci dimensiuni: „Istoricul de credit al utilizatorilor, obiceiurile comportamentale, capacitatea de a achita datoriile, informațiile personale și rețelele sociale”. Descrieri succinte ale fiecăreia dintre aceste categorii sunt incluse în funcția de credit Sesame din Alipay, dar nu arunca nicio lumină asupra acțiunilor particulare. ar modifica scorul cuiva.

În conformitate cu Hârtia, „Preferințele comportamentale” se referă la acțiuni precum plata la timp a facturii, iar „informațiile personale” includ vârsta, sexul, ocupația și istoricul educațional. Este mai îngrijorător „conceptele de stabilitate” prost definite, care se presupune că se ia în considerare Sesame Credit, la care au făcut referire reprezentanții companiei fără a defini în mod clar. Aceștia par să fie markeri extrem de subiectivi ai poziției financiare și sociale, care contribuie la mecanismul de notare a creditului. același articol din Hârtia consideră că „dacă adresa dvs. se schimbă des, bonitatea dvs. va scădea corespunzător. În plus, înregistrările de credit ale prietenilor dvs. vor influența, de asemenea, punctele dvs. de susan. ”Spațiul pentru prezentare greșită, precum și discriminarea bazată pe astfel de factori este larg, iar stimulentele care schimbă comportamentul care stau la baza acestora sunt de asemenea. Omul de știință de date Ant Financial, Yu Wujie a spus că „Dacă donați în mod regulat la caritate, scorul dvs. de credit va fi mai mare, dar nu vă va spune câte plăți trebuie să faceți în fiecare lună ... dar [dezvoltarea] în această direcție [se realizează cu] speranța că toată lumea va dona. ”Mai mult, Directorul tehnologic Ant Financial, Li Yingyun, a declarat că „Cineva care joacă jocuri video pentru 10 ore pe zi, de exemplu, ar fi considerat o persoană inactivă, iar cineva care cumpără frecvent scutece ar fi considerat probabil un părinte, care în echilibru este mai probabil să aibă un sens. de responsabilitate. ”Aceste declarații au alimentat până acum acoperirea condamnatoare a mass-media occidentală a creditului social, deși trebuie menționat că singura modalitate de a cunoaște cu certitudine că factorii pe care reprezentanții companiei îi pot cita într-adevăr pot ridica sau scădea scoruri ar fi deconstruirea algoritmilor. care le determină, care au fost etichetate secretele comertului.

Fără capacitatea de a efectua teste statice sau dinamice ale algoritmilor de credit social, ce putem deduce despre modul în care operează? Deng Yiming, directorul dezvoltării de afaceri a Sesame Credit, a spus că doar 30 până la 40 la sută din date folosit pentru a genera scoruri de credit provine de la companii și servicii deținute de Alibaba. Pe lângă datele culese prin activitatea utilizatorilor în cadrul aplicației Alipay, Sesame Credit calculează scoruri individuale cu date colectate de pe site-urile de e-commerce Alibaba, aplicații de distribuire de călătorii și restaurante conectate la Alipay și din birourile guvernamentale implicând legea, educația și comerțul. Unul dintre cele mai clare exemple ale unui astfel de schimb de date este Legătură cu Sesame Credit la Curtea Supremă a Poporului, despre care s-a raportat că a împărtășit lista sa neagră de debitori și alții care au încălcat verdicturile judecătorești cu compania pentru a bloca aceste persoane să facă așa-numitele achiziții de lux în Taobao și Tmall. Acest aranjament pune întrebarea dacă Sesame Credit împărtășește date în direcția opusă, oferind eventual birourilor sale guvernamentale partenere informații tranzacționale ale utilizatorilor. Aceste colaborări tind să fie întunecate de cele în care Sesame Credit lucrează cu sectorul privat pentru a oferi beneficii deținătorilor de punctaj ridicat.

În prezent, privilegiile de a avea un scor de credit social ridicat pot include rezervarea unei mașini de închiriat sau o cameră de hotel fără a face un depozit, acordarea de împrumuturi la rate mai mici, dobândirea de cumpărături online pentru a încerca înainte de a le plăti și obținerea de vize către Luxemburg și Singapore printr-un proces accelerat. Alte țări care și-au exprimat interesul de a participa la acest lucru emiterea accelerată a vizei includ Japonia, Coreea de Sud, Sri Lanka și Regatul Unit. S-a discutat despre utilizările viitoare ale scorurilor de credit ridicate, care se extind la confecționarea de corespondență și recrutarea de locuri de muncă, ceea ce subliniază măsura în care contribuțiile părtinitoare ar putea crea noi bariere sociale.

Portretele guvernului chinez al sistemului de credit social îl reprezintă ca un mijloc de restabilire a încrederii între cetățeni și în întreprinderile locale, cum ar fi restaurantele care vor fi monitorizate pentru respectarea reglementărilor de sănătate. Un alt dintre argumentele-cadru pentru crearea unui sistem de credit social este acela că va permite oamenilor, în mod tradițional incapabili să acumuleze credit, să poată face acest lucru: studenți, lucrători cu guler albastru, proprietari de întreprinderi mici și altele. Cu toate acestea, până acum se pare că avantajele obținerii unui scor ridicat (despre care s-a speculat că de fapt puțini utilizatori au atins) sunt cele care îi favorizează pe cei care se află într-o poziție financiară mai bună să facă cheltuieli abundente și dese. O critică a fost că Sesame Credit ridică scoruri pentru persoanele care efectuează mai multe tranzacții cu Alipay, pe care compania le-a refuzat ferm. Exemplele de scoruri mai mari pentru cumpărăturile asociate persoanelor care sunt părinți și scoruri mai mici pentru persoanele care schimbă adresele de domiciliu sugerează adesea faptul că lipsa de context poate duce la prezentări greșite ale acțiunilor oamenilor care pot avea consecințe disproporționate.

Există pericolul de a explica inițiativele de date mari ca luând măsuri „obiective” ale datelor utilizatorilor, parțial deoarece în cazurile în care un indicator este inexact, devine dificil să conteste acest punct. Un exemplu din a recent Wall Street Journal articol implică o femeie care a folosit fișa de metrou a fiului ei și a fost amendată pentru un act care, la un algoritm, ar părea să fi fost furt. Acest incident minor ridică îngrijorări cu privire la modul decontexualizat în care poate fi proiectat să funcționeze scorurile de creditare socială. Ce este, dacă este cazul, un remediu legal este disponibil pentru greșelile mult mai consecvente în cadrul unui sistem de credit social?

Starea experimentelor actuale în acest domeniu ridică multe întrebări cu privire la protecțiile utilizatorilor. În ceea ce privește confidențialitatea utilizatorilor, nu s-a discutat prea puțin despre implicațiile în care scorurile indivizilor sunt vizibile pentru alții. Alipay oferă un joc în care prietenii își pot ghici reciproc scorurile de credit și să le dezvălui unul altuia, de exemplu. Dincolo de alți utilizatori, companiile externe care furnizează servicii speciale deținătorilor de scoruri de credit ridicate și birourile guvernamentale partenere ale aplicației, cu care terții vor împărtăși Sesame Credit? Centralizarea mecanismelor de colectare a datelor pentru creditul social dang'an-de asemenea, dosarele de viață online și offline ale persoanelor sunt cu atât mai portabile, după cum au observat mai multe rapoarte media. Ce proceduri de securitate există pentru a proteja aceste depozite de informații personale valoroase?

Într-o ironie care a afectat multe aparate de supraveghere, răspândirea unui sistem de credit social și a senzorilor asociați, a codurilor QR și a altor instrumente de citire a urmelor pot crea noi preocupări de securitate, separate de cele pe care intenționează să le reducă prin monitorizarea aproape omniprezentă de comportament. Aceste noi amenințări implică modalitățile prin care se pot falsifica datele scorului de credit și scopurile în care se pot utiliza scoruri de credit false. verificare rapidă de securitate pe aeroportul din Beijing pentru utilizatorii de credit de susan, cu scoruri suficient de mari, care călătoresc pe zboruri interne, oferă un exemplu de situație în care un punctaj ridicat falsificat ar putea permite cuiva să ocolească verificările de securitate mai riguroase, ceea ce poate fi o amenințare pentru securitatea națională de la un calificat și un actor suficient de hotărât. Cu cât sistemul de credit social este mai utilizat și cu cât este mai mare gama de recompense pe care le-ar putea oferi scoruri mari, cu atât mai multe stimulente pentru a-și da seama de modul de a-l păcăli va prolifera. bunuri și fire despre cum să obțineți scorurile de credit sunt deja în creștere și încă nu se știe cât de ușor poate fi accesarea unui cont specific și falsificarea informațiilor.

După cum a fost detaliat într-o postare anterioară, Alibaba a înregistrat scurgeri de date de la angajații companiei, precum și hack-uri externe. Este imperativ să ne punem la îndoială ce măsuri de precauție iau, deoarece acumularea rapidă a unui sistem de credit social va face probabil companiile care sunt administratorii săi ținte pentru furtul de date și extorcare. Mai mult, întrucât o serie de dispozitive de colectare a datelor Internet of Things (IoT) sunt vândute în toată China, capabilitățile granulare de urmărire a fiecărei mișcări ale cetățenilor și extragere din aceste informații pe măsură ce un aport de credit social vor crește și vor necesita mai multă muncă. producătorilor de IoT pentru a aborda aceste probleme. O dezvoltare care are potențialul de a face companiile de credit social mai transparente a fost anunțul Comisiei Naționale de Dezvoltare și Reformă că serviciile de evaluare a creditelor vor fi deschise pentru investiții străine, care poate furniza, cel puțin, mai multe informații despre modul în care se realizează punctajul de credit social al întreprinderilor (pentru restaurante și întreprinderi locale).

Problema finală de securitate și cenzură pe care o oferim în considerare este posibilitatea creditului social și a finanțelor mobile acces fiind blocat pentru a sancționa cetățenii pentru acte de protest, ca doar un exemplu. Dacă ambele servicii devin indispensabile în viața de zi cu zi, posibilitatea înghețării conturilor utilizatorilor sancționate de guvern ar putea aduce prejudicii majore libertăților civile. Pe măsură ce evoluția sistemului progresează, este important să rețineți că, deși algoritmii care determină scorurile de credit se pot schimba rapid în moduri pe care utilizatorii și cercetătorii nu le pot percepe, puterea statului și a companiilor care formează dezvoltarea sistemului de credit social este este mult mai înrădăcinat și este în cele din urmă responsabil pentru rezultatele din lumea reală pe care sistemul de credit social le poate produce.

Citiți articolul complet aici ...