Revendicare: recunoașterea facială AI vă poate dezvălui partidul politic

Cercetătorii au creat un sistem de învățare automată despre care susțin că poate determina partidul politic al unei persoane, cu o precizie rezonabilă, bazându-se doar pe fața lor. Studiul, dintr-un grup care a arătat, de asemenea, că preferința sexuală se poate deduce aparent în acest fel, abordează cu sinceritate și evită cu atenție capcanele „frenologiei moderne”, ducând la concluzia incomodă că apariția noastră poate exprima mai multe informații personale pe care le credem noi.

Studiul, care a apărut săptămâna aceasta în revista Nature Scientific Reports, a fost condusă de Michal Kosinski de la Universitatea Stanford. Kosinski a făcut titluri în 2017 cu o lucrare care a constatat că preferința sexuală a unei persoane ar putea fi prezisă din datele faciale.

Studiul a atras critici nu atât pentru metodele sale, cât și pentru ideea că ceva care nu este în mod teoretic non-fizic ar putea fi detectat în acest fel. Dar lucrarea lui Kosinski, așa cum a explicat el atunci și după aceea, a fost făcută special pentru a contesta aceste presupuneri și a fost la fel de surprinzătoare și deranjantă pentru el ca și pentru alții. Ideea nu era să construim un fel de AI gaydar - de fapt, dimpotrivă. Așa cum a scris echipa la acea vreme, a fost necesar să se publice pentru a avertiza pe alții că așa ceva poate fi construit de oameni ale căror interese depășesc academicul:

Am fost într-adevăr deranjați de aceste rezultate și am petrecut mult timp analizând dacă ar trebui să fie făcute publice deloc. Nu am vrut să permitem chiar riscurile împotriva cărora avertizăm. Abilitatea de a controla când și cui să-și dezvăluie orientarea sexuală este crucială nu numai pentru bunăstarea cuiva, ci și pentru siguranța cuiva.

Am simțit că este urgent să îi conștientizăm pe factorii de decizie politică și comunitățile LGBTQ de riscurile cu care se confruntă. Nu am creat un instrument de invadare a confidențialității, ci am arătat mai degrabă că metodele de bază și utilizate pe scară largă reprezintă amenințări serioase pentru confidențialitate.

Avertismente similare pot fi emise aici, pentru că afilierea politică cel puțin în SUA (și cel puțin în prezent) nu este as sensibil sau personal un element ca preferință sexuală, este încă sensibil și personal. Cu greu trece o săptămână fără să citească despre un „disident” politic sau religios sau despre altul arestat sau ucis. Dacă regimurile opresive ar putea obține ceea ce se întâmplă pentru o cauză probabilă spunând „algoritmul te-a marcat ca un posibil extremist”, în loc să intercepteze mesaje, de exemplu, acest tip de practică este mult mai ușor și mai scalabil.

Algoritmul în sine nu este o tehnologie hiper-avansată. Lucrarea lui Kosinski descrie un proces destul de obișnuit de hrănire a unui sistem de învățare automată cu imagini de peste un milion de fețe, colectate de pe site-uri de întâlniri din SUA, Canada și Marea Britanie, precum și de pe utilizatorii americani de Facebook. Persoanele ale căror chipuri au fost utilizate s-au identificat ca fiind conservatoare din punct de vedere politic sau liberale ca parte a chestionarului site-ului.

Algoritmul s-a bazat pe software-ul de recunoaștere facială open-source și, după procesarea de bază, pentru a decupa doar fața (în acest fel, elementele de fundal nu se strecoară ca factori), fețele sunt reduse la 2,048 scoruri reprezentând diverse caracteristici - ca și în cazul altor recunoașteri faciale algoritmi, acestea nu sunt lucruri intuitive necesare, cum ar fi „culoarea sprâncenelor” și „tipul nasului”, ci mai multe concepte autohtone.

Sistemul a primit date de afiliere politică provenite de la oamenii înșiși și, cu aceasta, a început să studieze cu sârguință diferențele dintre statisticile faciale ale persoanelor care se identifică drept conservatori și cele care se identifică ca liberale. Pentru că se pare, există diferențe.

Bineînțeles că nu este la fel de simplu ca „conservatorii au sprâncenele mai tulburi” sau „liberalii se încruntă mai mult”. Nici nu se reduce la demografie, care ar face lucrurile prea ușoare și simple. La urma urmei, dacă identificarea partidului politic se corelează atât cu vârsta, cât și cu culoarea pielii, acest lucru face posibil un algoritm simplu de predicție chiar acolo. Dar, deși mecanismele software utilizate de Kosinski sunt destul de standard, el a avut grijă să-și acopere bazele pentru ca acest studiu, la fel ca cel din urmă, să nu poată fi considerat pseudoștiință.

Cel mai evident mod de a aborda acest lucru este de a face sistemul să ghicească partidul politic al persoanelor de aceeași vârstă, sex și etnie. Testul a implicat prezentarea cu două fețe, una dintre fiecare parte, și ghicirea care a fost care. Evident, precizia șanselor este de 50%. Oamenii nu sunt foarte buni la această sarcină, îndeplinind doar puțin peste șansă, cu o precizie de aproximativ 55%.

Algoritmul a reușit să ajungă la o precizie de până la 71% atunci când a prezis un partid politic între doi indivizi asemănători, iar 73% s-au prezentat cu doi indivizi de orice vârstă, etnie sau sex (dar totuși garantat să fie unul conservator, unul liber).

Citește povestea completă aici ...