Flashback 2012 - The Atlantic Link-urile Facebook direct către tehnocrație

Dorința Facebook de eficiență înseamnă că democrația este în afara și tehnocrația, regele dezvoltator-rege este în.

Să stipulăm că Facebook nu este o țară, că guvernele reale îndeplinesc mult mai multe funcții și că oamenii nu sunt cetățeni ai rețelelor lor sociale.

Cu toate acestea, 900 de milioane de ființe umane fac ceva de genul trăirii în spațiul virtual albastru și alb al celei mai mari rețele structurate de oameni din lume. Și acei oameni intră în dispute pe care se așteaptă să le judece. Ei au această așteptare în parte, deoarece Facebook a spus de mult că dorește să creeze un mediu sigur pentru conectarea cu alte persoane. (Cum altfel poți face oamenii să fie „mai deschis și conectat„?) Dar oamenii doresc, de asemenea, ca cineva să fie la conducere, vor o autoritate la care să poată apela dacă o altă persoană este un nebun.

Cu excepția acestui caz, cineva este într-adevăr o persoană corporativă. Deci, atunci când raportezi ceva sau cineva raportează ceva al tău, Facebook este cel care ia decizia cu privire la ceea ce a fost postat, chiar dacă știm că undeva pe linie, o ființă umană trebuie să întruchipeze compania, chiar dacă este suficient de mult timp pentru a faceți clic pe un buton.

Orice decizie individuală luată de echipa Facebook - cum ar fi dând această fotografie cu un cuplu gay care se sărută - este ușor de pus la îndoială. Detaliu Ken Fisher al Ars Technica o mulțime de probleme unice pe care oamenii l-au întâlnit cu sistemul de raportare Facebook. În fiecare dintre ele, există o parte afectată, dar auzim doar o parte a conflictului atunci când aceste probleme apar. În multe evenimente individuale, aveți două persoane (sau entități precum companii) cu dorințe conflictuale. Acesta este un caz clasic în care aveți nevoie de un fel de guvernare.

Nu este greu să ne imaginăm că luăm una sau 20 sau chiar 200 de decizii cu privire la fotografii sau actualizări de stare într-o săptămână, dar este deranjant să considerăm că Facebook trebuie să proceseze 2 milioane de rapoarte pe săptămânăși nu include mesaje simple „marcați ca spam”.

Cum proiectați un sistem pentru a face față acelei sarcini de lucru? Am vorbit cu James Mitchell, care dirijează ceea ce Facebook numește „integritatea site-ului” în cadrul departamentului său de operare a utilizatorilor și cu Jud Hoffman, managerul de politici globale al companiei despre procesul de raportare. Ei sunt arhitecții tehnocrației Facebook.

"Cantitatea de gândire și dezbatere care intră în procesul de creare și gestionare a acestor reguli nu este atât de diferită de un proces legislativ și judiciar, toate s-au transformat într-unul", mi-a spus Hoffman, un avocat. „Și James are elementul executiv / judiciar. Nu cred că este o întindere să ne gândim la acest lucru într-un context de guvernare, dar este o formă diferită și o luăm cu adevărat, foarte în serios. ”

Mitchell mi-a spus că pasul cheie a fost acela de a pune o structură în procesul de raportare. Când a început în 2006, nu exista niciun formular pentru reclamațiile utilizatorilor. Asta însemna că a existat o coadă masivă de probleme nediferențiate. Deci, el și echipa sa au început să se gândească la ce fel de probleme au primit și au creat categorii de probleme, pe care le-au rafinat în timp.

Aceasta permite rapoartele să fie canalizate printr-un set complex de procese și echipe, astfel încât acestea să ajungă în fața ființelor umane sau a computerelor care știu ce să facă cu ele.

Facebook a dezvăluit această infrastructură astăzi pentru prima dată. Este produsul a mai mult de cinci ani de muncă a mai multor echipe din cadrul Facebook, care au lucrat pentru ca procesul de gestionare a acestui flux de cereri ale utilizatorilor să fie cât mai eficient posibil.

La sfârșitul multor dintre aceste linii de raportare, există o persoană care trebuie să ia o decizie cu privire la mesajul utilizatorului. Unele dintre aceste decizii sunt binare - Această fotografie conține nuditate? - și acestea sunt, în general, externalizate către echipe care pot aplica formule simple și riguroase, cum ar fi întrebarea „Este această persoană goală?” Alte decizii sunt complexe în moduri care fac ca utilajele să se descurce foarte bine cu ele. (De exemplu, există mai mult de 50 de semnale la care se uită algoritmii Facebook pentru a determina dacă un profil este spam, iar răspunsurile automate sunt mai precise decât ar fi cele umane.)

Dar cea mai mare parte a rapoartelor sunt realizate de o echipă fără chip de câteva sute de angajați Facebook din Mountain View, Austin, Dublin și Hyderabad. Acești oameni și instrumentele pe care le-au construit au devenit de facto legislatori, birocrați, polițiști și judecători ai cvasi-națiunii Facebook. Unele decizii pe care le iau au impact asupra sutelor de milioane de oameni într-un mod mic; alte decizii vor schimba un număr mic de vieți ale oamenilor într-un mod mare.

Ceea ce este fascinant pentru mine este că Facebook a recreat în esență o birocrație guvernamentală completă cu autorități de reglementare și de aplicare a legii, dar optimizată pentru valori total diferite de guvernele tradiționale. În loc de constituție, Facebook are dubla misiune de a face „lumea mai deschisă și mai conectată” și de a menține utilizatorii pe site-ul său, minimizând experiențele lor negative. Mai presus de toate, soluția Facebook pentru toate problemele de guvernanță trebuie să fie concepută pentru o eficiență extremă la scară.

După cum s-a stipulat mai sus, guvernele din lumea reală trebuie să îndeplinească tot felul de funcții, în afară de disputele dintre cetățeni, dar trebuie doar să analizăm diferența de scară dintre guvernul Facebook și guvernul Palo Alto. Palo Alto are aproximativ 65,000 de locuitori și 617 cu normă întreagă angajați. Facebook are 900 de milioane de „rezidenți” și câteva sute de birocrați care iau toate deciziile de conținut.

Dorința de eficiență a Facebook înseamnă că democrația este în afara și tehnocrația, regele dezvoltatorului-regă este înăuntru. Oamenii nu ajung să voteze regulile și chiar și atunci când Facebook a oferit utilizatorilor săi posibilitatea de a vota o nouă politică de confidențialitate săptămâna trecută, Participarea la alegători a fost de 0.038 la sută. Oamenii știu că Facebook controlează o mare parte din viața lor digitală, dar nu au un sentiment de cetățenie digitală. Și această apatie oferă tehnocrației Facebook șansa de a reuși acolo unde antecedentele sale istorice nu au reușit.

Tehnocrații originari erau un grup de gânditori și ingineri din anii 1930 care au reînviat visul lui Platon de rege-filozof, dar cu o rotire de epocă a mașinilor. Conduși de Thorstein Veblen, Howard Scott și M. King Hubbert, ei au susținut nu guvernarea poporului sau a monarhiei sau a dictatorului, ci a inginerilor. Inginerii și oamenii de știință ar guverna rațional și imparțial. Vor crea o tehnocrație care să funcționeze ca un mecanism de ceas și să asigure că productivitatea tuturor este distribuită eficient. Au elaborat un întreg sistem prin care continentul nord-american va fi condus cu secvențe funcționale care ar permite directorului continental să facă lucrurile.