Tehnocrații apelează la eticiști pentru a-și „salva sufletul”

La cincizeci și două de etaje de sub vârful Turnului Salesforce, o întâlnesc pe Paula Goldman într-o sală de conferințe cu panouri de sticlă, unde cuvintele BIROU DE EGALITATE sunt scrise pe un banner de bunting, tipul de decor pe care l-ați putea cumpăra pentru petrecerea de ziua unui copil.

Goldman are un masterat la Princeton și un doctorat. de la Harvard, unde a studiat modul în care ideile controversate devin mainstream. A ajuns la Salesforce acum ceva mai mult de un an pentru a deveni primul său director de utilizare etică și umană, luând un titlu inedit și decisiv ambiguu, creat special pentru meseria ei fără precedent, ambiguă, dar foarte specifică: vedeți că Salesforce face lumea mai bună, nu mai rea.

„Cred că suntem într-un moment în industrie în care ne aflăm în acest moment de inflexiune”, îmi spune Goldman. „Cred că industria tehnologiei a fost aici înainte, cu securitate în anii '80. Dintr-o dată au apărut viruși și viermi și a trebuit să existe un mod cu totul nou de a gândi la asta și de a face față acestuia. Și ați văzut o industrie a securității crescând după aceea. Și acum este doar protocol standard. Nu ați expedia un produs major fără a-l face echipă roșie sau să vă asigurați că sunt incluse garanțiile de securitate potrivite ”.

„Cred că suntem într-un moment similar cu etica”, spune ea. „Este necesar să aveți nu numai un set de instrumente prin care să faceți munca, ci și un set de norme, că este important. Deci, cum scalați aceste norme? ”

O întreb cum se decid în primul rând acele norme.

„Într-un anumit sens, este întrebarea de miliarde de dolari”, spune ea. „Toate aceste probleme sunt extrem de complicate și există foarte puține dintre ele în care răspunsul este absolut clar. Dreapta? O mare parte din acestea se rezumă la, la ce valori păstrați cel mai mult în calcul? ”

···

În urma scandalului de la Cambridge Analytica, al campaniilor de angajare și al altor incidente politice și private, companiile tehnologice s-au confruntat cu un val de Apeluri la închiriere ceea ce numesc cercetătorii de la Data & Society Research Institute „Proprietari de etică” oameni responsabili de operaționalizarea „vechilor dezbateri irezolvabile și irezolvabile despre valorile umane care stau la baza anchetei etice” în moduri practice și demonstrabile.

Salesforce l-a angajat pe Goldman departe de rețeaua Omidyar ca fiind culminare a unui proces de șapte luni de gestionare a crizelor care a venit după ce angajații Salesforce au protestat împotriva implicării companiei în activitatea de imigrație a administrației Trump. Alte companii, răspunzând propriilor crize și preocupări, au angajat un mic cadru de profesioniști similari - filozofi, experți în politici, lingviști și artiști - toți pentru a se asigura că atunci când promit să nu fie răi, au de fapt o idee coerentă a ce presupune asta.

Atunci ce s-a întâmplat?

În timp ce unele firme de tehnologie au făcut pași concreți pentru a insera gândirea etică în procesele lor, Catherine Miller, CEO interimar al consultanței etice Doteveryone, spune că a existat și o mulțime de „flapping” subiectului.

Criticii o resping ca fiind „Spălare etică, ”Practica de a se închina doar în direcția valorilor morale pentru a împiedica reglementările guvernamentale și critica mass-media. Termenul aparține lexicului în creștere în jurul eticii tehnologice, sau „tetică”, o abreviere care a început ca satiră la emisiunea TV „Silicon Valley”, dar de atunci a trecut la o utilizare serioasă din când în când.

„Dacă nu aplicați aceste lucruri în practicile reale și în structurile dvs. de stimulare, dacă nu aveți procese de revizuire, atunci devine ca un vaporware moral”, spune Shannon Vallor, un filosof al tehnologiei la Markkula Center pentru Etică Aplicată la Universitatea Santa Clara. „Este ceva ce ați promis și pe care ați intenționat să-l livrați, dar nu a ajuns niciodată.”

Google, infam, a creat un Consiliu AI și apoi, în aprilie anul trecut, a desființat-o după angajații au protestat includerea unui avocat anti-LGBTQ. Astăzi, abordarea Google față de etică include utilizarea „Cărți model”Care își propune să-și explice AI.

„Nu este nimic care să aibă dinți”, spune Michael Brent, eticist de date la Enigma și profesor de filozofie la Universitatea din Denver. „Este exact ca„ Iată o carte foarte frumoasă ”.”

Compania a făcut eforturi mai substanțiale: Vallor tocmai a finalizat un tur de serviciu la Google, unde a predat ingineri seminarii de etică și a ajutat compania să implementeze structuri de guvernanță pentru dezvoltarea produselor. „Când vorbesc despre etică în mediul organizațional, modul în care îl prezint adesea este că corpul de cunoștințe morale și abilități morale îi ajută pe oameni și organizații să își îndeplinească responsabilitățile față de ceilalți”, îmi spune Vallor.

Peste 100 de angajați Google au a participat cursuri de etică dezvoltate în centrul Markkula. De asemenea, compania a dezvoltat un modul de corectitudine ca parte a cursului său de învățare în caz de mașină de învățare și actualizări lista sa de „practici AI responsabile” trimestrial. „Marea majoritate a oamenilor care alcătuiesc aceste companii doresc să construiască produse care să fie bune pentru oameni”, spune Vallor. „Chiar nu vor să rupă democrația și chiar nu vor să creeze amenințări la adresa bunăstării umane și chiar nu vor să scadă alfabetizarea și conștientizarea realității în societate. Vor să facă lucruri de care sunt mândri. Deci voi face tot ce pot pentru a-i ajuta să realizeze acest lucru? Da."

···

Centrul Markkula, unde lucrează Vallor, poartă numele lui Mike Markkula Jr., „necunoscut”Cofondator Apple care, în 1986, a acordat centrului o subvenție inițială pentru semințe în același mod în care i-a acordat tânărului Steve Jobs un împrumut inițial. Nu a dorit niciodată ca numele său să fie pe clădire - asta a fost o surpriză, un semn de recunoștință, de la universitate.

Markkula s-a retras și a trăit o viață liniștită, lucrând din întinsa sa proprietate închisă din Woodside. În zilele noastre, el nu are prea multe contacte cu compania pe care a început-o - „numai când am ceva care nu merge în computerul meu”, îmi spune el. Dar când a ajuns la campusul Santa Clara pentru o orientare cu fiica sa la mijlocul anilor '80, era președintele Apple și era îngrijorat de modul în care mergeau lucrurile în vale. „Am fost clar pentru amândoi, Linda [soția sa] și cu mine, că erau destul de puțini oameni care se aflau în poziții decizionale care pur și simplu nu aveau etică pe ecranul radar”, spune el. „Nu înseamnă că nu erau etici, ci pur și simplu nu aveau niciun instrument cu care să lucreze”.

Citește povestea completă aici ...