Tehnocrații apelează la eticieni pentru a-și „salva sufletul”

SocrateWikipedia Commons, Greg O'Beirne
Vă rugăm să împărtășiți această poveste!
image_pdfimage_print
Tehnocrații creează pentru că pot, nu pentru că există un caz moral sau etic pentru a face acest lucru. În mintea lor, tehnologia nu este etică sau morală și, prin urmare, nu merită luată în considerare în timpul proceselor de dezvoltare. ⁃ TN Editor

La cincizeci și două de etaje sub vârful Turnului Salesforce, o întâlnesc pe Paula Goldman într-o sală de conferințe cu panou din sticlă, unde cuvintele ECHALITY OFFICE sunt redactate pe un steag de tip patchwork, tipul de decorațiune pe care o puteți cumpăra pentru o zi de naștere a copilului.

Goldman are un master de la Princeton și un doctorat. din Harvard, unde a studiat modul în care ideile controversate devin mainstream. A sosit la Salesforce acum ceva mai mult de un an pentru a deveni primul său director de utilizare etică și umană, luând un titlu inedit și decisiv ambiguu, creat special pentru meseria ei fără precedent, ambiguă, dar foarte specifică: vedeți că Salesforce face lumea mai bună, nu mai rea.

„Cred că suntem într-un moment în industria în care suntem în acest moment de inflexiune”, îmi spune Goldman. „Cred că industria tehnologiei era aici înainte, cu securitate în anii 80. Dintr-o dată, au existat viruși și viermi și a trebuit să existe un mod cu totul nou de a gândi și de a face cu el. Și ai văzut că o industrie de securitate crește după asta. Și acum este doar un protocol standard. Nu ați livra un produs major fără să îl echipați în roșu sau să vă asigurați că există garanții de securitate corecte. ”

„Cred că suntem într-un moment similar cu etica”, spune ea. „Este necesar să nu avem doar un set de instrumente prin care să lucrați, ci și un set de norme, că este important. Așadar, cum scalzi aceste norme?

O întreb cum se decid în primul rând acele norme.

„Într-un anumit sens, este întrebarea de miliarde de dolari”, spune ea. „Toate aceste probleme sunt extrem de complicate și există foarte puține dintre ele unde răspunsul este absolut clar. Dreapta? O mulțime din acestea se reduce la ce valori ai tu cel mai ridicat în calcul? ”

···

În urma scandalului de la Cambridge Analytica, al campaniilor de angajare și al altor incidente politice și private, companiile tehnologice s-au confruntat cu un val de Apeluri la închiriere ceea ce apelează cercetătorii de la Data & Society Research Institute „Proprietarii de etică” oameni responsabili de operaționalizarea „dezbaterilor antice, de săritură de domenii și irezolvabile despre valorile umane care stau la baza cercetării etice” în mod practic și demonstrabil.

Salesforce l-a angajat pe Goldman departe de rețeaua Omidyar ca fiind culminare a unui proces de gestionare a crizelor de șapte luni, care a avut loc după ce angajații Salesforce au protestat împotriva implicării companiei în activitatea de imigrare a administrației Trump. Alte companii, care răspund la propriile lor crize și îngrijorări, au angajat un mic cadru de profesioniști similari - filosofi, experți în politici, lingvisti și artiști - toate pentru a se asigura că atunci când promit să nu fie răi, au de fapt o idee coerentă de ce presupune asta.

Atunci ce s-a întâmplat?

În timp ce unele firme de tehnologie au făcut măsuri concrete pentru a insera gândirea etică în procesele lor, Catherine Miller, CEO interimar al consultanței etice Doteveryone, spune că a existat, de asemenea, o mulțime de „problemă”.

Criticii o resping ca fiind „Etica-spalare”, Practica de a pururea stăpânire în direcția valorilor morale pentru a evita reglementările guvernamentale și criticile mass-media. Termenul aparține lexiconului în creștere din jurul eticii tehnologice, sau „tetică”, o prescurtare care a început ca satiră în emisiunea TV „Silicon Valley”, dar de atunci s-a transformat într-o utilizare serioasă.

„Dacă nu aplicați aceste lucruri în practicile actuale și în structurile de stimulare, dacă nu aveți procese de revizuire, ei bine, atunci devine ca un vaporware moral”, spune Shannon Vallor, un filozof al tehnologiei din Markkula Center pentru etică aplicată la Universitatea Santa Clara. „Este ceva ce ai promis și ai vrut să livrezi, dar nu a ajuns niciodată.”

Google, infam, a creat un Consiliu AI și apoi, în aprilie anul trecut, a desființat-o după angajații au protestat includerea unui avocat anti-LGBTQ. Astăzi, abordarea Google asupra eticii include utilizarea „Cărți model”Care urmăresc să explice AI-ul său.

„Nu este nimic care să aibă dinți”, spune Michael Brent, un eticist de date la Enigma și profesor de filozofie la Universitatea din Denver. „Așa este,„ Iată un card cu adevărat frumos ”.”

Compania a depus eforturi mult mai substanțiale: Vallor tocmai a finalizat un tur de serviciu la Google, unde a predat seminarii de etică inginerilor și a ajutat compania să implementeze structuri de guvernare pentru dezvoltarea de produse. „Când vorbesc despre etică în cadrul cadrelor organizatorice, modul în care îl prezint adesea este faptul că este corpul de cunoștințe morale și abilități morale care ajută oamenii și organizațiile să-și îndeplinească responsabilitățile față de ceilalți”, îmi spune Vallor.

Peste 100 de angajați Google au a participat cursuri de etică dezvoltate în centrul Markkula. De asemenea, compania a dezvoltat un modul de corectitudine ca parte a cursului său de învățare în caz de mașină de învățare și actualizări lista sa de „practici AI responsabile” trimestrial. „Marea majoritate a persoanelor care alcătuiesc aceste companii doresc să construiască produse care să fie bune pentru oameni”, spune Vallor. „Chiar nu vor să spargă democrația și nu doresc să creeze amenințări la adresa bunăstării umane și chiar nu doresc să scadă competența și conștientizarea realității în societate. Vor să facă lucruri de care sunt mândri. Deci voi face tot ce pot pentru a-i ajuta să realizeze asta? Da."

···

Centrul Markkula, unde lucrează Vallor, poartă numele lui Mike Markkula Jr., „necunoscut”Co-fondator Apple care, în 1986, a acordat centrului o subvenție inițială pentru semințe în același mod în care i-a acordat tânărului Steve Jobs un împrumut inițial. Nu a dorit niciodată ca numele său să fie pe clădire - asta a fost o surpriză, un semn de recunoștință, de la universitate.

Markkula s-a retras să trăiască o viață liniștită, muncind din moșia sa închisă din Woodside. În aceste zile, el nu are prea multe contacte cu compania pe care a început-o - „doar atunci când am ceva care nu merge bine cu computerul meu”, îmi spune el. Dar când a ajuns la campusul Santa Clara pentru a se orienta cu fiica sa la mijlocul anilor '80, era președintele Apple și era îngrijorat de modul în care merg lucrurile în vale. „Pentru noi, Linda [soția lui] și cu mine, ne-a fost clar, că există destul de multe persoane care erau în poziții de luare a deciziilor care pur și simplu nu aveau etică pe ecranul radarului lor”, spune el. „Nu este faptul că au fost etici, ci pur și simplu nu aveau instrumente cu care să lucreze.”

Citește povestea completă aici ...

Alătură-te listei noastre de mail!


Abonează-te la canal
Anunță-mă
oaspete
3 Comentarii
Cele mai vechi
Cele mai noi Cele mai votate
Feedback-uri în linie
Vezi toate comentariile
doar zic

„Toate aceste probleme sunt extrem de complicate”, spune ea. Valorile cresc individul. Într-un sens, da, depinde de noi individual, dar problema nu este complicată. Au luat momeala și funcționează. Ei sunt importanți de sine și, ca atare, s-au transformat în zei mici cunoscând binele și răul, nu doar pentru ei înșiși, ci au ales-o și pentru noi. Etica și Jurisprudența folosesc pentru a fi predate în școală, dar a fost eliminată cu Biblia. Uită-te la toți avocații care fac publicitate la televizor. Adevărul este că TUTURI suntem păcătoși. Da, aia... Citește mai departe »

Steve Prewitt

Tot acest articol m-a părut ca „vaporware”. Etica este o glumă atunci când cel mai mare jucător al industriei lucrează manual cu China, creând un gulag tehnocratic național (și nu, nu vorbesc despre taberele de „reeducare” pentru musulmani care definesc răul).