Omniviolența vine și lumea nu este gata

In Viitorul violenței, Benjamin Wittes și Gabriella Blum discută despre un scenariu ipotetic tulburător. Un actor singur din Nigeria, „găzduiește o mare parte de spam și activități de fraudă online”, îi încurajează pe femei și adolescente să descarce malware care îi permite să le monitorizeze și să-și înregistreze activitatea în scopul șantajului.

Povestea reală a implicat un bărbat din California pe care FBI-ul l-a prins în cele din urmă și trimis la închisoare timp de șase ani, dar dacă ar fi fost în altă parte a lumii, s-ar putea să fi scăpat de el. Multe țări, după cum notează Wittes și Blum, „nu au nici voința, nici mijloacele de a monitoriza infracțiunile informatice, de a-i judeca pe delincși sau de a extrăda suspecții în Statele Unite”. 

Cu alte cuvinte, tehnologia permite infractorilor să vizeze pe oricine oriunde și, din cauza democratizării, din ce în ce mai la scară. Tehnologiile bio, nano și cyber emergente sunt din ce în ce mai accesibile. Politologul Daniel Deudney are un cuvânt pentru ceea ce poate rezulta: „omniviolență”.

Raportul dintre ucigași și uciși sau „raportul K / K” scade. De exemplu, informaticianul Stuart Russell a avut în mod viu descris modul în care un grup mic de agenți rău intenționat s-ar putea angaja în omniviolență: „Un foarte mare, foarte mic, cu un diametru de un inci poate transporta o încărcătură în formă de un sau două grame, spune el. „Le puteți comanda de la un producător de drone din China. Puteți programa codul pentru a spune: „Iată mii de fotografii cu tipurile de lucruri pe care vreau să le vizez”. Un gram în formă de încărcare poate perfora o gaură în nouă milimetri de oțel, așa că, probabil, poți să lovești și o gaură în capul cuiva.

Puteți încadra aproximativ trei milioane dintre cei dintr-o semiremorcă. Puteți conduce I-95 cu trei camioane și aveți 10 milioane de arme care atacă New York City. Nu trebuie să fie foarte eficienți, doar 5 sau 10% dintre ei trebuie să găsească ținta. ”Producătorii vor produce milioane de aceste drone, disponibile pentru achiziționare la fel ca în cazul armelor de acum, subliniază Russell,„ cu excepția a milioane de armele nu contează decât dacă ai un milion de soldați. Aveți nevoie de doar trei tipi pentru a scrie programul și a lansa. ”În acest scenariu, raportul K / K ar putea fi probabil 3 / 1,000,000, asumând o precizie de 10 la sută și doar o singură încărcare în formă de un gram pe drone. 

Avertisment: acest videoclip este dramatizat și nu s-a întâmplat!

Acest lucru este complet - și îngrozitor - fără precedent. Totuși, teroristul sau psihopatul viitorului nu vor avea doar internetul sau drona - numiți „abatoare” în acest videoclip de la Institutul Viitorul Vieții - dar și biologie sintetică, nanotehnologie și sisteme AI avansate la dispoziția lor. Aceste instrumente fac banii să facă ravagii peste granițele internaționale, ceea ce ridică întrebarea: Tehnologiile emergente vor face ca sistemul de stat să fie învechit?

Este greu de văzut de ce nu. Ceea ce justifică existența statului, a argumentat filosoful englez Thomas Hobbes, este un „contract social”. Oamenii renunță la anumite libertăți în schimbul securității furnizate de stat, prin care statul acționează ca un „arbitru” neutru care poate interveni atunci când oamenii obțin în dispute, pedepsește persoanele care fură și ucid și execută contracte semnate de părți cu interese concurente. 

Problema este că dacă cineva poate ataca pe oriunde altundeva, atunci statele vor deveni - și devin - incapabile să își îndeplinească datoria principală de arbitru. Este o tendință spre anarhie, „războiul tuturor împotriva tuturor”, așa cum a spus Hobbes - cu alte cuvinte o condiție a tuturor celor care trăiesc în frică constantă de a fi răniți de vecinii lor. Într-adevăr, într-un recent hârtie, "Ipoteza lumii vulnerabile", publicată în Politica globală, filosoful de la Oxford, Nick Bostrom, susține că singura modalitate de a se apăra împotriva unei catastrofe globale este utilizarea unui sistem universal și invaziv de supraveghere, ceea ce el numește „Panopticon de înaltă tehnologie”.

Sună distopian? Cu siguranță îmi face. „Crearea și operarea Panopticon de înaltă tehnologie ar necesita investiții substanțiale”, scrie Bostrom, „dar datorită scăderii prețului camerelor, a transmisiei datelor, a stocării și a calculării și a avansurilor rapide în analiza conținutului activat AI, poate fi curând devin atât fezabili din punct de vedere tehnologic, cât și la prețuri accesibile. ”Bostrom este conștient de dezavantajele - actorii corupți dintr-un stat ar putea exploata această supraveghere pentru scopuri totalitare sau hackerii ar putea șantaja victimele care nu se uită. Cu toate acestea, faptul este că poate fi încă o opțiune mai bună decât să suferiți o catastrofă globală după alta. 

Cum pot societățile să contracareze omniviolența? unu strategie ar putea fi o mașină superinteligentă - în esență, un algoritm extrem de puternic - care este conceput special pentru a guverna corect. Am putea apoi să punem algoritmul sub acțiune politică și, în măsura în care acesta guvernează ca ceva de genul „Regelui Filozofului”, să nu ne îngrijoram constant că datele colectate sunt folosite sau utilizate abuziv. Desigur, aceasta este o propunere fantastică. Chiar și utilizarea reală a AI în sistemul de justiție este plină probleme. Dar, în acest moment, avem o idee mai bună pentru prevenirea prăbușirii sistemului de stat sub greutatea abilitării tehnologice răspândite?

Citește povestea completă aici ...