Inventatorul Internetului: Loom-urile în caz de dezastre atunci când AI rulează economia

Arhitectul World Wide Web Sir Tim Berners-Lee a vorbit astăzi despre unele dintre preocupările sale pentru internet în următorii ani, inclusiv un scenariu de coșmar în care inteligența artificială (AI) ar putea deveni noii „stăpâni ai universului” prin crearea și conducând propriile companii.

Masters of the univers este o referință la romanul lui Tom Wolfe din 1987 The Bonfire of the Vanities, referitor la bărbații (și ei erau bărbați) care au început să acumuleze salarii de milioane de dolari și o mare influență din rolurile lor financiare pe Wall Street și în Londra în timpul boom-ului de tranzacționare computerizat dinaintea Luni Negre.

Vorbind la Summit-ul global inovație financiară astăzi, Berners-Lee a imaginat o lume în care sistemele AI încep să dezvolte capacități de luare a deciziilor și impactul pe care acesta îl va avea asupra corectitudinii sistemelor noastre economice.

El a prezentat scenariul în care AI ar putea decide ce companii să achiziționeze și a dus la concluzia sa logică: „Deci, atunci când AI începe să ia decizii precum cine primește un credit ipotecar, acesta este unul important. Sau ce companii să achiziționeze și când AI începe să-și creeze propriile companii, să creeze holdinguri, să genereze noi versiuni ale sale pentru a conduce aceste companii.

„Așadar, aveți cea mai potrivită supraviețuire între aceste companii de IA până când ajungeți la punctul în care vă întrebați dacă devine posibil să înțelegeți cum să vă asigurați că acestea sunt corecte și cum descrieți un calculator ce înseamnă asta oricum? ”

Deși este greu de imaginat vărsând prea multe lacrimi pentru pierderea factorii de decizie responsabil pentru prăbușirea din 2007, scenariul amenință să distrugă o întreagă industrie și ridică câteva întrebări serioase despre cât de echitabil poate fi un sistem financiar fără implicare umană.

Acest lucru este similar cu frica expusă recent de către scepticul AI Elon Musk Vanity Fair: „Să presupunem că creați un AI auto-îmbunătățit pentru a culege căpșuni și devine din ce în ce mai bun la culegerea căpșunilor și culege din ce în ce mai mult și se auto-îmbunătățește, așa că tot ce își dorește cu adevărat să facă este să culege căpșuni. Deci, ar avea ca întreaga lume să fie câmpuri de căpșuni. Câmpii de căpșuni pentru totdeauna. ” Nu există loc pentru ființe umane.

Berners-Lee a primit săptămâna trecută premiul AM Turing al Asociației pentru Mașini de Calcul și a luat atenția presei pentru a critica retragerea de către administrația Trump a protecțiilor neutralității rețelei într-un interviu acordat The Guardian.

Berners-Lee, de asemenea, recent a publicat o scrisoare la cea de-a 28-a aniversare a rețelei web mondiale, detaliind ceea ce el consideră drept cele trei provocări principale pentru web: pierderea controlului asupra datelor cu caracter personal, răspândirea dezinformării pe web și necesitatea transparenței cu publicitatea politică online

Citește povestea completă aici ...