Eric Schmidt: AI este la fel de puternică ca armele nucleare

Fostul CEO al Google, Eric Schmidt, a comparat inteligența artificială cu armele nucleare și a cerut un regim de descurajare similar cu distrugerea asigurată reciproc, care împiedică cele mai puternice țări din lume să se distrugă reciproc.

Schmidt a vorbit despre pericolele AI la Aspen Security Forum la a panou privind securitatea națională și inteligența artificială pe 22 iulie. În timp ce punea o întrebare despre valoarea moralității în tehnologie, Schmidt a explicat că el însuși a fost naiv cu privire la puterea informațiilor în primele zile ale Google. Apoi a cerut ca tehnologia să fie mai potrivită cu etica și morala oamenilor pe care îi servește și a făcut o comparație bizară între inteligența artificială și armele nucleare.

„Nu suntem pregătiți pentru negocierile de care avem nevoie”. – @ericschmidt #AspenSecurity pic.twitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Iulie 22, 2022

Schmidt și-a imaginat un viitor apropiat în care China și SUA trebuiau să cimenteze un tratat în jurul AI. „În anii 50 și 60, în cele din urmă am creat o lume în care nu exista o regulă „fără surpriză” cu privire la testele nucleare și, în cele din urmă, acestea au fost interzise”, a spus Schmidt. „Este un exemplu de echilibru al încrederii, sau lipsă de încredere, este o regulă „fără surprize”. Sunt foarte îngrijorat de faptul că viziunea SUA asupra Chinei ca fiind coruptă sau comunistă sau orice altceva, și viziunea chineză asupra Americii ca eșuând... vor permite oamenilor să spună „Doamne, au de gând să facă ceva”, apoi să înceapă un fel de enigmă. Începeți ceva în care, pentru că vă înarmați sau vă pregătiți, apoi declanșați cealaltă parte. Nu avem pe nimeni care să lucreze la asta și totuși AI este atât de puternică.”

AI și învățarea automată sunt o tehnologie impresionantă și adesea neînțeleasă. În mare parte, nu este atât de inteligent pe cât cred oamenii că este. Se poate produce opera de artă la nivel de capodoperă, bate oamenii la Starcraft IIși efectuați apeluri telefonice rudimentare pentru utilizatori. Încercările de a-l determina să facă sarcini mai complicate, cum ar fi să conducă o mașină printr-un oraș important, nu au mers atât de bine.

Schmidt și-a imaginat un viitor apropiat în care atât China, cât și SUA ar avea preocupări de securitate care forțează un fel de tratat de descurajare între ele în jurul AI. El vorbește despre anii 1950 și ’60 când diplomația a creat o serie de controale în jurul celor mai mortale arme de pe planetă. Dar pentru ca lumea să ajungă într-un loc în care a instituit Tratatul de interzicere a testelor nucleare, SALT II și alte acte legislative emblematice, a fost nevoie de zeci de ani de explozii nucleare și, în mod critic, distrugerea Hiroshima și Nagasaki.

Cele două orașe japoneze pe care America le-a distrus la sfârșitul celui de-al Doilea Război Mondial au ucis zeci de mii de oameni și au dovedit lumii oroarea veșnică a armelor nucleare. Guvernele Rusiei și Chinei s-au grăbit apoi să achiziționeze armele. Modul în care trăim cu posibilitatea ca aceste arme să fie folosite este prin ceva numit distrugere reciprocă asigurată (MAD), o teorie a descurajării care asigură că dacă o țară lansează o arma nucleară, este posibil ca și orice altă țară să o facă. Nu folosim cea mai distructivă armă de pe planetă din cauza posibilității ca acest lucru să distrugă, cel puțin, civilizația de pe tot globul.

În ciuda comentariilor pline de culoare ale lui Schmidt, nu vrem sau avem nevoie de MAD pentru AI. În primul rând, IA nu s-a dovedit nici pe departe la fel de distructivă ca armele nucleare. Dar oameni în poziții de putere teamă de această nouă tehnologie și, de obicei, din toate motivele greșite. Oamenii chiar au sugerat dând control a armelor nucleare la AI, teoretizând că ar fi arbitri mai buni ai folosirii lor decât oamenii.

Problema cu AI nu este că are potențial forță de distrugere mondială a unei arme nucleare. Este că AI este la fel de bun ca oamenii care l-au conceput și că reflectă valorile creatorilor lor. AI suferă de problema clasică „gunoi în, gunoi afară”: algoritmii rasişti fac roboți rasiști, toată inteligența artificială poartă părtinirile creatorilor săi și un chatbot antrenat pe 4chan devine ticălos.

Acesta este ceva Demis Hassabis - CEO-ul DeepMind, care a antrenat AI care bate Starcraft II jucători — pare să înțeleagă mai bine decât Schmidt. Într-un interviu din iulie pe podcastul Lex Fridman, Fridman l-a întrebat pe Hassabis cum ar putea fi controlată o tehnologie la fel de puternică precum AI și cum ar putea Hassabis însuși să evite să fie corupt de putere.

Citește povestea completă aici ...