Joe Allen: Numărătoarea inversă până la Gigadeath – De la AI Arms Race la Artilect War

Pentru credincioșii adevărați, inteligența artificială va deveni inevitabil supraomenească. Conform mitului lor, suntem în derivă într-un cosmos fără Dumnezeu. Deci depinde de noi să creăm zeități digitale. Sau, mai degrabă, depinde de câțiva tehnologi să le creeze. Ceilalți dintre noi putem fie să îngenuncheze în fața altarului lor, fie să fim împinși în abis.

Pe măsură ce roboții intră în viața noastră, tensiunea dintre noi și ei crește. În unele zile, pare că ne îndreptăm spre un război computerizat între cyborgi în curs de dezvoltare și oamenii moșteniți. După prea mult timp pe ecran – pe măsură ce sinapsele mele se rearanjează pentru a se potrivi cu datele care se revarsă – nu este clar cărei subspecii aparțin.

Pentru înregistrare, sunt mai mult agnostic decât credincios adevărat. Tehnicienii fac tot felul de promisiuni goale. Ei prosperă proiectând puteri mistice. Chiar și așa, ignorăm revoluția lor tehno-culturală pe propriul nostru risc.

Corporațiile tehnologice dețin puterea reală de control al informațiilor. Ele deformează literalmente conștiința publicului la scară. Pe partea militară, forțele de ordine au capacitatea de a te arunca în aer din cealaltă parte a lumii. S-ar putea să batjocorești că forțele armate americane au creat mai mulți ofițeri trans decât soldați cyborg. Dar dacă nu-ți poți îndrepta AR-15 mai repede decât drona lor, atunci rânjiți de sub cizmă. Inteligența artificială nu face decât să întărească acest punct de sprijin.

În 2018, Agenția SUA pentru Proiecte de Cercetare Avansată pentru Apărare a anunțat „își concentrează investițiile pe un al treilea val de IA care produce mașini care pot înțelege și raționa în context”. Directorul Biroului pentru Inovare Informațională al DARPA, Brian Pierce, este sălbatic de entuziasmat despre o „adevărată simbioză între Homo sapiens și Machina sapiens în curs de dezvoltare”.

A 2021 hartie alba de la Ministerul Apărării din Marea Britanie afirmă: „În centrul avantajului militar viitor va fi integrarea efectivă a oamenilor, inteligenței artificiale și a roboticii în sistemele de luptă – echipe om-mașină – care exploatează capacitățile oamenilor și tehnologiilor pentru a depăși oponenții noștri. ”

China are ambiții cyborg similare. La fel faceți Rusia și NATO. „Inteligenta artificiala este viitorul”, a proclamat celebru Vladimir Putin. „Cine va deveni lider în această sferă va deveni conducătorul lumii.”

Poate că generalii pierd bani în războiul geek. Poate doar se joacă cu jucării noi.

Nu m-aș baza pe asta.

Deja, vedem că IA înguste depășește recunoașterea modelelor umane în sarcinile specifice pe care sunt proiectate să le îndeplinească - modelarea proteinelor, analiza radiologică, supravegherea câmpului de luptă și achiziția țintelor, pentru a numi câteva. Un caz concret, contractorul american de apărare Palantir oferă liber IA Ucrainei. Este un motiv major pentru care au rezistat atât de mult împotriva forțelor ruse mai mari.

„Puterea sistemelor avansate de război algoritmic este acum atât de mare, încât echivalează cu a avea arme nucleare tactice împotriva unui adversar doar cu cele convenționale”, CEO-ul Palantir, Alex Karp. a spus il Washington Post. „Publicul larg tinde să subestimeze acest lucru. Adversarii noștri nu mai fac”.

În mâinile prădătorilor de vârf de elită, aceste instrumente digitale sunt extrem de grave. Când liderii nu desfășoară tehnologie împotriva rivalilor, ei o transformă asupra propriilor cetățeni. Amintiți-vă că recunoașterea facială Clearview AI activat polițiștii să urmărească protestatarii din 6 ianuarie.

Tehnologia este putere. Întotdeauna a fost.

Nu toată lumea este însă alarmată. Cei care se îndoiesc își bat joc de noțiunea de mașini „inteligente”. „AI nu există”, spun ei. „Este doar un algoritm.” „Gunoi înăuntru, gunoi afară.” De obicei, sunt foști programatori care încă trăiesc în anii 90. Ei repetă „gunoi înăuntru, gunoi afară” atât de des, parcă ar fi fost programați să o spună.

Băieții ăștia au rost. O IA este la fel de bună ca designul rețelei sale neuronale și datele pe care este antrenat. Nu se deosebește de oameni în acest fel. Dar când e bine, e înfricoșător de bine. Dacă o inteligență artificială solidă este antrenată să recunoască extrasele bancare, de exemplu, poate săpa printre munți de gunoi și să găsească unul în câteva secunde, ca un om de ploaie care se scufundă cu un tomberon pentru a vă fura identitatea.

Inteligența artificială care m-a zguduit a fost AlphaZero, dezvoltată de DeepMind de la Google în 2017. Programată doar cu reguli de bază de joc și „dorința” de a câștiga, această rețea neuronală a învăţat singur pentru a juca Go, șah și o serie de jocuri video în doar câteva ore. Stăpânirea Go este deosebit de importantă. Timp de decenii, scepticii au insistat că niciun computer nu va înțelege acest joc antic chinezesc. Complexitatea lui Go, susțineau ei, necesită o intuiție profundă pe care o posedă doar oamenii. Se pare că a fost o iluzie.

AlphaZero, ca și predecesorul său AlphaGo, inventează strategii eficiente la care niciun om nu s-a gândit vreodată. Și cel mai alarmant, aceste minți digitale zdrobi maeștri umani la propriile lor jocuri. Dacă oamenii ar fi avut vreun simț al naibii, ar fi scos din priză chiar atunci. Pe toate. Dar știi ce spun ei: „Nu poți opri progresul”.

Următorul pas este combinarea aceste abilități cognitive înguste într-un singur „creier artificial”. Acest inteligență generală artificială (AGI) ar fi suficient de flexibil pentru a trece de la un domeniu la altul sau pentru a pune în aplicare diverse module simultan, pentru a rezolva problemele din lumea reală.

În teorie, s-ar putea lipi orice combinație de facultăți - recunoaștere facială, procesare a limbajului natural, modelare socială, sisteme de control robotizat, algoritmi estetici - orice ți-ai putea dori într-un creier robot. Mașina ar depăși probabil oamenii în toate aceste domenii. Dar indiferent de combinația cu care ai venit, nu ar fi pe deplin uman. Nici nu ar împărtăși valorile noastre sau experiența lumii. Ar fi un copil orb, deformat, gravat în siliciu, dar cu o putere cognitivă superbă – la fel ca Demiurgul Gnostic.

Pentru transumaniști, apariția unui AGI cu auto-îmbunătățire va marca un „moment singular în istorie” - Singularitate. De acolo, oamenii moșteniți sunt doar la drum. Dacă avem noroc.

Ăsta e visul, oricum. Și corporații importante precum DeepMind și OpenAI – precum și omologii lor chinezi de la Baidu și Tencent – ​​sunt curse pentru a face o anumită versiune în realitate. Directorii lor executivi țin promisiunea unei utopii digitale sau a unei aproximări. Ei ar prefera să te relaxezi și să nu pui întrebări.

Cu toate acestea, există câțiva alarmiști care spun că AI-ul fugar ar putea însemna anihilarea rasei umane. Deoarece suntem moașe pentru AGI, ne sfătuiesc ei, sarcina noastră centrală este să-l învățăm pe acest copil Zeu Computer să fie binevoitor - să-și alinieze valorile cu ale noastre. Altfel, suntem înrobiți sau murim. Ei numesc aceasta „problema de aliniere a AI”. Pe măsură ce diverse facțiuni se luptă pentru modul în care este permis să fie ChatGPT „trezit” sau „bazat”, arată destul de sumbru.

Destul de ciudat, unele dintre cele mai puternice apeluri de alarmă vin de la cei care lucrează la AGI. Printre aceștia se numără Sam Altman și Elon Musk (OpenAI), Demis Hassabis (DeepMind) și care operează din China, Ben Goertzel (SingularityNET) și profetul nebun al tehnocalipsei, Hugo de Garis (Universitatea Xiamen).

Transumanistul de la Oxford Nick Bostrom, autorul cărții din 2014, a explicat semnificația unui vehicul Tesla Publicul TED:

Potențialul superinteligenței stă latent în materie, la fel ca puterea atomului a rămas latentă de-a lungul istoriei omenirii, așteptând acolo cu răbdare până în 1945. În acest secol, oamenii de știință ar putea învăța să trezească puterea inteligenței artificiale. Și cred că atunci am putea vedea o explozie de informații.

Indiferent de riscurile existențiale, susțin acești bărbați, orice națiune care nu reușește să îmbrățișeze AI va rămâne în urmă celor care o fac. Aceeași dinamică este valabilă pentru indivizi și organizații care concurează unul împotriva celuilalt în cadrul națiunilor. Într-un ecosistem digital, este supraviețuirea celor mai apți cyborgi – cu AI prezentată ca un mitic Inel al puterii.

Dintre toate viitoarele proiectate de transumaniști, cel invocat de Hugo de Garis este cel mai înfiorător. Este și cel mai sincer. Mulți din Silicon Valley cred că inteligența mașinilor supraomenești va duce la „abundență radicală” și la cunoștințe nelimitate despre univers. Ca fizician și constructor de roboți, de Garis crede că toate aceste lucruri se vor întâmpla.

Totuși, el profețește, de asemenea, că crearea de „artilecte” – prescurtare de la „intelecte artificiale”; practic AGI — va duce probabil la distrugerea umanității. Poate că acești zei digitali nu vor avea niciun folos pentru noi și ne vor strivi ca niște gândaci. Sau la fel de probabil, susține de Garis, va avea loc un eveniment „gigadeath” în timp ce oamenii se luptă dacă să le creeze în primul rând. Asta înseamnă că miliarde mor într-o clipită.

„Întrebarea care va domina 21^st politica globală a secolului va fi: „Cine sau care ar trebui să fie specia dominantă de pe planetă, artilecte sau ființe umane?” Acest lucru îl face să formuleze un slogan tulburător, chiar dacă formulat în mod confuz: „Clădim zei sau ne construim noi. potențiali exterminatori?”

Inventând cuvinte noi ciudate ca un jucător de Scrabble indisciplinat, de Garis explorează acest conflict în cartea sa din 2005. Se așteaptă ca acesta să apară în câteva generații. „Acest război va folosi cele mai distructive arme concepute vreodată, bazate pe sfârșitul zilei de 21.^st știința și tehnologia secolului.”

Vorbim de super-nuclee nucleare și de arme biologice proiectate de inteligență artificială — un orizont întunecat care se târăște cu câini robotici și roiuri de nanoboți.

Războiul Artilect va fi purtat între „Terenii”, care ar ucide pentru a păstra umanitatea organică, și „Cosmisții”, a căror devotament religios pentru a construi artilecte este atât de intensă, vor fi dispuși să moară pentru această divinizare. De fapt, vor fi dispuși să vadă toată lumea mori pentru asta:

În 20^th secolul, naziștii au nimicit 20 de milioane de ruși, japonezii au ucis 20 de milioane de chinezi, Stalin a ucis 30 de milioane în epurările sale, iar Mao a înfometat 50 de milioane de țărani chinezi. Acestea sunt printre cele mai mari crime din istorie, dar ele palesc în comparație cu dimensiunea tragediei, dacă artilectii decid vreodată să distrugă umanitatea. Tragedia ar fi totală în sensul că nu ar mai rămâne nicio ființă umană care să plângă dispariția speciei.

După cum remarcă de Garis, este uimitor că orice om ar urmări un astfel de obiectiv știind că miliarde ar putea fi sacrificate. Dar pentru Cosmists, crearea de mașini supraomenești este o căutare religioasă dincolo de bine și rău. În tradiția oamenilor de știință nebuni răvășiți de vinovăție, de Garis se pune în tabăra din urmă, al naibii de moarte:

Scopul meu final este să văd umanitatea, sau cel puțin o parte a umanității, să devină Cosmist și să o fac cu succes, construind artilecte cu adevărat divine, care se ridică deasupra abilităților noastre intelectuale umane și alte abilități.

Un concept cheie în Războiul Artilectului este „dominanța speciei”. După ce a creat viața artificială, umanitatea se confruntă cu un nou competitor evolutiv. Pe măsură ce unii oameni se contopesc cu viața digitală ca teniile într-un intestin meca, umanitatea se va despărți în subspecii - cyborgi care sug roboți și oameni „băieți”.

Odată cu speciația vine și competiția. Bazându-se pe teoria politică și evoluționistă, de Garis spune că există doar atât de mult loc deasupra mormanului de rahat. Deoarece egalitatea nu există în natură, dominația speciilor este inevitabilă. Având istoria umană ca ghid, asta înseamnă violență.

Primul loc va fi ocupat de computerele cu IQ ridicat care orbitează în jurul planetei și sunt „mai rapide și mai bune decât oamenii prin factori de trilioane de trilioane”?

Sau va fi ocupat de Cosmiștii care construiesc și desfășoară aceste mașini?

Sau vor ucide terenii acest cult transuman și se vor întoarce la bătăi de tobe în pădure?

Se pare că ne vom poticni într-un război nuclear cu Rusia sau China, scutindu-ne cu totul de acest Război Artilect. Există o mulțime de gigadeth de care poți merge fără un Super Computer God.

Dar dacă reușim să evităm să ne aruncăm unii pe alții în praful spațiului, s-ar putea ca rivalitatea dintre superputeri să conducă evoluția tehnologiei – în special cea militară – către ceva care seamănă cu viziunea lui de Garis. Gândește-te la asta ca la o Singularitate cu breton.

În realitate, importanța a coșmarului lui Hugo de Garis poate fi influența acestuia asupra culturii tehnologice chineze. Din 2006 până în 2010, și-a completat cariera profesională în China, mai întâi la Universitatea Wuhan, apoi a condus Laboratorul de creier artificial de la Universitatea Xiamen. Până la pandemie, colegul său apropiat Ben Goertzel a fugit SingularityNET din Hong Kong. Acest proiect AGI a funcționat în parteneriat cu Hanson Robotica— încă cu sediul în Hong Kong — al cărui robot Sophia este exaltat ca o zeiță transumană pe scena mondială.

Amploarea transferului de tehnologie către Partidul Comunist Chinez este necunoscută. Dar este rezonabil să presupunem că, indiferent de intențiile lor, de Garis și Goertzel au contribuit la scopul Chinei de a depăși SUA în inteligența artificială. Această ambiție include legarea creierului uman de inteligența artificială și crearea inteligenței generale artificiale, cu un ochi către aplicații militare.

Volumul PRISM din noiembrie 2021, publicat de Universitatea Națională de Apărare din DC, conține o lucrare de cercetare revelatoare, „Proiectul AI-Brain din „Noua generație” din China.” Nu poate exista nicio îndoială că impulsul transuman străbate sufletul chinez. Autorii îl citează pe un cercetător de top al PCC, Xu Bo, vorbind cu ziarul oficial al Ministerului Științei și Tehnologiei:

După cum a subliniat secretarul general Xi Jinping în studiul colectiv al Biroului Politic, cercetarea inteligenței artificiale trebuie să exploreze „zonele fără pilot”. În domeniile inteligenței roi, inteligenței hibride om-mașină și inteligenței autonome, există zone mari fără echipaj care trebuie explorate. … Credem că evoluția autonomă este o punte de la inteligența artificială slabă la inteligența artificială generală.

Sau, după cum a spus decanul Academiei de Inteligență Artificială din Beijing, Huang Tiejun, la o conferință Future of Life:

Rasa noastră umană se află doar într-un singur stadiu. De ce să te oprești? Oamenii evoluează prea încet. Este imposibil pentru oameni să se compare cu superinteligența bazată pe mașini. Se va întâmpla mai devreme sau mai târziu, așa că de ce să aștepți? Chiar și din perspectiva centrismului uman sau a excepționalismului uman, superinteligența este necesară pentru a face față marilor provocări pe care nu le putem înțelege. De aceea susțin ideea.

Traducând declarații din întreaga instituție tehnologică chineză, autorii lucrării PRISM observă sec: „Alte astfel de prognoze sunt obișnuite”.

Viitorul pare sumbru, dar posibilitățile sunt încă larg deschise. Din nou, sunt undeva între cei care se îndoiesc și credincioșii adevărați – și recunosc, este un gard viu călduț.

La fel ca smartphone-urile sau internetul, AI nu va ieși niciodată așa cum se anunță. Evoluția tehnologiei este o saga de bug-uri neașteptate și consecințe nedorite. Este plină de stocuri pompate, contracte guvernamentale supra-exagerate și proiecte academice suprafinanțate.

Nu există mașini zburătoare (încă). Nu există (încă) fuziune la rece. Nu există nanoboți pentru controlul minții (nu-i așa?).

Totuși, doar un prost refuză să vadă că smartphone-urile și internetul au mărunțit cultura organică. Același lucru este valabil și pentru supravegherea în masă și războiul cu drone. Indiferent de forma pe care o ia AI în cele din urmă, sunt convins că va avea efecte similare, dacă nu și mai rele.

S-ar putea ca chatboții AI și sclavii sexuali virtuali să scoată unii oameni din realitatea reală, înnebunindu-i mai mult decât sunt deja. Sau s-ar putea ca o armată de cyborgi îmbunătățiți cu inteligență artificială, modificați genetic și cipați de creier să coboare pe nori de nanoboți pentru a duce un război rasial împotriva a ceea ce a mai rămas din moștenirea oamenilor.

Numai timpul va spune. Păstrați folia de staniol strâns și pudra uscată. Și pentru numele lui Dumnezeu, închide-ți smartphone-ul. Așa te prind.

Citește povestea completă aici ...