Tehnocrații au creat un monstru despre care acum realizează că ar putea transforma și distruge creatorii lor; astfel, „jocurile de război” sunt create pentru a învăța cum să o învingă - Inteligența artificială. Acesta este un alt exemplu de încercare de a „salva lumea” care sa transformat într-un scenariu „distruge lumea”. ⁃ Editor TN
Stimulatorii de inteligență artificială prezic o nouă lume curajoasă a mașinilor zburătoare și a tratamentelor împotriva cancerului. Detractorii se îngrijorează de un viitor în care oamenii sunt robi unei rase malefice de stăpâni de roboți. Veteranul om de știință AI Eric Horvitz și guru-ul Doomsday Clock Lawrence Krauss, în căutarea unui punct de mijloc, au adunat un grup de experți în deșertul din Arizona pentru a discuta despre cele mai grave lucruri care s-ar putea întâmpla - și cum să-l oprim.
Atelierul lor a avut loc weekendul trecut la Universitatea de Stat din Arizona, cu finanțare din partea cofondatorului Tesla Inc. Elon Musk și a cofondatorului Skype Jaan Tallinn. Denumit oficial „Vizualizarea și abordarea rezultatelor AI nefavorabile”, a fost un fel de jocuri de finalizare a IA care au organizat aproximativ 40 de oameni de știință, experți în securitate cibernetică și politici în grupuri de atacatori - echipa roșie - și apărători - echipa albastră - jucând AI -scenarii foarte greșite, de la manipularea pieței de valori până la războiul global.
Horvitz este optimist - un lucru bun pentru că inteligența mașinilor este munca vieții sale - dar unii alți susținători ai proiectului, mai distopi, păreau să-și găsească perspectivele prea pozitive atunci când planurile pentru acest eveniment au început acum aproximativ doi ani, a spus Krauss, un teoretic fizician care dirijează ASU's Origins Project, programul care desfășoară atelierul. Cu toate acestea, Horvitz a spus că pentru ca aceste tehnologii să avanseze cu succes și să câștige o încredere largă a publicului, toate preocupările trebuie să fie pe deplin difuzate și abordate.
„Există un potențial imens pentru AI pentru a transforma atât de multe aspecte ale societății noastre în atât de multe moduri. În același timp, există margini aspre și dezavantaje potențiale, ca orice tehnologie ”, a spus Horvitz, director general al Laboratorului de cercetare Microsoft din Redmond, Washington. „Pentru a câștiga la maxim din partea de sus, trebuie să ne gândim și la posibilele rezultate mai detaliat decât am avut înainte și să ne gândim la modul în care ne-am descurca cu ele.”
Participanților li s-au acordat „teme” pentru a trimite lucrări pentru cele mai nefavorabile situații. Acestea trebuiau să fie realiste - bazate pe tehnologiile actuale sau pe cele care par posibile - și între cinci și 25 de ani în viitor. Participanții cu coșmarurile „câștigătoare” au fost aleși pentru a conduce panourile, care au inclus aproximativ patru experți pe fiecare dintre cele două echipe pentru a discuta despre atac și cum să-l prevină.
wpDiscuz