Aceiași tehnocrați care ne-au adus AI în primul rând se gândesc acum dacă ar putea să apară sau nu o „super-AI” care ar distruge civilizația. Pentru un răspuns mai fiabil, poate că ar trebui să-l întrebe pe Alexa. ⁃ Editor TN
Directorul executiv al Institutului Allen pentru AI, profesorul Oren Etzioni, a emis o serie de potențiale semne de avertizare care ne-ar alerta că „superinteligența” se află la colț.
Oamenii trebuie să fie pregătiți pentru semne de super-inteligență robotică, dar ar trebui să aibă suficient timp pentru a le adresa, a avertizat un informatician de top.
Oren Etzioni, CEO al Allen Institute for AI, a scris un articol recent intitulat: „Cum să știm dacă inteligență artificială este pe cale să distrugă civilizația. ”
El a scris: „Ne-am putea trezi într-o dimineață, uimiți că a apărut o IA super-puternică, cu consecințe dezastruoase?
„Cărți precum Superinteligența de Nick Bostrom și Life 3.0 de Max Tegmark, precum și articole mai recente, susțin că superinteligența malefică este un risc existențial pentru umanitate.
„Dar se poate specula la nesfârșit. Este mai bine să punem o întrebare mai concretă, empirică: ce ne-ar alerta că super-inteligența este într-adevăr la colț? ”
El a asemănat semnele de avertizare cu canarii din minele de cărbune, care au fost folosite pentru a detecta monoxidul de carbon, deoarece acestea se vor prăbuși.
Prof. Etzioni a susținut că aceste semne de avertizare vin atunci când programele AI dezvoltă o nouă capacitate.
El a continuat pentru MIT Review: „Poate celebrul test Turing să servească drept canar? Testul, inventat de Alan Turing în 1950, susține că AI la nivel uman va fi atins atunci când o persoană nu poate distinge conversația cu un om de conversația cu un computer.
„Este un test important, dar nu este un canar; este, mai degrabă, semnul că AI la nivel uman a ajuns deja.
„Mulți oameni de știință din domeniul informaticii cred că, dacă va sosi acel moment, va veni rapid suprainteligența. Avem nevoie de mai multe etape intermediare. ”
Dar el a avertizat că „formularea automată a problemelor de învățare” va fi primul canar, urmat de mașini cu conducere automată.
wpDiscuz
Ce este „formularea automată a problemelor de învățare”? Am fost la link, dar site-ul dorește informații pe care nu eram dispus să le furnizez.