Super-AI ar putea ieși ca coronavirusul să distrugă civilizația

Oren EtzioniOren Etzioni
Vă rugăm să împărtășiți această poveste!
image_pdfimage_print
Aceiași tehnocrați care ne-au adus AI în primul rând se gândesc acum dacă poate să apară sau nu un „super-AI” care ar distruge civilizația. Pentru un răspuns mai fiabil, poate ar trebui să întrebe pe Alexa. ⁃ TN Editor

Directorul general al Institutului Allen pentru AI, profesorul Oren Etzioni, a emis o serie de semne de avertizare potențiale care ne-ar avertiza că „super-inteligența” se află după colț.

Oamenii trebuie să fie pregătiți pentru semne de super-inteligență robotică, dar ar trebui să aibă suficient timp pentru a le adresa, a avertizat un informatician de top.

Oren Etzioni, CEO al Institutului Allen pentru AI, a scris o lucrare recentă intitulată: „Cum să știu dacă inteligență artificială este pe cale să distrugă civilizația. ”

El a scris: „Am putea să ne trezim într-o groază de dimineață că a apărut un AI super-puternic, cu consecințe dezastruoase?

„Cărți precum Superinteligența de Nick Bostrom și Life 3.0 de Max Tegmark, precum și articole mai recente, susțin că super-inteligența malefică este un risc existențial pentru umanitate.

„Dar se poate specula la nesfârșit. Este mai bine să ne punem o întrebare mai concretă, empirică: Ce ne-ar avertiza că, într-adevăr, super-inteligența este chiar după colț? ”

El a asemănat semnele de avertizare cu canarii din minele de cărbune, care au fost folosite pentru a detecta monoxidul de carbon, deoarece acestea se vor prăbuși.

Prof. Etzioni a susținut că aceste semne de avertizare vin atunci când programele AI dezvoltă o nouă capacitate.

El a continuat pentru revizuirea MIT: „Ar putea renumitul test Turing să fie un canar? Testul, inventat de Alan Turing în 1950, arată că AI-ul la nivel uman va fi realizat atunci când o persoană nu poate distinge conversația cu un om de a conversa cu un computer.

„Este un test important, dar nu este un canar; este, mai degrabă, semnul că AI la nivel uman a ajuns deja.

„Mulți oameni de informatică cred că dacă acel moment va ajunge, superinteligența va urma rapid. Avem nevoie de mai multe repere intermediare. ”

El a avertizat însă că „formularea automată a problemelor de învățare” va fi primul canar, urmat de mașini care conduc cu autovehicule.

Citește povestea completă aici ...

Alătură-te listei noastre de mail!


Avatar
1 Subiecte de comentariu
0 Răspunsuri la răspunsuri
0 Urmaritori
Cel mai comentat comentariu
Cea mai tare comentariu
1 Autorii comentariilor
Elle Autorii comentariilor recente
Abonează-te la canal
cele mai noi cele mai vechi cel mai votat
Anunță-mă
Elle
Oaspete
Elle

Ce este „formularea automată a problemelor de învățare”? Am fost la link, dar site-ul dorește informații pe care nu eram dispus să le furnizez.