Elon Musk a echivalat celebrul Inteligența artificială cu „chemarea demonului” și sună alarma că AI avansează mai repede decât își dă seama oricine, reprezentând o amenințare existențială pentru umanitate. Stephen Hawking a avertizat că AI ar putea decola și lăsa rasa umană, limitată de ritmul lent al evoluției, în praf. Bill Gates se consideră în tabăra preocupat de super-informații. Și, deși Mark Zuckerburg este respingător în legătură cu potențialul pericol al AI, Facebook a oprit recent un motor AI după ce a descoperit că a creat un nou limbaj pe care oamenii nu îl pot înțelege.
Îngrijorările legate de IA sunt în întregime logice dacă tot ceea ce există este materie fizică. Dacă da, ar fi inevitabil ca AI - proiectat de inteligența noastră, dar construit pe o platformă mai bună decât biochimia - să depășească capacitățile umane care apar din întâmplare.
De fapt, într-o lume pur fizică, AI-ul pe deplin realizat ar trebui recunoscut ca rezultatul adecvat al selecției naturale; noi, oamenii, ar trebui să beneficiem de ea în timp ce putem. La urma urmei, mai devreme sau mai târziu, umanitatea va înceta să mai existe, fie de la soarele care se scurge, fie ceva mai banal, inclusiv extincția condusă de AI. Până atunci, nu ar fi mai bine să maximizăm înflorirea umană cu ajutorul AI, decât să-i oferim beneficiile în speranța extinderii datei de sfârșit a umanității?
Pe cât posibil, toate acestea ar putea părea, în realitate, ceea ce știm despre mintea umană sugerează cu tărie că AI completă nu se va întâmpla. Singura materie fizică nu este capabilă să producă experiențe întregi și subiective, cum ar fi privirea unui apus de soare în timp ce ascultă pescăruși, iar mecanismele propuse pentru a rezolva deficiențele cunoscute ale materiei față de minte, precum proprietățile emergente, sunt inadecvate și falsificabile. Prin urmare, este foarte probabil să avem minți imateriale.
Acordate, formele de AI obțin deja rezultate impresionante. Acestea folosesc forță brută, memorie uriașă și rapidă, automatizare bazată pe reguli și niveluri de potrivire a modelelor pentru a-și îndeplini lucrările extraordinare. Dar această prelucrare nu este conștientă, percepând, simțind, cunoașterea. Procesarea nu depășește activitățile propuse, chiar dacă rezultatele sunt imprevizibile. Tehnologia bazată pe acest nivel de AI va fi adesea destul de remarcabilă și cu siguranță trebuie gestionată bine pentru a evita repercusiunile periculoase. Cu toate acestea, în sine și în sine, această AI nu poate duce la o replicare adevărată a minții umane.
AI completă - adică inteligența artificială capabilă să se potrivească și poate să depășească mintea umană - nu poate fi realizată decât dacă descoperim, prin mijloace materiale, baza existenței minților imateriale și apoi învățăm cum să conferim asta mașinilor. În filozofie, problema de bază este cunoscută sub numele de problema „qualia”. Conștientizarea noastră a obiectelor și culorilor externe; conștiința noastră de sine; înțelegerea noastră conceptuală a timpului; experiențele noastre de transcendență, fie că suntem uimiți în fața frumuseții sau a adevărului matematic; sau stările noastre mistice, toate indică în mod clar spre ceva ce este calitativ diferit de lumea materială. Oricine are o înțelegere decentă a fizicii, informaticii și minții umane ar trebui să fie în măsură să știe acest lucru, în special cei mai preocupați de posibilitățile AI.