Geniul a ieșit deja din sticlă, dar cercetătorii avansați în AI sunt acum foarte preocupați de modul în care creațiile lor vor fi folosite în războiul autonom. IA este aproape de a deveni auto-replicată, ceea ce înseamnă că aplicațiile necinstite îndreptate spre uciderea oamenilor s-ar putea înmulți până la stingerea rasei umane. ⁃ Editor TN
Mii de oameni de știință specializați în inteligență artificială (AI) au declarat că nu vor participa la dezvoltarea sau fabricarea de roboți care pot identifica și ataca oamenii fără supravegherea umană.
Demis Hassabis la Google DeepMind și Elon Musk la compania americană de rachete SpaceX sunt printre peste 2,400 semnatarii gajului care intenționează să descurajeze firmele militare și națiunile să construiască sisteme de arme letale autonome, cunoscute și sub numele de legi.
Această mișcare este cea mai recentă a oamenilor de știință și a organizațiilor interesate pentru a evidenția pericolele legate de predarea deciziilor de viață și de moarte către mașinile îmbunătățite cu AI. Urmează apelurile pentru o interdicție preventivă cu privire la tehnologia pe care militanții cred că ar putea introduce o nouă generație de arme de distrugere în masă.
Organizat de organizația cu sediul în Boston, The Future of Life Institute, angajamentul solicită guvernelor să convină norme, legi și reglementări care stigmatizează și interzic în mod eficient dezvoltarea roboților ucigași. În absența unor astfel de măsuri astăzi, semnatarii se angajează să „nu participe și nici să sprijine dezvoltarea, fabricarea, comerțul sau utilizarea armelor autonome letale”. Peste 150 de firme și organizații legate de AI și-au adăugat numele la angajamentul care va fi anunțat astăzi la Conferința internațională comună privind AI de la Stockholm.
Yoshua Bengio, un pionier AI în cadrul Institutului de Montreal pentru Algoritmi de Învățare, a declarat pentru The Guardian că, dacă angajamentul ar putea rușina acele companii și organizații militare care construiesc arme autonome, opinia publică se va îndrepta împotriva lor. „Această abordare a funcționat de fapt pentru minele terestre, datorită tratatelor internaționale și a rușinii publice, chiar dacă țări importante precum SUA nu au semnat tratatul care interzice minele terestre. Companiile americane au încetat să mai construiască mine de teren ”, a spus el. Bengio a semnat angajamentul de a-și exprima „îngrijorarea puternică cu privire la armele autonome letale”.
Armata este unul dintre cei mai mari finanțatori și adoptatori de tehnologie AI. Cu sisteme informatice avansate, roboții pot zbura misiuni pe teren ostil, pot naviga pe sol și pot patrula sub mări. Sistemele de arme mai sofisticate sunt în curs de desfășurare. Luni, secretarul apărării Gavin Williamson a dezvăluit un plan de 2 miliarde de lire sterline pentru un nou luptător RAF, Furtuna, care va putea zbura fără pilot.
Miniștrii britanici au declarat că Marea Britanie nu dezvoltă sisteme de arme autonome letale și că forțele sale vor avea întotdeauna supravegherea și controlul armelor pe care le desfășoară. Dar militanții avertizează că progresele rapide în AI și în alte domenii înseamnă că este acum posibil să construim arme sofisticate care să poată identifica, urmări și trage asupra țintelor umane fără acordul unui controlor uman. Pentru mulți cercetători, acordarea mașinilor de a decide cine trăiește și moare trece printr-o linie morală.
„Trebuie să facem din norma internațională că armele autonome nu sunt acceptabile. Un om trebuie să fie mereu la curent ”, a declarat Toby Walsh, profesor de AI la Universitatea New South Wales din Sydney, care a semnat angajamentul
wpDiscuz
copii pe baza poveștii din viața reală despre Despre copiii din viața reală care au schimbat lumea