La sfârșitul zilei, tehnocrații umani saturați de tehnologie, nu programe, care creează politicile și rezultatele anti-umane care dăunează omenirii. Se vor ascunde în spatele AI pentru a scăpa de responsabilitate și toată lumea va crede că algoritmii le-au făcut.⁃ Editor TN
Ideea unor grupuri mici de oameni care au control asupra unora dintre cele mai puternice arme care vor fi construite vreodată este înfricoșătoare, dar este realitatea în care trăim. În viitorul nu atât de îndepărtat, acea putere și responsabilitate incredibile ar putea fi predate AI și sisteme robotice, care sunt deja în dezvoltare activă. Într-o pereche de scrisori deschise către prim-miniștrii care deranjează Australia și Canada, sute de cercetători și oameni de știință din AI pledează pentru ca acest lucru să nu se întâmple.
Se spune că frica este că înlăturarea elementului uman din deciziile de viață și moarte s-ar putea crea într-o epocă distructivă care în cele din urmă vrăjește sfârșitul omenirii. Așa cum au spus cercetătorii, sistemele de arme AI sunt „arme de distrugere în masă” care trebuie interzise direct înainte de a putea face pagube grave.
„Delegarea deciziilor cu privire la viață sau moarte la mașini traversează o linie morală fundamentală - indiferent de partea care le construiește sau le folosește”, scrisoarea explică. „Jocul cu ruleta rusă cu viața altora nu poate fi niciodată justificat doar pe baza eficacității. Aceasta nu este doar o problemă fundamentală a drepturilor omului. Decizia de a interzice sau de a angaja arme autonome merge în centrul umanității noastre. ”
Într-un cadru în care calculatoarele au ultimul cuvânt pentru a se implica sau nu în acte ostile - chiar sub pretextul apărării propriilor lor teritorii sau protejarea populațiilor pe care sunt programate să le protejeze - conflictele ar putea escalada mult mai repede decât au văzut vreodată oamenii. Săptămâni, luni sau chiar ani de postură și diplomație s-ar putea transforma în simple minute sau chiar secunde, cu rachetele care zboară înainte ca oamenii să poată chiar începe să intervină. Și atunci, desigur, există problema manipulării AI în moduri neprevăzute.
„Acestea vor fi arme de distrugere în masă”, spun oamenii de știință. „Un programator va putea controla o armată întreagă. Orice altă armă de distrugere în masă a fost interzisă: arme chimice, arme biologice, chiar arme nucleare. Trebuie să adăugăm arme autonome pe lista armelor care nu sunt acceptabile din punct de vedere moral. ”
