Militarii care creează sisteme de arme AI vor fi „dezlegate”

Videoclipul este clar. Doi bărbați amenințătoare stau lângă o dubă albă într-un câmp, ținând telecomenzi. Deschid ușile din spate ale furgonetei și sunetul plâns al dronelor quadcopter crescendos. Ridică un întrerupător, iar dronele se învârt ca niște lilieci dintr-o peșteră. În câteva secunde, am intrat într-o sală de facultate. Roboții ucigași inundă prin ferestre și guri de aerisire. Studenții țipă îngroziți, prinși înăuntru, în timp ce dronele atacă cu forță mortală. Lecția pe care filmul, Slaughterbots, încearcă să transmită este clar: mici roboți ucigași sunt fie aici, fie la un mic avans tehnologic. Teroriștii le-ar putea desfășura cu ușurință. Și apărările existente sunt slabe sau inexistente.

Unii experți militari au susținut că Slaughterbots - care a fost realizat de Future of Life Institute, o organizație care cercetează amenințări existențiale umanității - a senzaționalizat o problemă gravă, provocând frică acolo unde era necesară o reflecție calmă. Dar când vine vorba de viitorul războiului, linia dintre science fiction și fapt industrial este adesea neclară. Forțele aeriene americane au prezis un viitor în care „echipele SWAT vor trimite insecte mecanice echipate cu camere video pentru a se strecura în interiorul unei clădiri în timpul unui ostatic”. Un „microsistem colaborativ” a lansat deja Octoroach, un „robot extrem de mic, cu o cameră și un transmițător radio care poate acoperi până la 100 de metri pe sol”. Este doar unul dintre multele „biomimetice”, Sau arme care imită natura, care se află la orizont.

Cine știe câte alte creaturi nocive sunt acum modele pentru teoreticienii militari de avangardă. Un roman recent al lui PW Singer și August Cole, situat într-un viitor apropiat în care SUA este în război cu China și Rusia, a prezentat o viziune caleidoscopică a dronelor autonome, a laserelor și a sateliților deturnate. Cartea nu poate fi anulată ca o fantezie tehnico-militară: include sute de note de subsol care documentează dezvoltarea fiecărei piese hardware și software pe care o descrie.

Progresele în modelarea mașinilor robotizate de ucidere nu sunt mai puțin deranjante. O poveste de science fiction rusă din anii 60, Crabs on the Island, a descris un fel de Jocuri ale foamei pentru AI, în care roboții se luptau între ei pentru resurse. Pierdătorii ar fi renunțați și câștigătorii ar genera, până când unii vor evolua pentru a fi cele mai bune mașini de ucis. Când un informatician de frunte a menționat un scenariu similar cu Agenția SUA pentru proiecte de cercetare avansată (Darpa), numindu-l „robot Jurassic Park”, un lider de acolo l-a numit „fezabil”. Nu este nevoie de multă reflecție pentru a realiza că un astfel de experiment are potențialul de a scăpa de sub control. Cheltuielile sunt principalul impediment pentru o mare putere care experimentează astfel de mașini potențial distructive. Modelarea software poate elimina chiar și această barieră, permițând simulări virtuale testate în luptă pentru a inspira investiții militare viitoare.

În trecut, statele naționale s-au reunit pentru a interzice armele noi deosebit de groaznice sau terifiante. Până la mijlocul secolului al XX-lea, convențiile internaționale interziceau armele biologice și chimice. Comunitatea națiunilor a interzis utilizarea tehnologie laser orbitoare, de asemenea. O rețea robustă de ONG-uri a cerut ONU cu succes să convoace statele membre pentru a conveni asupra unei interdicții similare asupra roboților ucigași și a altor arme care pot acționa singure, fără control uman direct, pentru a distruge o țintă (cunoscută și sub numele de sisteme de arme autonome letale) , sau Legi). Și, deși a existat dezbateri cu privire la definiția unei astfel de tehnologii, ne putem imagina cu toții niște tipuri de arme deosebit de îngrozitoare pe care toate statele ar trebui să fie de acord să nu le fabrice sau să le desfășoare niciodată. O dronă care treptat soldați inamici încălziți până la moarte ar încălca convențiile internaționale împotriva torturii; armele sonore concepute pentru a distruge auzul sau echilibrul unui inamic ar trebui să merite un tratament similar. O țară care a proiectat și a folosit astfel de arme ar trebui să fie exilată din comunitatea internațională.

Pe scurt, putem fi de acord că ostracismul - și pedeapsa mai severă - sunt meritate și pentru proiectanții și utilizatorii de roboți ucigași. Însăși ideea unei mașini libere de sacrificare este îngrozitoare. Și totuși, unii dintre cei mai mari militari din lume par să se strecoare spre dezvoltarea unor astfel de arme, urmărind o logică de descurajare: se tem să fie zdrobiți de AI rivalilor, dacă nu pot dezlănțui o forță la fel de puternică. Cheia pentru rezolvarea unei astfel de curse de înarmare intratabile poate sta mai puțin în tratatele globale decât într-o regândire avertismentă pentru ce ar putea fi folosită AI marțială. La fel de "războiul vine acasă”, Desfășurarea forței militare în țări precum SUA și China este un avertisment puternic pentru cetățenii lor: orice tehnologii de control și distrugere pe care le permiteți guvernului dvs. să le cumpere pentru a fi utilizate în străinătate acum, ar putea fi folosite împotriva dumneavoastră în viitor.

Citește povestea completă aici ...