Inteligența artificială și viitorul războiului

Rezumat din lucrare

• Atât roboții militari, cât și cei comerciali vor încorpora în viitor „inteligență artificială” (AI) care i-ar putea face capabili să își îndeplinească sarcini și misiuni pe cont propriu. În contextul militar, aceasta dă naștere unei dezbateri cu privire la faptul că acestor roboți ar trebui să li se permită să execute astfel de misiuni, în special dacă există posibilitatea ca orice viață umană să poată fi în joc.
• Pentru a înțelege mai bine problemele în discuție, această lucrare prezintă un cadru care explică stadiul actual al tehnologiei AI, punctele forte și punctele slabe ale tehnologiei și ceea ce va avea viitorul. Cadrul demonstrează că, în timp ce calculatoarele și AI pot fi superioare oamenilor în anumite sarcini bazate pe abilități și reguli, în situații care necesită judecată și cunoștințe, în prezența unei incertitudini semnificative, oamenii sunt superiori computerelor.
• În cadrul discuțiilor complexe privind dacă și cum ar trebui controlată dezvoltarea armelor autonome, trebuie să se ia în considerare pe piața comercială în expansiune rapidă atât pentru sistemele autonome, cât și pentru sol. Interzicerea unei tehnologii autonome de uz militar poate să nu fie practică, având în vedere că tehnologiile derivate sau superioare ar putea fi disponibile în sectorul comercial.
• O cursă de înarmare metaforică este în desfășurare în sfera comercială a dezvoltării sistemelor autonome, iar această schimbare în efortul și cheltuielile de cercetare și dezvoltare de la setările militare la cele comerciale este problematică. Dezvoltarea sistemelor autonome militare a fost lentă și incrementală, în cel mai bun caz, și se estompează în comparație cu progresele înregistrate în sistemele autonome comerciale, cum ar fi dronele, și în special în mașinile fără șofer.
• Într-o piață concurențială fierbinte pentru robotici cu înaltă calificare și ingineri înrudite din sectoarele cele mai interesate de AI, aerospațial și de apărare, unde finanțarea este cu mult depășită de cea a sectoarelor de automobile și informații și comunicații comerciale, este mai puțin atrăgătoare pentru cel mai capabil personal. Drept urmare, industria mondială a apărării se încadrează în spatele omologilor comerciali în ceea ce privește inovația tehnologică, decalajul se lărgind doar pe măsură ce cei mai buni și mai strălucitori ingineri se deplasează în sfera comercială.
• În ceea ce privește viitorul războiului, deoarece este legat de AI, actuala diferență actuală în cheltuielile comerciale versus militare de cercetare și dezvoltare pentru dezvoltarea sistemelor autonome ar putea avea un efect în cascadă asupra tipurilor și calității autonomiei care sunt încorporate în cele din urmă în sistemele militare. Un aspect critic în această privință este dacă companiile de apărare vor avea capacitatea de a dezvolta și testa sisteme autonome sigure și controlabile, în special cele care trag arme.
• Tehnologiile naționale, fără teste cuprinzătoare, ar putea pune atât personalul militar cât și civilii la riscuri nejustificate. Cu toate acestea, dezvoltarea rapidă a sistemelor autonome comerciale ar putea normaliza acceptarea sistemelor autonome pentru militari și public, iar acest lucru ar putea încuraja militarii de stat să finanțeze dezvoltarea unor astfel de sisteme la un nivel care să corespundă mai bine investițiilor în sisteme cu personal.