Experți: Singura apărare împotriva AI criminală nu o dezvoltă

O analiză recentă asupra viitorului războiului indică faptul că țările care continuă să dezvolte AI pentru utilizare militară riscă să piardă controlul câmpului de luptă. Cei care nu riscă eradicarea. Fie că sunteți pentru sau împotriva cursei armelor AI: se întâmplă. Iată ce înseamnă asta, potrivit unui trio de experți.

Cercetatorii de la ASRC Federal, o companie privată care oferă sprijin pentru comunitățile de informații și apărare, și Universitatea din Maryland a publicat recent o lucrare pe serverul de presă arXivdiscutând posibilele ramificații ale integrării sistemelor de IA în războiul modern.

Hârtia - citește aici - se concentrează asupra consecințelor apropiate pentru cursa de armament AI, cu presupunerea că AI nu cumva a alerga amok sau preluare. În esență, este o privire scurtă, sobră și înfricoșătoare asupra modului în care toate aceste tehnologii diverse de învățare a mașinilor vor fi redate pe baza analizei tehnologiilor actuale de ultimă generație ale AI și a integrării prognozate.

Lucrarea începe cu un avertisment despre o catastrofă iminentă, care explică că va exista aproape cu siguranță un „accident normal”, referitor la AI - un incident preconizat de natură și domeniu pe care nu îl putem prezice. Practic, militarii lumii vor rupe câteva ouă civile, făcând omleta cu armă AI:

Studiul acestui domeniu a început cu accidente precum Insula Three Mile, dar tehnologiile AI includ riscuri similare. Găsirea și exploatarea acestor puncte slabe pentru a induce un comportament defect va deveni o caracteristică permanentă a strategiei militare.

Dacă te gândești ca roboți ucigași să o ducă în orașele noastre în timp ce civilii fug să strige după adăpost, nu te înșeli - dar roboții ca reprezentant pentru soldați nu reprezintă cea mai mare preocupare a umanității atunci când vine vorba de războiul AI. Acest referat discută ce se întâmplă după ce ajungem la punctul în care devine evident că oamenii rețin mașinile în război.

Potrivit cercetătorilor, problema nu este una pe care o putem considera la fel de bine și de rău. Sigur că este ușor să spunem că nu ar trebui să permitem roboților să ucidă oamenii cu autonomie, dar nu așa va funcționa procesul de luare a deciziilor pentru viitor.

Cercetătorii o descriu ca o pantă alunecoasă:

Dacă sistemele AI sunt eficiente, presiunea pentru creșterea nivelului de asistență la luptător ar fi inevitabilă. Succesul continuu ar însemna să-l alungăm treptat pe om din buclă, mai întâi la un rol de supraveghere și apoi la final la rolul de „operator de comutare”, care monitorizează o LEGE permanentă.

LEGILE, sau sistemele de arme autonome letale, vor crește aproape imediat dincolo de capacitatea oamenilor de a lucra cu computere și mașini - și probabil mai devreme decât cred majoritatea oamenilor. Lupta corp la corp între mașini, de exemplu, va fi complet autonomă prin necesitate:

De-a lungul timpului, pe măsură ce AI devine mai capabil să gândească reflectiv și integrativ, componenta umană va trebui eliminată cu totul, deoarece viteza și dimensionalitatea devin de neînțeles, contabilizând chiar asistența cognitivă.

Și, în cele din urmă, tactica și capacitatea de reacție necesară pentru a schimba loviturile cu AI vor depăși totalitatea oamenilor:

Având în vedere un spațiu de luptă atât de copleșitor încât oamenii nu se pot angaja manual cu sistemul, rolul uman se va limita la analiza criminalistică post-hoc, după ce ostilitățile au încetat sau vor fi semnate tratate.

Dacă acest lucru sună un pic sumbr, este pentru că este. La fel de Importați AI Jack Clark subliniază: „Aceasta este o lucrare rapidă care prezintă preocupările legate de AI + War dintr-o comunitate despre care nu auzim frecvent: oameni care lucrează ca furnizori direcți de tehnologie guvernamentală.”

S-ar putea să fie în interesul tuturor să acorde o atenție atentă modului în care atât cadrele universitare, cât și guvernul continuă să încadreze problema care urmează.

Citește povestea completă aici ...