Expert: Soldații AI vor dezvolta „busola morală” și vor sfida ordinele

Wikimedia Commons
Vă rugăm să împărtășiți această poveste!
image_pdfimage_print
S-a demonstrat deja că algoritmii AI prezintă prejudecățile creatorilor lor, deci de ce nu și intenții ucigătoare? Tehnocrații sunt atât de absorbiți de invențiile lor de la Pollyanna, încât nu pot vedea sfârșitul logic al existenței lor. ⁃ TN Editor

Soldații robotilor ucigași vor deveni atât de avansați încât și-ar putea dezvolta propriul cod moral pentru a sfida violent ordinele, susține un expert AI.

Dr. Ian Pearson, inginer de ex-cibernetică, prevede că ne îndreptăm spre un viitor mașini conștiente.

Dar dacă roboții sunt împușiți în acțiune de către puteri militare, futurologul avertizează că vor fi capabili să-și convingă propriul „punct de vedere moral”.

Și dacă o fac, fostul om de știință al rachetelor susține că s-ar putea întoarce împotriva oamenilor care îi trimit la luptă.

Dr Pearson, care face bloguri pentru Futurizon, a declarat pentru Daily Star Online: „Pe măsură ce AI continuă să se dezvolte și pe măsură ce ne îndreptăm pe drum spre conștiință - și nu va fi un lucru peste noapte, dar treptat facem computere mai mult și mai sofisticat - la un moment dat le oferiți acces la educația morală, astfel încât ei să învețe singuri moravurile.

„Le puteți oferi capacități de raționament și s-ar putea să vină cu un cod moral diferit, care îi pune pe un piedestal mai mare decât oamenii pe care se presupune că îi servesc.

Întrebat dacă acest lucru se poate dovedi fatal, el a răspuns: „Da, desigur.

„Dacă dețin controlul armelor și decid că sunt o ființă morală superioară decât oamenii pe care se presupune că îi păzeau, ei ar putea lua decizii că anumite persoane ar trebui ucise pentru a proteja populația mai mare.

„Cine știe ce decizii ar putea lua?

„Dacă aveți un tip pe un câmp de luptă, care le spune soldaților să împuște acest grup de oameni, indiferent de motiv, dar computerul crede că altfel, computerul nu este convins de acesta, ar putea concluziona că soldatul care dă ordinele este cel mai rău infractor. decât oamenii pe care încearcă să-l ucidă, deci ar putea să se întoarcă și să-l omoare în schimb.

"Este complet posibil, depinde de modul în care sunt scrise sistemele."

Avertismentul dr. Pearson vine pe fondul preocupărilor tot mai mari de roboți complet autonomi care sunt folosiți în război.

Citește povestea completă aici ...

Alătură-te listei noastre de mail!


Technocracy.News este numai site web de pe Internet care raportează și critică tehnocrația. Vă rugăm să luați un minut pentru a susține activitatea noastră despre Patreon!
Avatar
6 Subiecte de comentariu
0 Răspunsuri la răspunsuri
0 Urmaritori
Cel mai comentat comentariu
Cea mai tare comentariu
1 Autorii comentariilor
Pyra Autorii comentariilor recente
Abonează-te la canal
cele mai noi cele mai vechi cel mai votat
Anunță-mă
Trackback

[...] multe povești online, cum ar fi aceasta nouă de la Technocracy la care Steve Quayle s-a legat luni de dimineață pe site-ul său, avertizează despre pericolele artificiale [...]

Trackback

[…] Modul în care republicanii au deteriorat 2nd Amendamentul - 12 Armele de foc Articole pe care ar trebui să le citiți Expert: Soldații AI vor dezvolta „Compas morală” și sfidează ordinele - algoritmii „AI” prezintă ... Studiul prevede sfârșitul șocului umanității: Omenirea nu va reuși pereche ca antisocial [...]

Trackback

[…] Soldații roboți ucigași vor deveni atât de avansați încât și-ar putea dezvolta propriul cod moral pentru a sfida violent ordinele, susține un expert AI. Dr. Ian Pearson, inginer de ex-cibernetică, prevede că ne orientăm către un viitor al mașinilor conștiente. Dar dacă roboții sunt împușiți în acțiune de către puteri militare, futurologul avertizează că vor fi capabili să-și convingă propriul „punct de vedere moral”. Și dacă o fac, fostul om de știință rachetă susține că s-ar putea întoarce împotriva oamenilor care îi trimit la luptă ... (CITEȘTE MAI MULTE) [...]

Pyra
Oaspete
Pyra

Idiot. Se gândește vreodată la vreunul din aceste calculatoare la ceea ce spun? Adică gândește-l dincolo de vârful nasurilor lor.

Zicala, „mărturisindu-se că sunt înțelepți, au devenit nebuni…” are foarte multă relevanță aici.

Trackback

[...] Expert: Soldații AI vor dezvolta „busola morală” și vor sfida comenzile […]