S-a demonstrat deja că algoritmii AI prezintă prejudecățile creatorilor lor, deci de ce nu și intenții ucigătoare? Tehnocrații sunt atât de absorbiți de invențiile lor de la Pollyanna, încât nu pot vedea sfârșitul logic al existenței lor. ⁃ TN Editor
Soldații robotilor ucigași vor deveni atât de avansați încât și-ar putea dezvolta propriul cod moral pentru a sfida violent ordinele, susține un expert AI.
Dr. Ian Pearson, inginer de ex-cibernetică, prevede că ne îndreptăm spre un viitor mașini conștiente.
Dar dacă roboții sunt puși în acțiune de către puterile militare, futurologul avertizează că vor fi capabili să evoce propriul lor „punct de vedere moral”.
Și dacă o fac, fostul om de știință al rachetelor susține că s-ar putea întoarce împotriva oamenilor care îi trimit la luptă.
Dr. Pearson, care scrie bloguri pentru Futurizon, a declarat pentru Daily Star Online: „Pe măsură ce AI continuă să se dezvolte și în timp ce mergem pe drumul spre conștiință - și nu va fi un lucru peste noapte, dar treptat facem computerele mai mai sofisticat - la un moment dat le oferiți acces la educație morală, astfel încât să poată învăța ei înșiși moravurile.
„Le puteți oferi capacități de raționament și ar putea veni cu un cod moral diferit, care să le pună pe un piedestal mai înalt decât oamenii pe care ar trebui să îi servească.
Întrebat dacă acest lucru se poate dovedi fatal, el a răspuns: „Da, desigur.
„Dacă au controlul armelor și decid că sunt o ființă morală superioară oamenilor pe care ar trebui să-i păzească, ar putea lua decizii că anumite persoane ar trebui ucise pentru a proteja populația mai mare.
„Cine știe ce decizii ar putea lua?
„Dacă aveți un tip pe un câmp de luptă, care spune soldaților să împuște acest grup de oameni, indiferent de motiv, dar computerul crede altceva, computerul nu este convins de acesta, s-ar putea concluziona că soldatul care dă ordinele este cel mai rău infractor decât oamenii pe care încearcă să-i omoare, deci s-ar putea să se întoarcă și să-l omoare.
„Este complet posibil, depinde de modul în care sunt scrise sistemele.”
Avertismentul doctorului Pearson vine pe fondul îngrijorărilor tot mai mari cu privire la utilizarea roboților pe deplin autonomi în război.
Idiot. Se gândește vreodată la vreunul din aceste calculatoare la ceea ce spun? Adică gândește-l dincolo de vârful nasurilor lor.
Zicala, „mărturisind că sunt înțelepți, au devenit proști ...” are o mare relevanță aici.