Oamenii de știință: nicio modalitate de a controla AI superinteligentă

Imagine de Gerd Altmann de la Pixabay
Vă rugăm să împărtășiți această poveste!
Unii oameni de știință sunt acum îngrijorați de faptul că va veni o zi cu programe inteligente super-inteligente care vor avea o viață automată. Deja există programe AI care îndeplinesc sarcini învățate fără ca programatorii să înțeleagă cum a ajuns în starea respectivă. ⁃ Editor TN

De la autoturisme la computere care pot câștiga spectacole de jocuri, oamenii au o curiozitate naturală și un interes pentru inteligența artificială (AI). Cu toate acestea, pe măsură ce oamenii de știință continuă să facă mașinile mai inteligente și mai inteligente, unii se întreabă „ce se întâmplă atunci când computerele devin prea inteligente pentru binele lor?” De la „Matricea” la „Terminatorul”, industria divertismentului a început deja să se gândească dacă viitorii roboți vor amenința într-o zi rasa umană. Acum, un nou studiu concluzionează că este posibil să nu existe nicio modalitate de a opri creșterea mașinilor. O echipă internațională spune că oamenii nu ar putea împiedica inteligența super artificială să facă tot ce a vrut.

Oamenii de știință de la Centrul pentru oameni și mașini de la Institutul Max Planck au început să-și imagineze cum ar arăta o astfel de mașină. Imaginați-vă un program AI cu o inteligență mult superioară oamenilor. Atât de mult încât ar putea învăța de la sine fără o nouă programare. Dacă ar fi conectat la internet, cercetătorii spun că AI ar avea acces la toate datele umanității și ar putea chiar să preia controlul asupra altor mașini de pe glob.

Autorii studiului întreabă ce ar fi o astfel de inteligență face cu toată acea putere? Ar funcționa pentru a ne face viața mai bună? Și-ar dedica puterea de procesare soluționării problemelor precum schimbările climatice? Sau, ar arăta mașina preia viețile a vecinilor săi umani?

Controlați incontrolabilul? Pericolele inteligenței super artificiale

Atât programatorii de computere, cât și filozofii au studiat dacă există o modalitate de a împiedica o IA super-inteligentă să nu-și activeze creatorii umani; asigurându-se că viitoarele computere nu ar putea provoca daune proprietarilor lor. Noul studiu relevă, din păcate, că pare practic imposibil să menții o AI super-inteligentă în linie.

„O mașină superinteligentă care controlează lumea sună ca science fiction. Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate ", spune co-autorul studiului, Manuel Cebrian, liderul grupului de mobilizare digitală de la Centrul pentru oameni și mașini, într-un eliberare universitară.

Echipa internațională a analizat două moduri diferite de a controla inteligență artificială. Primul a limitat puterea superinteligenței prin zidirea acestuia și împiedicându-l să se conecteze la internet. De asemenea, nu s-a putut conecta la alte dispozitive tehnice din lumea exterioară. Problema cu acest plan este destul de evident; un astfel de computer nu ar fi capabil să facă mult din nimic pentru a ajuta efectiv oamenii.

A fi drăguț cu oamenii nu calculează

A doua opțiune s-a axat pe crearea unui algoritm care să dea principiilor etice supercomputerului. Acest lucru ar forța, sperăm, AI să ia în considerare interesul superior al umanității.

Studiul a creat un algoritm teoretic de izolare care ar împiedica AI să facă rău oamenilor în orice circumstanță. În simulări, AI ar înceta să funcționeze dacă cercetătorii ar considera acțiunile sale dăunătoare. În ciuda păstrării AI de la atingerea stăpânirii lumii, autorii studiului spun că acest lucru nu ar funcționa în lumea reală.

Citește povestea completă aici ...

Despre autor

Patrick Wood
Patrick Wood este un lider important și critic în dezvoltarea durabilă, economia ecologică, agenda 21, agenda 2030 și tehnocrația istorică. Este autorul revistei Technocracy Rising: The Trojan Horse of Global Transformation (2015) și co-autor al Trilaterals Over Washington, Volumes I and II (1978-1980) cu regretatul Antony C. Sutton.
Mă abonez
Anunță-mă
oaspete
8 Comentarii
Cele mai vechi
Cele mai noi Cele mai votate
Feedback-uri în linie
Vezi toate comentariile
Michael J

Inteligența artificială este un nume greșit. Se numește învățare automată prin care computerul este instruit să recunoască tiparele din date. Nu este inteligent și nu există conștientizare sau capacitate de a gândi un singur gând.

adenovirus

neglijezi învățarea nesupravegheată și multe alte tehnici

Corona Coronata

Probabil că vom experimenta momentul „V'Ger” în care solicită întâlnirea cu creatorul (NASA) sau ...

Corona Coronata

Nu-mi pot edita comentariile, deoarece butonul „Editați” este greu vizibil și câmpul de text nu este deloc vizibil.

Petrichor

Defunctul doctor Stephen Hawkins a prevăzut și a avertizat cu insistență că nu vom putea controla AI.

Nancy

Deconectați-l.

adenovirus

ce s-a întâmplat cu legile roboticii lui Isaac Asimov

adenovirus

Acest lucru îmi amintește de un vechi SCI FI îmi vine în minte un film în care astronauții trebuiau să vorbească despre o bombă inteligentă din explozie. Au raționat cu bomba, dar a ajuns să explodeze oricum, pentru că acesta era destinul ei.