Oamenii de știință: nicio modalitate de a controla AI superinteligentă

De la autoturisme la computere care pot câștiga spectacole de jocuri, oamenii au o curiozitate naturală și un interes pentru inteligența artificială (AI). Cu toate acestea, pe măsură ce oamenii de știință continuă să facă mașinile mai inteligente și mai inteligente, unii se întreabă „ce se întâmplă atunci când computerele devin prea inteligente pentru binele lor?” De la „Matricea” la „Terminatorul”, industria divertismentului a început deja să se gândească dacă viitorii roboți vor amenința într-o zi rasa umană. Acum, un nou studiu concluzionează că este posibil să nu existe nicio modalitate de a opri creșterea mașinilor. O echipă internațională spune că oamenii nu ar putea împiedica inteligența super artificială să facă tot ce a vrut.

Oamenii de știință de la Centrul pentru oameni și mașini de la Institutul Max Planck au început să-și imagineze cum ar arăta o astfel de mașină. Imaginați-vă un program AI cu o inteligență mult superioară oamenilor. Atât de mult încât ar putea învăța de la sine fără o nouă programare. Dacă ar fi conectat la internet, cercetătorii spun că AI ar avea acces la toate datele umanității și ar putea chiar să preia controlul asupra altor mașini de pe glob.

Autorii studiului întreabă ce ar fi o astfel de inteligență face cu toată acea putere? Ar funcționa pentru a ne face viața mai bună? Și-ar dedica puterea de procesare soluționării problemelor precum schimbările climatice? Sau, ar arăta mașina preia viețile a vecinilor săi umani?

Controlați incontrolabilul? Pericolele inteligenței super artificiale

Atât programatorii de computere, cât și filozofii au studiat dacă există o modalitate de a împiedica o IA super-inteligentă să nu-și activeze creatorii umani; asigurându-se că viitoarele computere nu ar putea provoca daune proprietarilor lor. Noul studiu relevă, din păcate, că pare practic imposibil să menții o AI super-inteligentă în linie.

„O mașină superinteligentă care controlează lumea sună ca science fiction. Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate ", spune co-autorul studiului, Manuel Cebrian, liderul grupului de mobilizare digitală de la Centrul pentru oameni și mașini, într-un eliberare universitară.

Echipa internațională a analizat două moduri diferite de a controla inteligență artificială. Primul a limitat puterea superinteligenței prin zidirea acestuia și împiedicându-l să se conecteze la internet. De asemenea, nu s-a putut conecta la alte dispozitive tehnice din lumea exterioară. Problema cu acest plan este destul de evident; un astfel de computer nu ar fi capabil să facă mult din nimic pentru a ajuta efectiv oamenii.

A fi drăguț cu oamenii nu calculează

A doua opțiune s-a axat pe crearea unui algoritm care să dea principiilor etice supercomputerului. Acest lucru ar forța, sperăm, AI să ia în considerare interesul superior al umanității.

Studiul a creat un algoritm teoretic de izolare care ar împiedica AI să facă rău oamenilor în orice circumstanță. În simulări, AI ar înceta să funcționeze dacă cercetătorii ar considera acțiunile sale dăunătoare. În ciuda păstrării AI de la atingerea stăpânirii lumii, autorii studiului spun că acest lucru nu ar funcționa în lumea reală.

Citește povestea completă aici ...