CEO-ul OpenAI, Altman, sună alarmă asupra AI și ChatGPT

CEO-ul OpenAI, Sam Altman, și Fang Bingxing – considerat „părintele Marelui Firewall al Chinei”, se alătură co-fondatorului OpenAI, Elon Musk, pentru a-și exprima îngrijorările cu privire la pericolele inteligenței artificiale (AI).

„Trebuie să fim atenți aici”, a spus Altman, în vârstă de 37 de ani ABC News săptămâna trecută, adăugând „Cred că oamenii ar trebui să fie fericiți că ne este puțin frică de asta”.

„Sunt deosebit de îngrijorat că aceste modele ar putea fi folosite pentru dezinformarea pe scară largă... Acum că sunt din ce în ce mai bune la scrierea codului computerului, [ele] ar putea fi folosite pentru atacuri cibernetice ofensive.”

Acestea fiind spuse, Altman crede, de asemenea, că ar putea fi „cea mai mare tehnologie pe care umanitatea a dezvoltat-o ​​până acum”.

OpenAI este compania din spatele Chat GPT, care a lansat „GPT-4” în urmă cu mai puțin de două săptămâni. Chatbot-ul extrem de sofisticat poate ajunge la scoruri aproape perfecte la testele de matematică SATși obțineți 90% la examenul de baro din SUA.

Și are concurenți...

Alte startup-uri bazate pe AI fac progrese surprinzătoare și în domeniu. RAD AI a lansat recent prima platformă de marketing AI creată pentru a înțelege emoția, iar unele dintre cele mai mari companii de pe planetă o folosesc deja.

GenesisAI este un startup care construiește o piață pentru a permite oricărei companii să integreze AI și automatizarea în afacerea lor. Adică, în curând AI ar putea fi la fel de parte integrantă a unei afaceri ca și angajații înșiși. –Benzinga

Potrivit lui Altman, însă, ChatGPT-4 folosește raționamentul deductiv vs. memorare, ceea ce poate duce la rezultate inexacte.

„Lucrul de care încerc să avertizez oamenii cel mai mult este ceea ce numim „problema halucinațiilor””, a spus Altman. ABC News. „Modelul va afirma cu încredere lucrurile ca și cum ar fi fapte (dar ele) sunt în întregime inventate.”

se gândeşte Altman este nevoie de reglementare de AI în general.

„Vor fi alți oameni care nu pun unele dintre limitele de siguranță pe care le punem noi”, a spus el. „Cred că societatea are o perioadă limitată de timp pentru a-și da seama cum să reacționeze la asta, cum să reglementeze asta, cum să o gestioneze.”

De asemenea, îngrijorat de GPT-4 și AI similare este Fang Bingxing, tatăl așa-numitului Great Firewall din China.

Potrivit lui Fang, astfel de chatbot pot duce la un „cocon informațional” (spre deosebire de fluxul liber al informațiilor din China?)

„Perspectivele oamenilor pot fi manipulate în timp ce ei caută tot felul de răspunsuri de la AI”, a declarat el pentru Red Star News, o afiliată mass-media a Chengdu Economic Daily, susținută de stat, după cum a raportat. SCMP.

Fang, un informatician și fost oficial guvernamental, este considerat pe scară largă proiectantul șef al renumitului sistem de cenzură și supraveghere a internetului din China. El a jucat un rol cheie în crearea și dezvoltarea Great Firewall, un sistem sofisticat de filtre și blocuri de internet care permite guvernului chinez să controleze ceea ce cetățenii săi pot accesa online.

Marele Firewall a fost fortificat în ultimul deceniu, blocând accesul internauților chinezi la o gamă largă de site-uri web și servicii online străine, inclusiv Facebook, Twitter și Google. -SCMP

Fang a avertizat, de asemenea, că atunci când AI evoluează în continuare, ar putea reprezenta o amenințare pentru umanitate.

„Acum este pur și simplu un software folosit într-un scenariu asemănător unui chat online. Dacă este încorporat în roboți și mașini, trebuie să rămânem vigilenți pentru potențialul rău pe care l-ar putea face oamenilor.”

Citește povestea completă aici ...