Un inventator principal al IA, Bengio spune „Acesta este scenariul Big Brother din 1984”. Bengio și colegii săi de știință tehnocrați ar fi trebuit să se gândească la acest mod înainte de acum, dar reflectă viziunea lor despre umanitate din partea Pollyanna. ⁃ Editor TN
Yoshua Bengio, un informatician canadian care a ajutat la pionierat în tehnicile care stau la baza multor emoții actuale în jurul inteligenței artificiale, este îngrijorat de utilizarea China de către AI pentru supraveghere și control politic.
Bengio, care este, de asemenea, co-fondator al companiei de software AI cu sediul în Montreal Element AI, a declarat că este îngrijorat de tehnologia pe care a ajutat-o să fie creată pentru a controla comportamentul oamenilor și a influența mintea lor.
„Acesta este scenariul Big Brother din 1984”, a spus el într-un interviu. „Cred că devine din ce în ce mai înfricoșător.”
Bengio, profesor la Universitatea din Montreal, este considerat unul dintre cei trei „nași” ai învățării profunde, alături de Yann LeCun și Geoff Hinton. Este o tehnologie care folosește rețele neuronale - un fel de software bazat pe aspecte ale creierului uman - pentru a face predicții pe baza datelor. Este responsabil pentru progresele recente în recunoașterea facială, procesarea limbajului natural, traducere și algoritmi de recomandare.
Învățarea profundă necesită o cantitate mare de date pentru a oferi exemple din care să învețe - dar China, cu vasta sa populație și sistemul său de evidență a statului, are multe din acestea.
Guvernul chinez a început să utilizeze camere video cu circuit închis și recunoașterea facială pentru a monitoriza ceea ce fac cetățenii săi în public, de la jaywalking la angajarea în disidență politică. De asemenea, a creat o platformă națională de partajare a informațiilor de credit, care este utilizată pentru a înscrie pe lista neagră pasagerii feroviari și aerieni pentru comportament „anti-social” și are în vedere extinderea utilizărilor acestui sistem în alte situații.
„Utilizarea feței tale pentru a te urmări ar trebui să fie foarte reglementată”, a spus Bengio.
Bengio nu este singurul preocupat de cazurile de utilizare ale AI pentru China. Miliardarul George Soros a folosit recent un discurs la Forumul Economic Mondial din 24, pentru a evidenția riscurile pe care utilizarea AI de către țară pentru libertățile civile și drepturile minorităților.
Spre deosebire de unii colegi, Bengio, care conduce Institutul Montreal pentru Învățarea Algoritmilor (Mila), a rezistat tentației de a lucra pentru o mare companie de tehnologie publicitară. El a spus că dezvoltarea responsabilă a AI poate necesita unele companii mari de tehnologie să modifice modul în care operează.
Cantitatea de date pe care o controlează marile companii tehnologice este, de asemenea, o preocupare. El a spus că crearea trusturilor de date - entități non-profit sau cadre legale în baza cărora oamenii dețin datele lor și care permit utilizarea acestora numai în anumite scopuri - ar putea fi o soluție. Dacă un trust ar deține suficiente date, ar putea negocia condiții mai bune cu marile companii de tehnologie care au nevoie de acestea, a spus el joi în timpul unei discuții la biroul Amnesty International UK din Londra.
wpDiscuz