Au dezvoltatorii de AI dreptul de a exploata întregul internet pentru proiectele lor de „învățare”? Date personale? Date de sănătate” Date protejate prin drepturi de autor” Date private și criptate? Tehnocrații nu au limite etice în trecerea tuturor datelor din lume, protejate sau nu. Dar, au făcut-o deja.⁃ TN Editor
Comisia Federală pentru Comerț a lansat joi o investigație privind practicile de afaceri ale OpenAI și platforma sa ChatGPT cu privire la problemele de confidențialitate și prejudiciul consumatorilor. Mulți observatori din industrie aplaudă mișcarea, dar sunt îngrijorați de faptul că eforturile de reglementare ar putea fi prea slabe sau prea târziu.
Comisia Federală pentru Comerț (FTC) joi a lansat o investigație în OpenAI, dezvoltatorul popularei platforme de inteligență artificială (AI) ChatGPT, invocând îngrijorări legate de încălcările confidențialității, practicile de colectare a datelor și publicarea de informații false despre persoane.
Ancheta FTC urmărește să stabilească dacă OpenAI a încălcat legile privind protecția consumatorilor.
FTC a informat OpenAI despre investigația iminentă în a scrisoare de 20 pagini companiei la începutul acestei săptămâni, în ce New York Times descrisă drept „cea mai puternică amenințare de reglementare de până acum la adresa afacerii OpenAI din Statele Unite”.
Scrisoarea solicită OpenAI să răspundă la o serie de întrebări despre practicile sale de afaceri și de securitate și să furnizeze numeroase documente și alte detalii interne ale companiei. Compania a avut 14 zile pentru a răspunde.
Sam Altman, CEO al OpenAI, și-a postat pe Twitter dezamăgirea față de știri, dar a spus că compania sa va colabora cu agenția.
este foarte dezamăgitor să vezi că cererea FTC începe cu o scurgere și nu ajută la construirea încrederii.
Acestea fiind spuse, este foarte important pentru noi ca tehnologia să fie sigură și pro-consumator și suntem încrezători că respectăm legea. bineînțeles că vom lucra cu FTC.
Potrivit Washington Post, „Dacă FTC constată că o companie încalcă legile privind protecția consumatorilor, poate percepe amenzi sau poate supune o afacere sub un decret de consimțământ, care poate dicta modul în care compania gestionează datele”.
Eleanor Fox, LL.B., a declarat un profesor de drept emerit la Universitatea din New York și expert în domeniul antitrust Aparatorul acțiunea FTC este un pas pozitiv:
„Deschiderea de către FTC a unei investigații asupra OpenAI pare a fi o mișcare importantă și exact ceea ce ar trebui să facă FTC. Cei mai mulți sunt de acord că ar trebui reglementat – inclusiv OpenAI în sine.
„Aspectele legate de consum și concurență sunt foarte legate. Prima reducere aici este în mod logic protecția consumatorului.”
Cu toate acestea, alți observatori legali și analiști Big Tech au spus că ancheta ar putea dura mai multe luni și afirmă că rămâne departe de a fi sigur că OpenAI se va confrunta în cele din urmă cu orice sancțiuni.
W. Scott McCollough, un avocat din Austin pentru internet și telecomunicații, a declarat pentru The Defender:
„Nu am încredere în FTC că va face foarte mult bine. De obicei, ei ajung să binecuvânteze modele de afaceri intruzive sau dăunătoare, schimbând marginile sau cerând dezvăluirea practicii dăunătoare atunci când întreaga întreprindere ar trebui eliminată.
„Așa a început toată chestia cu capitalismul de supraveghere cu ceva timp în urmă. Și acum este prea târziu.”
„AI reprezintă pericole pentru public în principal pentru că este creată de monopoluri sau aproape de monopoluri. Dar reglementarea guvernamentală nu este răspunsul. Dacă autoritățile de reglementare și legiuitorii de stânga își vor face drumul, AI va curata realitatea folosind criterii „trezite” și va face realitatea să dispară altfel.
„Răspunsul este o concurență mai mare. Concurența i-ar obliga pe producătorii de inteligență artificială să protejeze confidențialitatea, să protejeze indivizii de calomnia automată și să reprezinte realitatea mai degrabă decât ficțiunea fantezie de stânga.”
Scrisoarea FTC a venit în aceeași săptămână, președintele agenției, Lina Khan, cu întrebări din partea liderilor republicani. Comitetul Judiciar al Camerei peste câteva alte acțiuni antitrust și de reglementare eșuate împotriva firmelor Big Tech.
Acuzații de „practici înșelătoare”, „vătămare reputațională” pentru indivizi
Plângerea CAIDP a afirmat că OpenAI nu a respectat liniile directoare ale FTC conform cărora AI ar trebui să fie „transparentă, explicabilă, corectă și solidă din punct de vedere empiric în timp ce promovează responsabilitatea” și a spus că OpenAI însuși a recunoscut o serie de pericole potențiale, inclusiv „operațiuni de dezinformare și influență” și „ proliferarea armelor convenționale și neconvenționale.”
CAIDP a cerut FTC să blocheze OpenAI să lanseze noi ediții comerciale ale platformei sale ChatGPT „până când sunt stabilite balustrade” pentru a aborda problemele legate de părtinire, dezinformare și securitate. Scrisoarea s-a bazat pe declarațiile „experților AI” care au cerut o „pauză asupra modelelor de limbaj mari” utilizate în AI.
CAIDP și-a escaladat plângerea pe 7 iulie, acuzând OpenAI de „practici neloiale și înșelătoare” și „preocupări crescânde cu privire la implicațiile etice și nevoile de reglementare” ale produselor AI precum ChatGPT.
Potrivit Postului, pe lângă plângerea CAIDP, au existat și alte acuzații de vătămare împotriva OpenAI și ChatGPT.
Postul a raportat că prezentatorul emisiunii radio din Georgia, Mark Walters, a dat în judecată OpenAI pentru defăimare, pretinzând că chatbot-ul a susținut în mod fals că a fraudat și deturnat fonduri de la Fundația al doilea amendament. Walters a depus a proces împotriva OpenAI.
In un alt exemplu, ChatGPT a spus că un avocat „a făcut comentarii sugestive sexual și a încercat să atingă un student într-o excursie de clasă în Alaska, citând un articol despre care spunea că a apărut în The Washington Post”.
Cu toate acestea, „nu a existat un astfel de articol, excursia de clasă nu a avut loc niciodată și avocatul a spus că nu a fost acuzat niciodată că a hărțuit un student”, potrivit Post.
În consecință, FTC a cerut OpenAI să furnizeze detalii despre toate plângerile pe care le-a primit cu privire la produsele sale care făceau declarații „false, înșelătoare, disprețuitoare sau dăunătoare” despre oameni, care ar fi putut duce la „daune reputaționale”.
Probleme de securitate investigate
FTC va examina, de asemenea, dacă OpenAI „s-a implicat în practici neloiale sau înșelătoare de confidențialitate sau de securitate a datelor sau s-a implicat în practici neloiale sau înșelătoare legate de riscurile de vătămare a consumatorilor”.
FTC caută înregistrări referitoare la o încălcare a datelor din martie, în cazul în care o eroare în sistemul ChatGPT a dezvăluit istoricul de chat al anumitor utilizatori, date de identificare personală și informații financiare.
La acea vreme, OpenAI a susținut doar un „extrem de scăzut” au fost afectați numărul de utilizatori.
FTC solicită OpenAI să predea orice cercetare, sondaj sau rezultate ale testelor care evaluează cât de bine înțeleg consumatorii „precizia sau fiabilitatea rezultatelor” generate de instrumentele sale AI și despre datele pe care OpenAI le folosește pentru a-și instrui produsele.
Postul notează că produse precum ChatGPT „imită vorbirea umană prin ingerarea textului, în mare parte extras de pe Wikipedia, Scribd și alte site-uri de pe web deschis”, dar că aceste modele au, de asemenea, „tendința de a”halucinați„” prin „inventând răspunsuri atunci când modelele nu știu răspunsul la o întrebare”.
McCollough a declarat pentru The Defender că practicile precum „halucinația” reprezintă o amenințare la adresa confidențialității tuturor utilizatorilor online:
„Companiile de tehnologie își afirmă adesea dreptul de a răzui totul pe internet, chiar și materialele personale sau protejate prin drepturi de autor. Așadar, cineva care crede că a postat ceva privat sau nepublicat în general poate obține însușirea lui.”
În cele din urmă, FTC solicită detalii despre modul în care OpenAI își face publicitate produselor, cum evaluează siguranța și fiabilitatea noilor produse și cât de des întârzie OpenAI un produs nou din cauza problemelor de siguranță.
Potrivit Times, „Investigația ar putea forța OpenAI să-și dezvăluie metodele de construire a ChatGPT și sursele de date pe care le folosește pentru a-și construi sistemele AI”, adăugând că „Deși OpenAI a fost mult timp destul de deschis cu privire la astfel de informații, mai recent a spus puțin despre unde provin datele pentru sistemele sale AI.”
Nu este clar dacă vor urma sancțiuni împotriva OpenAI
În ciuda numeroaselor acuzații împotriva OpenAI, rezultatul acestei investigații este departe de a fi sigur. Potrivit Times, „Investigația FTC asupra OpenAI poate dura multe luni și nu este clar dacă va duce la vreo acțiune din partea agenției. Asemenea investigații sunt private și includ adesea depoziții ale directorilor de top ale corporațiilor.”
Megan Gray, un fost membru al personalului Biroului pentru Protecția Consumatorului din cadrul FTC, a declarat pentru Times „FTC nu are personal cu expertiză tehnică pentru a evalua răspunsurile pe care le vor primi și pentru a vedea cum OpenAI poate încerca să umbrească adevărul”.
Analiștii din industrie au pus la îndoială autoritatea FTC de a impune acțiuni împotriva OpenAI. Adam Kovacevich, fondatorul și directorul general al Camerei de Comerț a industriei tehnologice, a declarat pentru Post că agenția ar putea să nu aibă autoritatea pentru „defăimarea poliției sau conținutul rezultatelor ChatGPT”.
Cu toate acestea, „Investigația FTC reprezintă prima amenințare majoră de reglementare din SUA pentru OpenAI, una dintre cele mai cunoscute companii AI, și semnalează că tehnologia poate fi din ce în ce mai atentă, pe măsură ce oamenii, întreprinderile și guvernele folosesc mai multe produse bazate pe AI”, a declarat. timpurile.
Preocupări recente cu privire la tehnologia AI
În iunie, Senatorul Chuck Schumer (DN.Y.) a cerut o „legislație cuprinzătoare” pentru a crea „o nouă bază pentru politica AI”, afirmând:
„Sarcinile cu calificare redusă vor continua să cadă victima automatizării într-un ritm din ce în ce mai rapid – înlocuind milioane de lucrători cu venituri mici, mulți din comunitățile de culoare. Camioanele, producția, producția de energie ar putea fi următoarele. Și fiți siguri că nici cei cu studii universitare și diplome avansate nu vor fi în siguranță.”
Altman însuși a spus că Industria AI trebuie reglementată. În mărturia sa în fața Congresului din mai, el a spus: „Cred că dacă această tehnologie merge prost, poate merge destul de prost. Vrem să lucrăm cu guvernul pentru a preveni acest lucru”.
La aceeași audiere, Altman a spus că ar fi important ca „guvernul să-și dea seama cum vrem să atenuăm” potențialele pierderi de locuri de muncă care ar putea rezulta din implementarea largă a tehnologiei AI.
Autoritățile de reglementare din alte țări au luat deja măsuri împotriva companiilor AI
Unele țări iau deja măsuri pentru a reglementa IA.
În luna martie, Italia s-a oprit temporar Operațiunile ChatGPT din cauza preocupărilor legate de confidențialitatea datelor.
UE, Brazilia, China, Japonia, Canada, India și Elveția lucrează, de asemenea, la elaborarea de reglementări pentru industria AI, potrivit firmei de avocatură. TaylorWessing.
Este posibil ca astfel de măsuri luate de autoritățile de reglementare din alte țări să fi determinat FTC să ia măsuri. Potrivit Times, „FTC acționează asupra AI cu o viteză notabilă, deschizând o investigație la mai puțin de un an după ce OpenAI a introdus ChatGPT”.
In aprilie, Samuel Levine, directorul Biroului pentru Protecția Consumatorului al FTC, a declarat că agenția este pregătită să răspundă „agilă” la amenințările emergente reprezentate de AI, adăugând că, în timp ce FTC „ salută inovația... a fi inovator nu este o licență pentru a fi imprudent”.
„Suntem pregătiți să folosim toate instrumentele noastre, inclusiv aplicarea legii, pentru a contesta practicile dăunătoare în acest domeniu”, a spus Levine.
Anterior, într-o postare pe blog din februarie, FTC a avertizat companiile AI că „Agenții de marketing ar trebui să știe că – în scopul aplicării FTC – afirmațiile false sau nefondate despre eficacitatea unui produs sunt painea noastră.”
Președintele FTC Khan, care și-a câștigat reputația de a Big Tech sceptic, s-a adresat AI în timpul unei conferințe de presă a administrației Biden din aprilie, în timpul căreia a spus: „Nu există nicio scutire de AI de la legile din cărți”, potrivit Post.
În 2017, Khan a publicat o lucrare juridică în Yale Law Journal, care o caracteriza Amazon ca monopolist modern a căror putere de piață necesita „adresare”. În aceeași lucrare, ea a argumentat în favoarea restabilirii „politicii tradiționale antitrust și concurență” pentru Big Tech.
Într-un 3 mai eseu invitat publicat în Times, Khan a spus că, deși instrumentele AI „sunt noi, ele nu sunt scutite de regulile existente, iar FTC va aplica cu fermitate legile cu care suntem însărcinați să le administrăm, chiar și pe această nouă piață”, adăugând că „În timp ce tehnologia se mișcă rapid, putem vedea deja mai multe riscuri.”
„ChatGPT și unele dintre aceste alte servicii sunt alimentate cu o mulțime de date. Nu există verificări cu privire la ce tip de date sunt introduse în aceste companii”, a spus ea la audiere, adăugând că au existat rapoarte despre „informații sensibile” ale oamenilor care apar în rezultatele furnizate de instrumentul AI.
În ultimele luni, FTC a aplicat unele acțiuni împotriva firmelor Big Tech pentru practici înșelătoare ale consumatorilor.
Cu toate acestea, la audierea de joi, Khan a fost la grătar peste ea eșecurile agenției, inclusiv un judecător federal care a oprit încercarea FTC de a opri achiziția Activision de către Microsoft, în valoare de 70 de miliarde de dolari. Luna precedentă, FTC s-a confruntat cu o altă înfrângere a instanței, când un judecător a blocat eforturile FTC de a opri achiziția de către Meta a companiei de aplicații de realitate virtuală Within.
Rep. Jim Jordan (R-Ohio), președintele Comitetului Judiciar al Camerei, a declarat că „FTC nu a respectat în totalitate nicio cerere de documente din partea acestei comisii și, din cauza gestiunii ei proaste, nici măcar personalul ei nu este impresionat de conducerea președintelui Khan”. citând sondaje interne FTC care arată o nemulțumire tot mai mare a personalului.
Iar reprezentantul Kevin Kiley (R-Calif.) l-a întrebat pe Khan în timpul audierii de joi „Acum sunteți 0 pentru 4 în procesele de fuziune. De ce pierzi atât de mult?”
Întrebări fără răspuns despre riscurile pe care IA le prezintă pentru țesutul social
Ceea ce părea să lipsească atât din retorica FTC, cât și din întrebările primite de Khan la audiere, au fost riscurile mai ample pe care IA le poate prezenta pentru țesutul social.
Potrivit analistului și activistului Charles Hugh Smith, „AI elimină locurile de muncă care nu sunt înlocuite de un val masiv de noi locuri de muncă, un proces cunoscut sub numele de înlocuirea tehnologică a locurilor de muncă.”
Smith a scris că este „sceptic față de afirmațiile conform cărora zeci de milioane de locuri de muncă vor fi pierdute din cauza LLM [modelul de limbă mare] sau a AI prin învățarea automată” și că astfel de instrumente AI pot „spori productivitatea lucrătorilor umani calificați, mai degrabă decât să înlocuiască în totalitate. " lor.
Cu toate acestea, răspunzând la afirmațiile potrivit cărora noile tehnologii pot chiar crea mult mai multe locuri de muncă decât elimină, Smith a scris: „Dovezile nu sunt de fapt atât de clare că această nouă creare de locuri de muncă este previzibilă”.
Drept urmare, „Am putea descoperi că AI oferă cel mai rău din ambele lumi: reduce profiturile pe măsură ce toată lumea se încarcă cu costurile mai mari ale AI, dar fără niciun avantaj competitiv de durată care să susțină prețuri și profituri mai mari și înlocuiește ramuri largi de forța umană care nu este înlocuită cu noi sectoare care generează zeci de milioane de noi locuri de muncă.”
„Există o buclă de feedback cu privire la pierderile de locuri de muncă care nu sunt înlocuite”, a adăugat Smith, citându-l pe economistul John Maynard Keynes.
„Când oamenii își pierd venitul câștigat și depind de șomaj sau, eventual, de venitul de bază universal (UBI), venitul lor este de obicei mai mic și nu mai pot să cheltuiască și să consume la fel de mult ca atunci când aveau un loc de muncă. Întreaga economie se micșorează.”
Patrick Wood este un lider important și critic în dezvoltarea durabilă, economia ecologică, agenda 21, agenda 2030 și tehnocrația istorică. Este autorul revistei Technocracy Rising: The Trojan Horse of Global Transformation (2015) și co-autor al Trilaterals Over Washington, Volumes I and II (1978-1980) cu regretatul Antony C. Sutton.
[…] Citește mai mult: Prea puțin, prea târziu! FTC abordează în sfârșit ChatGPT, confidențialitate, securitate […]
[…] Citește mai mult: Prea puțin, prea târziu! FTC abordează în sfârșit ChatGPT, confidențialitate, securitate […]