ChatGPT poate avea consecințe ireversibile pentru învățare și luare a deciziilor

Traiectoria modernă a omenirii a fost definită de mai multe puncte de inflexiune. Invenția electricității, a becului, a sistemului telegrafic, a computerului și a internetului, printre altele, a semnalat noi etape ireversibile în modus vivendi nostru. Introducerea recentă a ChatGPT se poate dovedi, totuși, a fi mai mult decât un punct de inflexiune. Poate fi un perturbator permanent pentru modul nostru de viață; este boacăne și Crizele de furie wokist în ciuda.

ChatGPT este acum aplicația pentru consumatori cu cea mai rapidă creștere din istorie. În două luni de la lansarea sa în noiembrie 2022, ChatGPT a reușit să atragă peste 100 de milioane de utilizatori. Dezvoltatorul său OpenAI, care a început cu 375 de angajați și venituri mici, este acum evaluat la $ 30 de miliarde de și numărând.

Cum functioneazã? În linii mari, ChatGPT agregează date din surse online și sintetizează răspunsuri la o interogare in cateva secunde. În prezent, este cel mai versatil dintre un stabil de noi modele de limbaj mari alimentate de inteligență artificială. Poate să compună note muzicale, să scrie coduri software, să rezolve ecuații matematice, să scrie romane, eseuri și disertații, printre o mulțime de alte sarcini. Poate fi folosit de oamenii de știință pentru a-și traduce lucrările originale – scrise într-o limbă maternă – în engleză. Pe măsură ce instrumentele AI precum ChatGPT evoluează, ele pot înlocui activitatea umană într-un spectru larg, dar incalculabil. Sute de milioane de locuri de muncă pot fi în joc.

Impactul său cel mai imediat va fi însă în domeniul învățării umane și al procesului decizional.

Învățarea umană

Învățarea umană este un proces pe tot parcursul vieții, modelat de o mulțime de factori. Acestea includ (dar nu se limitează la) experiență, instinct, interacțiuni, greșeli (și corecții), introspecție, neliniște personală, îndrăzneală, tutelă, date textuale și psihicul individual. Cele mai multe dintre aceste premise sunt străine ChatGPT și aceasta include axioma „fără durere, nici câștig” pentru învățarea și dezvoltarea umană.

De asemenea, instrumentele AI nu sunt afectate de limitările umane, cum ar fi constrângerile de timp, oboseala, „zile libere” și boli. De-a lungul timpului, aceste limitări i-au determinat pe oameni să-și delege cerința existențială de a gândi și de a învăța la mașini. Digitalizarea inexorabilă ne-a făcut, de asemenea, adepți știind unde sau cum să caute informații în loc de învăţând cum să păstreze aceleaşi informaţii. Câți dintre noi memorează numerele de telefon ale familiei, colegilor și prietenilor noștri în aceste zile? O cârjă digitală este acum o necesitate pentru navigarea pe drumuri (de exemplu, Waze, Google Maps), gătit (canale video), repararea aparatelor (canale DIY) și o serie de alte activități banale. Sarcinile noastre zilnice devin din ce în ce mai multe mecanicist, excluderea capacității noastre de a crea ceva nou sau care schimbă jocul. Devenim extensii ale mașinilor noastre și nu invers. Drept urmare, omenirea se confruntă acum cu o eră de stupoare colectivă și conformism.

Nu există o modalitate mai bună de a evalua modul în care instrumentele AI ne pot afecta facultățile de gândire și de învățare decât observând impactul ChatGPT asupra sectorului educațional global. Elevii și educatorii deopotrivă folosesc acum ChatGPT ca supliment educațional, un instrument de înșelăciune sau ca o cârjă digitală.

Un recent studiu de Walton Family Foundation și Impact Research au descoperit că majoritatea profesorilor (51%) și mulți studenți folosesc deja ChatGPT în școli. Un alt sondaj care implică 1,000 de colegii din SUA a constatat că 30% dintre studenți au folosit ChatGPT pentru teme scrise, 60% dintre ei folosindu-l pentru „mai mult de jumătate din temele lor”. ChatGPT a trecut multe examene de nivel înalt, inclusiv examenul de MBA Wharton, examenul de licență medicală din SUA, mai multe examene de drept și o finală la Stanford Medical School.

Morii de hârtie poate folosi și ChatGPT pentru a crea articole și rapoarte științifice. Cercetătorii care folosesc astfel de date artificiale sau care falsifică în mod deliberat procesul de cercetare prin IA generativă, pot ajunge să promoveze politici și produse care sunt dăunătoare societății. Lumea nu-și poate permite încă o coronapishoză!

Una peste alta, studenții și profesorii deopotrivă sunt din ce în ce mai intimidați de Atotputernicul AI. AI ridică ștacheta pentru studenți, profesori și o varietate de profesioniști. Sortarea artefactelor autentice devine, de asemenea, din ce în ce mai dificilă.

As Christopher Kanan, profesor asociat de informatică la Universitatea din Rochester a remarcat recent: „Devine pur și simplu mai greu să aleg cine știe ce și cine primește ajutor de la lucruri precum ChatGPT.” Câteva școli din New York, Hong Kong, Bangalore și din alte părți au interzis studenților să folosească ChatGPT în sarcinile lor din cauza preocupărilor legate de „plagiat”, înșelăciune și dezinformare.

În timp ce ChatGPT este un instrument excelent pentru a studia concepte și componente complexe integrarea cunoștințelor, în realitate, poate transforma majoritatea utilizatorilor în consumatori docili ai datelor generate de AI. Pasivitatea prelungită mediată digital atrofiază facultatea de gândire.

Un alt dezavantaj al ChatGPT este potențialul său de a lărgi dezbaterea digitală mult dezbătută. Cererile pentru locuri de muncă, promoții, burse etc. vor favoriza în mod covârșitor cei care au digital în detrimentul celor care nu au digital, mai ales când sunt necesare taxe de abonament pentru acces.

În prezent, educatorii nu sunt în măsură să definească limitele etice ale ChatGPT și adoptă o atitudine de așteptare. Cadrul etic în sine poate fi scris de, sau cu ajutorul unor instrumente precum ChatGPT. Aini Suzana Ariffin, profesor asociat de Studii Politice la Universiti Teknologi Malaysia, este convinsă că educatorii nu trebuie să fie alarmați. „Un cadru etic pentru instrumente generative de inteligență artificială, cum ar fi ChatGPT, va rezolva ceea ce mărește procesul de învățare și ce îl împiedică. Acest lucru poate dura timp și va implica multe dezbateri, dar mai bine începem acum.”

Luarea deciziilor umane

Guvernul din Singapore a anunțat recent că funcționarii săi publici vor începe să folosească ChatGPT pentru a le ușura volumul de muncă. Acest lucru are sens, deoarece sarcinile repetitive sau banale pot fi accelerate de instrumente AI. Cu toate acestea, pe măsură ce instrumentele de inteligență artificială generativă devin exponențial mai inteligente și mai eficiente – așa cum o vor face într-adevăr – complexul de guvernare poate fi uzurpat treptat de mașini. Această formă emergentă de ordonare socială se numește „algocrație”; unul în care algoritmii, în special AI și blockchain, sunt aplicați în întregul spectru al guvernului. Algocrația implică inevitabil guvernare predictivă. Poliția din Berlin a încorporat deja o formă embrionară de algocrație politica predictivă sistem. Ne confruntăm cu o Minority Report societate în viitorul apropiat?

ChatGPT accelerează, de asemenea, fluxul de informații către nivelurile de luare a deciziilor de vârf ale unui guvern sau organizație – ocolind rolurile tradiționale de gatekeeper ale birocrațiilor la nivelurile intermediare. Deși acest lucru poate fi anunțat ca o dezvoltare binevenită împotriva birocrației, lipsa controalelor și echilibrului tradițional poate duce la decizii imperative cu implicații socioeconomice neplăcute. Imaginați-vă să transplantați un astfel de sistem algocratic de luare a deciziilor în infrastructura de arme nucleare a unei superputeri militare?

ChatGPT riscă, de asemenea, încălcarea confidențialității și scurgerea de date cu caracter personal în sectoare precum cel bancar și asistența medicală. Eficacitatea instrumentelor AI generative este alimentată de un volum din ce în ce mai mare de date, care sunt în mod constant reîntors în rețelele lor neuronale. Această căutare a preciziei, eficienței și vitezei poate duce la compromisul datelor private ca parte a procesului de învățare automată.

În domeniul asistenței medicale, consimțământ informat la asistența medicală asistată de inteligență artificială poate fi redusă, deoarece pacienții fie pot să nu înțeleagă la ce sunt de acord, fie ar putea avea încredere excesivă într-un sistem bazat pe mașini „inteligent și imparțial”. Devine mai de rău augur atunci când triajul este folosit în situații critice. În mod tradițional, triajul este determinat de integritatea și abilitățile personalului medical prezent, precum și de resursele disponibile in situ. Cu toate acestea, un algoritm poate aranja fără pasiune triajul pe baza „valorii pentru societate” a pacientului; speranța de viață dedusă din date; și costurile asociate cu salvarea vieții pacientului.

Dimensiunile etice ale triajului mediat de IA nu au fost rezolvate. Cu toate acestea, merită remarcat faptul că co-fondatorul Microsoft, Bill Gates, este în favoarea acestuia panouri de moarte pentru bolnavii terminali care „nu au niciun beneficiu pentru societate” și a căror conservare ar putea compensa în mod aparent locurile de muncă a „o sută de mii de profesori”. Întinzând și mai mult această logică, putem asista la un viitor mandat pentru „bebelușii inteligenți” care se presupune că vor popula o „societate inteligentă”. Algoritmii sofisticați ai viitorului pot sorta geneticii de cei care nu au genetic prin teste ADN fetal și instrumente precum diagnosticul genetic preimplantare (PGD). Acest imbold eugenic a fost numit eufemistic „binefacerea procreativă”. Întâmplător, Bill Gates a susținut financiar o firmă chineză care lucrează la crearea de „super bebeluși”. Este de mirare că Microsoft este principalul susținător financiar al OpenAI?

La sfârșitul zilei, un cadru etic AI va fi blocat de Tech Titans, care pot determina designul, parametrii și obiectivele instrumentelor AI generative? Sau vor încerca liderii noștri aleși să caute o coexistență sinergică între AI și oameni.

Citește povestea completă aici ...