Conferința de top AI interzice ChatGPT să scrie lucrări academice

Vă rugăm să împărtășiți această poveste!
ChatGPT înseamnă „Chat Generative Pre-trained Transformer”. Poate genera limbajul natural la un nivel atât de mare de precizie încât poate trece Turing Turing, adică păcălirea oamenilor că comunică cu un computer. Chiar și liderii tehnocrați AI recunosc implicațiile periculoase și ridică semne de stop. ⁃ TN Editor

Instrumentele de inteligență artificială pot fi folosite pentru „editarea” și „polarizarea” lucrărilor autorilor, spun organizatorii conferinței, dar textul „produs în întregime” de IA nu este permis. Acest lucru ridică întrebarea: unde tragi limita dintre editare și scriere?

Una dintre cele mai prestigioase conferințe de învățare automată din lume a interzis autorilor să folosească instrumente AI precum ChatGPT pentru a scrie lucrări științifice, declanșând o dezbatere despre rolul textului generat de AI în mediul academic.

Conferința internațională privind învățarea automată (ICML) a anunțat politica la începutul acestei săptămâni, afirmând: „Lucrările care includ text generat dintr-un model de limbă la scară largă (LLM) precum ChatGPT sunt interzise cu excepția cazului în care textul produs este prezentat ca parte a analiza experimentală a lucrării.” Vestea a stârnit discuție larg răspândită pe rețelele de socializare, academicieni și cercetători în domeniul inteligenței artificiale apărând și criticând politica. Organizatorii conferinței au răspuns prin publicând o declarație mai lungă explicându-le gândirea. (ICML a răspuns solicitărilor de la Acostament pentru comentariu, îndreptându-ne către aceeași declarație.)

Potrivit ICML, creșterea modelelor de limbaj AI accesibile public, cum ar fi ChatGPT - un chatbot AI cu scop general care lansat pe web în noiembrie anul trecut — reprezintă o dezvoltare „incitantă” care, totuși, vine cu „consecințe neprevăzute [și] întrebări fără răspuns”. ICML spune că acestea includ întrebări despre cine deține producția unor astfel de sisteme (sunt instruiți pe date publice, care sunt de obicei colectate fără consimțământ și uneori regurgitează aceste informații textul) și dacă textul și imaginile generate de AI ar trebui „considerate noi sau simple derivate ale lucrărilor existente”.

Ultima întrebare se conectează la o dezbatere complicată despre autor – adică cine „scrie” un text generat de AI: mașina sau controlerul său uman? Acest lucru este deosebit de important, având în vedere că ICML interzice doar textul „produs în întregime” de AI. Organizatorii conferinței spun că sunt nu interzicerea utilizării unor instrumente precum ChatGPT „pentru editarea sau lustruirea textului scris de autor” și rețineți că mulți autori au folosit deja „instrumente de editare semi-automatizate” precum software-ul de corectare a gramaticii Grammarly în acest scop.

„Este cert că aceste întrebări, și multe altele, vor primi răspuns în timp, deoarece aceste modele generative la scară largă sunt adoptate pe scară largă. Cu toate acestea, nu avem încă răspunsuri clare la niciuna dintre aceste întrebări”, scriu organizatorii conferinței.

Drept urmare, ICML spune că interzicerea textului generat de AI va fi reevaluată anul viitor.

Întrebările la care se adresează ICML s-ar putea să nu fie ușor de rezolvat, totuși. Disponibilitatea instrumentelor AI precum ChatGPT provoacă confuzie pentru multe organizații, dintre care unele au răspuns cu propriile interdicții. Anul trecut, site-ul de întrebări și răspunsuri de codificare Stack Overflow a interzis utilizatorilor să trimită răspunsuri create cu ChatGPT, în timp ce Departamentul Educației din New York a blocat accesul la instrument pentru oricine din rețeaua sa chiar în această săptămână.

În fiecare caz, există temeri diferite cu privire la efectele dăunătoare ale textului generat de AI. Una dintre cele mai frecvente este că ieșirea acestor sisteme este pur și simplu nesigură. Aceste instrumente AI sunt sisteme vaste de completare automată, instruite să prezică ce cuvânt urmează următorului într-o propoziție dată. Ca atare, ei nu au o bază de date codificată cu „fapte” pe care să se bazeze – doar capacitatea de a scrie declarații care sună plauzibil. Aceasta înseamnă că ei au tendința de a prezenta informațiile false ca adevăr întrucât dacă o propoziţie dată sunete plauzibil nu garantează fapta sa.

În cazul interzicerii de către ICML a textului generat de AI, o altă provocare potențială este diferența între scrisul care a fost doar „lustruit” sau „editat” de AI și cel care a fost „produs în întregime” de aceste instrumente. În ce moment un număr de mici corecții ghidate de AI constituie o rescrie mai mare? Ce se întâmplă dacă un utilizator cere unui instrument AI să-și rezume lucrarea într-un rezumat rapid? Acesta contează ca text proaspăt generat (pentru că textul este nou) sau simplă lustruire (pentru că este un rezumat al cuvintelor scrise de autor)?

Citește povestea completă aici ...

Despre editor

Patrick Wood
Patrick Wood este un lider important și critic în dezvoltarea durabilă, economia ecologică, agenda 21, agenda 2030 și tehnocrația istorică. Este autorul revistei Technocracy Rising: The Trojan Horse of Global Transformation (2015) și co-autor al Trilaterals Over Washington, Volumes I and II (1978-1980) cu regretatul Antony C. Sutton.
Mă abonez
Anunță-mă
oaspete

3 Comentarii
Cele mai vechi
Cele mai noi Cele mai votate
Feedback-uri în linie
Vezi toate comentariile
Mug Diller

Este ca și cum ar fi promulgat o lege în 1905 care permite automobilele, dar numai dacă sunt trase de un cal.

godot

Interziceți autorilor să folosească instrumente AI! Noroc cu asta. Și OJ Simpson încă îl caută pe adevăratul ucigaș.

Rezistență21

Tocmai ascultam raportul tău Quickening pe acest subiect și am decis să comentez aici. (1) Indicați că ChatGPT poate efectua falsuri profunde de voce off pentru videoclipuri. Aceasta ar putea fi, de asemenea, un șiretlic de propagandă, astfel încât actorii Deep State să poată nega ceea ce au spus cu adevărat pe dovezile video pe care le adunăm. (2) Tot ce pot fi sigur este că nu știu ce se află la celălalt capăt al interfeței. Cine sau ce este omul din spatele perdelei? Când este un AI, un om sau un propagandist? Vezi și conceptul de mecanică... Citeste mai mult "

Ultima modificare acum 1 lună de către Resistance21