Conferința de top AI interzice ChatGPT să scrie lucrări academice

Una dintre cele mai prestigioase conferințe de învățare automată din lume a interzis autorilor să folosească instrumente AI precum ChatGPT pentru a scrie lucrări științifice, declanșând o dezbatere despre rolul textului generat de AI în mediul academic.

Conferința internațională privind învățarea automată (ICML) a anunțat politica la începutul acestei săptămâni, afirmând: „Lucrările care includ text generat dintr-un model de limbă la scară largă (LLM) precum ChatGPT sunt interzise cu excepția cazului în care textul produs este prezentat ca parte a analiza experimentală a lucrării.” Vestea a stârnit discuție larg răspândită pe rețelele de socializare, academicieni și cercetători în domeniul inteligenței artificiale apărând și criticând politica. Organizatorii conferinței au răspuns prin publicând o declarație mai lungă explicându-le gândirea. (ICML a răspuns solicitărilor de la Acostament pentru comentariu, îndreptându-ne către aceeași declarație.)

Potrivit ICML, creșterea modelelor de limbaj AI accesibile public, cum ar fi ChatGPT - un chatbot AI cu scop general care lansat pe web în noiembrie anul trecut — reprezintă o dezvoltare „incitantă” care, totuși, vine cu „consecințe neprevăzute [și] întrebări fără răspuns”. ICML spune că acestea includ întrebări despre cine deține producția unor astfel de sisteme (sunt instruiți pe date publice, care sunt de obicei colectate fără consimțământ și uneori regurgitează aceste informații textul) și dacă textul și imaginile generate de AI ar trebui „considerate noi sau simple derivate ale lucrărilor existente”.

În fiecare caz, există temeri diferite cu privire la efectele dăunătoare ale textului generat de AI. Una dintre cele mai frecvente este că ieșirea acestor sisteme este pur și simplu nesigură. Aceste instrumente AI sunt sisteme vaste de completare automată, instruite să prezică ce cuvânt urmează următorului într-o propoziție dată. Ca atare, ei nu au o bază de date codificată cu „fapte” pe care să se bazeze – doar capacitatea de a scrie declarații care sună plauzibil. Aceasta înseamnă că ei au tendința de a prezenta informațiile false ca adevăr întrucât dacă o propoziţie dată sunete plauzibil nu garantează fapta sa.

În cazul interzicerii de către ICML a textului generat de AI, o altă provocare potențială este diferența între scrisul care a fost doar „lustruit” sau „editat” de AI și cel care a fost „produs în întregime” de aceste instrumente. În ce moment un număr de mici corecții ghidate de AI constituie o rescrie mai mare? Ce se întâmplă dacă un utilizator cere unui instrument AI să-și rezume lucrarea într-un rezumat rapid? Acesta contează ca text proaspăt generat (pentru că textul este nou) sau simplă lustruire (pentru că este un rezumat al cuvintelor scrise de autor)?