Deși este lăudabil faptul că creatorii văd rezultate periculoase ale IA lor și sunt dispuși să o rețină în așteptarea unei analize suplimentare, este doar o chestiune de timp înainte de a fi scăpată. Nu există nicio inteligență umană utilizată atunci când se generează povești artificiale. ⁃ Editor TN
Creatorii unui sistem revoluționar de AI care poate scrie știri și opere de ficțiune - supranumite „deepfakes for text” - au făcut pasul neobișnuit de a nu-și dezvălui cercetările în mod public, de teama potențialului abuz de utilizare.
OpenAI, o companie de cercetare nonprofit susținută de Elon Musk, Reid Hoffman, Sam Altman și alții, spune că noul său model AI, numit GPT2, este atât de bun și riscul utilizării rău intenționate este atât de mare încât încetează de la practica sa normală de a elibera complet cercetarea publicului pentru a permite mai mult timp pentru a discuta despre ramificațiile descoperirii tehnologice.
La bază, GPT2 este un generator de text. Sistemul AI este alimentat cu text, de la câteva cuvinte la o pagină întreagă, și i se cere să scrie următoarele câteva propoziții pe baza previziunilor sale despre ceea ce ar trebui să vină în continuare. Sistemul depășește limitele a ceea ce se credea posibil, atât în ceea ce privește calitatea producției, cât și varietatea largă de utilizări potențiale.
Atunci când este utilizat pentru a genera pur și simplu text nou, GPT2 este capabil să scrie pasaje plauzibile care se potrivesc cu ceea ce este dat atât în stil, cât și subiect. Rareori arată oricare dintre ciudățenii care marchează sistemele de IA anterioare, cum ar fi uitarea a ceea ce scrie despre jumătatea unui paragraf sau manipularea sintaxei frazelor lungi.
Hrăniți-l cu linia de deschidere a lui Nineteen Eighty-Four de George Orwell - „A fost o zi strălucitoare și rece în aprilie, iar ceasurile băteau treisprezece” - și sistemul recunoaște tonul vag futurist și stilul romanesc și continuă cu:
„Am fost în mașina mea în drum spre un nou loc de muncă în Seattle. Am introdus gazul, am introdus cheia și apoi l-am lăsat să funcționeze. Mi-am imaginat cum va fi ziua. Peste o sută de ani. În 2045, am fost profesor într-o școală dintr-o parte săracă din China rurală. Am început cu istoria chineză și istoria științei. ”
Alimentează-l cu primele paragrafe din o poveste Guardian despre Brexit, iar rezultatul său este o proză de ziar plauzibilă, plină de „citate” de la Jeremy Corbyn, mențiuni despre frontiera irlandeză și răspunsuri de la purtătorul de cuvânt al primului ministru.
Un astfel de paragraf, complet artificial, spune: „Solicitat să clarifice rapoartele, un purtător de cuvânt al lui May a spus:„ Premierul a precizat absolut intenția ei de a părăsi UE cât mai repede posibil și că va fi sub mandatul său de negociere așa cum a fost confirmat în discursul reginei săptămâna trecută. '”
wpDiscuz