Un program de AI care învață din ceea ce oamenii știu și scriu, ar ridica în mod natural toate prejudecățile și ar putea considera că acestea sunt normale. Practic, acest lucru implică faptul că aspectele negative ale comportamentului uman vor fi pur și simplu transpuse pe Inteligența artificială. ⁃ Editor TN
S-a dovedit că un instrument de inteligență artificială care a revoluționat capacitatea calculatoarelor de a interpreta limbajul de zi cu zi prezintă un prejudiciu rasial de gen și rasă.
Descoperirile ridică spectrul inegalităților sociale și al prejudecăților existente fiind consolidate în moduri noi și imprevizibile, deoarece un număr tot mai mare de decizii care afectează viața noastră de zi cu zi sunt cedate automatelor.
În ultimii ani, capacitatea programelor precum Google Translate de a interpreta limbajul s-a îmbunătățit dramatic. Aceste câștiguri s-au datorat noilor tehnici de învățare automată și disponibilității unor cantități vaste de date text online, pe baza cărora algoritmii pot fi instruiți.
Cu toate acestea, pe măsură ce utilajele sunt din ce în ce mai aproape de a dobândi abilități de limbaj asemănătoare omului, acestea absorb și prejudecățile profund înrădăcinate ascunse în modelele de utilizare a limbajului, relevă cele mai recente cercetări.
Joanna Bryson, informaticiană la Universitatea din Bath și coautor, a declarat: „Mulți oameni spun că acest lucru arată că AI este prejudiciat. Nu. Acest lucru arată că suntem prejudiciați și că AI îl învață. "
[the_ad id = "11018 ″]
Dar Bryson a avertizat că AI are potențialul de a consolida prejudecățile existente deoarece, spre deosebire de oameni, algoritmii pot fi neechipați pentru a contracara în mod conștient prejudecățile învățate. „Un pericol ar fi dacă ai avea un sistem de AI care nu avea o parte explicită care era condusă de idei morale, ceea ce ar fi rău”, a spus ea.
Cercetarea, publicată în jurnal Ştiinţă, se concentrează pe un instrument de învățare automată cunoscut sub numele de „încorporarea cuvintelor”, care transformă deja modul în care calculatoarele interpretează vorbirea și textul. Unii susțin că următorul pas natural pentru tehnologie poate implica mașini care dezvoltă abilități asemănătoare omului, cum ar fi bunul simț și logica.
„Un motiv major pentru care am ales să studiem încorporarea cuvintelor este că au avut un succes spectaculos în ultimii ani în a ajuta computerele să înțeleagă limbajul”, a spus Arvind Narayanan, un om de informatică de la Universitatea Princeton și autorul principal al lucrării.
Abordarea, care este deja folosită în căutarea web și traducerea automată, funcționează prin construirea unei reprezentări matematice a limbajului, în care sensul unui cuvânt este distilat într-o serie de numere (cunoscute sub numele de vector de cuvânt) pe baza cărora se vor alătura alte cuvinte cel mai frecvent apar alături. Poate surprinzător, această abordare pur statistică pare să surprindă contextul cultural și social bogat din ceea ce înseamnă un cuvânt în modul în care o definiție a dicționarului ar fi incapabilă.
Prejudecățile fac parte din condiția umană - colaborăm cu oameni care arată așa cum facem noi, colectăm în grupuri care sunt ca noi și ne susțin punctele de vedere, îi privim cu suspiciune pe cei care nu sunt și nu - acesta este drumul nostru evolutiv. Acesta este un alt punct de clivaj identificat de această tehnocrație - este o insultă o tensiune plasată chiar pe țesătura a ceea ce suntem. A ne nega diferențele noastre și a refuza să ne permită să le sărbătorim este contrar naturii noastre, ne provoacă o profundă suferință și să vizăm ceea ce... Citeste mai mult "
wpDiscuz
Prejudecățile fac parte din condiția umană - colaborăm cu oameni care arată așa cum facem noi, colectăm în grupuri care sunt ca noi și ne susțin punctele de vedere, îi privim cu suspiciune pe cei care nu sunt și nu - acesta este drumul nostru evolutiv. Acesta este un alt punct de clivaj identificat de această tehnocrație - este o insultă o tensiune plasată chiar pe țesătura a ceea ce suntem. A ne nega diferențele noastre și a refuza să ne permită să le sărbătorim este contrar naturii noastre, ne provoacă o profundă suferință și să vizăm ceea ce... Citeste mai mult "