Cercetătorii descoperă că programele AI învățează prejudecăți rasiale și de gen

Wikipedia Commons
Vă rugăm să împărtășiți această poveste!
image_pdfimage_print

Un program de AI care învață din ceea ce oamenii știu și scriu, ar ridica în mod natural toate prejudecățile și ar putea considera că acestea sunt normale. Practic, acest lucru implică faptul că aspectele negative ale comportamentului uman vor fi pur și simplu transpuse pe Inteligența artificială. Editor TN

S-a dovedit că un instrument de inteligență artificială care a revoluționat capacitatea calculatoarelor de a interpreta limbajul de zi cu zi prezintă un prejudiciu rasial de gen și rasă.

Descoperirile ridică spectrul inegalităților sociale și al prejudecăților existente fiind consolidate în moduri noi și imprevizibile, deoarece un număr tot mai mare de decizii care afectează viața noastră de zi cu zi sunt cedate automatelor.

În ultimii ani, capacitatea programelor precum Google Translate de a interpreta limbajul s-a îmbunătățit dramatic. Aceste câștiguri s-au datorat noilor tehnici de învățare automată și disponibilității unor cantități vaste de date text online, pe baza cărora algoritmii pot fi instruiți.

Cu toate acestea, pe măsură ce utilajele sunt din ce în ce mai aproape de a dobândi abilități de limbaj asemănătoare omului, acestea absorb și prejudecățile profund înrădăcinate ascunse în modelele de utilizare a limbajului, relevă cele mai recente cercetări.

Joanna Bryson, informaticiană la Universitatea din Bath și coautor, a declarat: „Mulți oameni spun că acest lucru arată că AI este prejudiciat. Nu. Acest lucru arată că suntem prejudiciați și că AI îl învață. "

[the_ad id = "11018"]

Dar Bryson a avertizat că AI are potențialul de a consolida prejudecățile existente deoarece, spre deosebire de oameni, algoritmii pot fi neechipați pentru a contracara în mod conștient prejudecățile învățate. „Un pericol ar fi dacă ai avea un sistem de AI care nu avea o parte explicită care era condusă de idei morale, ceea ce ar fi rău”, a spus ea.

Cercetarea, publicată în jurnal Ştiinţă, se concentrează pe un instrument de învățare automată cunoscut sub numele de „încorporarea cuvintelor”, care transformă deja modul în care calculatoarele interpretează vorbirea și textul. Unii susțin că următorul pas natural pentru tehnologie poate implica mașini care dezvoltă abilități asemănătoare omului, cum ar fi bunul simț și logica.

„Un motiv major pentru care am ales să studiem încorporarea cuvintelor este că au avut un succes spectaculos în ultimii ani în a ajuta computerele să înțeleagă limbajul”, a spus Arvind Narayanan, un om de informatică de la Universitatea Princeton și autorul principal al lucrării.

Abordarea, care este deja folosită în căutarea web și traducerea automată, funcționează prin construirea unei reprezentări matematice a limbajului, în care sensul unui cuvânt este distilat într-o serie de numere (cunoscute sub numele de vector de cuvânt) pe baza cărora se vor alătura alte cuvinte cel mai frecvent apar alături. Poate surprinzător, această abordare pur statistică pare să surprindă contextul cultural și social bogat din ceea ce înseamnă un cuvânt în modul în care o definiție a dicționarului ar fi incapabilă.

Citește povestea completă aici ...

Alătură-te listei noastre de mail!


Abonează-te la canal
Anunță-mă
oaspete
1 Comentariu
Cele mai vechi
Cele mai noi Cele mai votate
Feedback-uri în linie
Vezi toate comentariile
Nigel

Prejudecata face parte din condiția umană - facem partener cu oameni care arată ca noi, colectăm în grupuri care sunt ca noi înșine și ne păstrăm părerile, privim cu suspiciune pe cei care nu sunt și nu - aceasta este calea noastră evolutivă. Acesta este un alt punct de scindare identificat de această tehnocrație - este o insultă o tensiune plasată chiar pe țesătura cine suntem. A ne nega diferențele și a refuza să ne permitem să le sărbătorim este contrar naturii noastre, ne provoacă o suferință profundă și să ne îndreptăm spre ceea ce... Citește mai departe »