Etica UE privind AI: trebuie să „îmbunătățească schimbările sociale pozitive”

Uniunea Europeană a publicat astăzi un set de orientări cu privire la modul în care companiile și guvernele ar trebui să dezvolte aplicații etice ale inteligenței artificiale.

Aceste reguli nu sunt ca „Cele trei legi ale roboticii” ale lui Isaac Asimov. Ele nu oferă un cadru moral care să ne ajute să controlăm roboți ucigași. În schimb, acestea abordează problemele întunecate și difuze care vor afecta societatea pe măsură ce integrăm AI în sectoare precum asistența medicală, educația și tehnologia consumatorului.

Deci, de exemplu, dacă un sistem AI vă diagnostică cancerul cândva în viitor, liniile directoare ale UE ar dori să se asigure că au loc o serie de lucruri: că software-ul nu a fost părtinit de rasa sau sexul dvs., că nu Nu trece peste obiecțiile unui medic uman și că acesta a oferit pacientului opțiunea de a-i explica diagnosticul.

Deci, da, aceste orientări vizează oprirea AI-ului de a rula amuck, dar la nivel de admin și birocrație, nu mistere de crimă în stil Asimov.

Pentru a ajuta acest obiectiv, UE a convocat un grup de experți 52 care au venit cu șapte cerințe pe care consideră că viitoarele sisteme AI trebuie să le îndeplinească. Acestea sunt următoarele:

• Agenția și supravegherea umană - AI nu ar trebui să calce pe autonomia umană. Oamenii nu ar trebui să fie manipulați sau constrânși de sistemele AI, iar oamenii ar trebui să poată interveni sau să supravegheze fiecare decizie pe care software-ul o ia.
• Robustețe și siguranță tehnică - AI trebuie să fie sigur și precis. Nu ar trebui să fie ușor compromis de atacuri externe (de ex exemple contradictorii) și ar trebui să fie rezonabil de fiabil.
• Confidențialitate și guvernanța datelor - Datele personale colectate de sistemele AI trebuie să fie sigure și private. Nu ar trebui să fie accesibil doar oricui și nu ar trebui furat cu ușurință.
• Transparență - Datele și algoritmii folosiți pentru crearea unui sistem AI ar trebui să fie accesibili, iar deciziile luate de software ar trebui să fie „înțelese și urmărite de ființe umane”. Cu alte cuvinte, operatorii ar trebui să fie capabili să explice deciziile pe care le iau sistemele lor de AI.
• Diversitate, nediscriminare și echitate - Serviciile furnizate de AI ar trebui să fie disponibile tuturor, indiferent de vârstă, sex, rasă sau alte caracteristici. În mod similar, sistemele nu ar trebui să fie părtinitoare de-a lungul acestor linii.
• Bunăstarea mediului și a societății - Sistemele de AI ar trebui să fie durabile (adică, ar trebui să fie responsabile din punct de vedere ecologic) și să „îmbunătățească schimbările sociale pozitive”
• Responsabilitate - Sistemele AI ar trebui să fie audibile și să fie acoperite de protecțiile existente pentru denunțatorii corporativi. Impacturile negative ale sistemelor trebuie recunoscute și raportate în avans.

Veți observa că unele dintre aceste cerințe sunt destul de abstracte și ar fi greu de evaluat într-un sens obiectiv. (Definițiile „schimbărilor sociale pozitive”, de exemplu, variază foarte mult de la o persoană la alta și de la o țară la alta.) Dar altele sunt mai simple și ar putea fi testate prin supraveghere guvernamentală. Partajarea datelor utilizate pentru instruirea sistemelor AI guvernamentale, de exemplu, ar putea fi o modalitate bună de a lupta împotriva algoritmi părtinitori.

Aceste orientări nu sunt obligatorii din punct de vedere juridic, dar ar putea contura orice legislație viitoare elaborată de Uniunea Europeană. UE a spus în repetate rânduri că dorește să fie un lider în AI etic și a demonstrat acest lucru GDPR că este dispus să creeze legi de anvergură care să protejeze drepturile digitale.

Însă acest rol a fost parțial impus asupra UE de circumstanțe. Nu poate concura cu America și China - liderii mondiali în AI - atunci când vine vorba de investiții și cercetări de ultimă oră, așa că este aleasă etica ca cel mai bun pariu pentru a modela viitorul tehnologiei.

Citește povestea completă aici ...