Acesta este un software pentru a salva vieți. Noua tehnologie de inteligență artificială „de detectare proactivă” a Facebook va scana toate postările pentru a găsi modele de gânduri suicidare și, atunci când este necesar, va trimite resurse de sănătate mintală către utilizatorul aflat în pericol sau prietenii lor sau va contacta primii respondenți locali. Prin utilizarea AI pentru a semnaliza postările îngrijorătoare către moderatorii umani în loc să aștepte rapoartele utilizatorilor, Facebook poate reduce cât durează trimiterea ajutorului.
Facebook în prealabil testat folosind AI pentru a detecta posturi tulburătoare și mai proeminent opțiuni de raportare a sinuciderii pentru prietenii din SUA Acum, Facebook va căuta toate tipurile de conținut în jurul lumii cu această IA, cu excepția Uniunii Europene, unde Regulamentul general privind protecția datelor Legile de confidențialitate privind profilurile utilizatorilor bazate pe informații sensibile complică utilizarea acestei tehnologii.
De asemenea, Facebook va folosi AI pentru a da prioritate rapoartelor de utilizator deosebit de riscante sau urgente, astfel încât acestea să fie mai rapid abordate de moderatori și instrumente pentru a suprafeța instantaneu a resurselor de limbă locală și a informațiilor de contact pentru primul respondent. De asemenea, dedică mai mulți moderatori pentru prevenirea sinuciderii, îi instruiește pentru a face față cazurilor 24 / 7 și are acum parteneri locali 80 precum Save.org, National Suicide Prevention Lifeline și Forefront din care să ofere resurse utilizatorilor cu risc și rețelelor lor .
„Este vorba despre bărbierirea minutelor la fiecare pas al procesului, în special în Facebook Live”, spune vicepreședintele de management al produselor, Guy Rosen. În ultima lună de testare, Facebook a inițiat peste 100 de „verificări de sănătate”, primii care au răspuns la vizitarea utilizatorilor afectați. „Au existat cazuri în care primul răspuns a sosit și persoana încă transmite”.
Ideea Facebook de scanare proactivă a conținutului postărilor oamenilor ar putea declanșa unele temeri distopice despre cum ar putea fi aplicată tehnologia. Facebook nu a avut răspunsuri cu privire la modul în care ar evita scanarea dizidenței politice sau a infracțiunii mărunte, Rosen spunând doar „avem o oportunitate de a ajuta aici, așa că vom investi în asta”. Există cu siguranță aspecte benefice masive despre tehnologie, dar este un alt spațiu în care avem prea puțin de ales, dar să sperăm că Facebook nu merge prea departe.
CEO-ul Facebook, Mark Zuckerberg, a lăudat actualizarea produsului într-o postare astăzi, scriind asta „În viitor, AI va putea înțelege mai multe nuanțe subtile ale limbajului și va putea identifica diferite probleme dincolo de sinucidere, inclusiv descoperirea rapidă a mai multor tipuri de bullying și ură.”
Din păcate, după ce TechCrunch a întrebat dacă există o modalitate prin care utilizatorii pot renunța la un mesaj, un purtător de cuvânt pe Facebook a răspuns că utilizatorii nu pot renunța. Ei au menționat că funcția este concepută pentru a spori siguranța utilizatorului și că resursele de asistență oferite de Facebook pot fi respinse rapid dacă un utilizator nu vrea să le vadă.]
Facebook a instruit AI-ul găsind modele în cuvintele și imaginile utilizate în postările care au fost raportate manual pentru riscul de sinucidere în trecut. De asemenea, se caută comentarii precum „sunteți bine?” Și „Aveți nevoie de ajutor?”
wpDiscuz