Deoarece omul este imperfect, rezultă că tot ceea ce creează omul este, de asemenea, imperfect, inclusiv programele de calculator care sunt destinate să ruleze totul în viața noastră. Mai mult, legea Entropiei sugerează că orice om creează va fi mai imperfect decât creatorul. Să ai încredere în viețile și averea noastră în algoritmi secreți este o prostie și un pericol. ⁃ TN Editor
În 1603, Oficialii englezi l-au arestat pe Sir Walter Raleigh. L-au acuzat de trădare. Se presupunea că a fost implicat într-un complot pentru răsturnarea și uciderea noului rege, James I.
La procesul său, procurorii au înscris doar o probă. Era o scrisoare de mărturisire scrisă de bărbatul care ar fi planificat complotul, Lord Cobham. Scrisoarea numită Raleigh a co-conspirator.
Sir Walter Raleigh a spus că mărturisirea nu este de încredere. Dacă ar putea aduce Cobham pentru a depune mărturie în instanță, el ar avea cel puțin o șansă examinează încrucișat singurul martor împotriva lui.
Dar instanțele engleze de la timpul nu a fost interesat în mod special în procesul adecvat. L-au condamnat pe Raleighlăsându-i să se confrunte sau să examineze martorul.
El a fost închis și, în cele din urmă, executat.
Rapid înainte Statele Unite ale Americii, 2017. Un bărbat se confruntă cu acuzații de omor. Iar martorul principal împotriva lui este un algoritm computerizat.
Algoritmul analize probe complexe de ADN. Aceasta decideif ADN-ul acuzatului este prezent într-o probă.
Natural, aparatorul vrea sa stie cum funcționează exact algoritmul.
Și are bună cauză de mirare. Lui condamnarea anterioară pentru aceeași crimă s-a bazat pe diferite mașini de testare ADN.
Dar scientists mai tarziu a decis algoritmul nu avea dreptate. Tel dovedește că l-a condamnat a fost schimbat de la pozitiv la neconcludent.
Stătuse în închisoare, condamnat pentru omor, pe baza unui algoritm defectuos!
Deci, la noul proces, cere apărarea la examinează tel noul algoritm al mașinii.dar compania care proiectatalgoritmul nu-i place această idee.
aLgoritmul este un secret comercial. A fost costisitor să se dezvolte, aDacă nu vor să iasă secretul.
Suntem viaţăin vârsta algoritmilor.
Un algoritm alege ce muzică asculți. Și Spotify face o treabă destul de bună ... A Algoritmul defect ar putea să te forțeze să asculți o melodie din gospel în loc de rap gangster. Nu este cea mai mare afacere ...
Dar ce se întâmplă atunci când un algoritm pentru o mașină cu autovehicul trebuie să decidă între lovirea unui grup sau pietoni sau plonjându-se - și tu- de pe o stâncă?
Algoritmul devine o problemă de viață și de moarte.
Înainte de a te urca într-o mașină de conducere auto, tu'll vreau să știu puțin despre algoritm.
Ce fel de decizii secundare a fost programat să ia?
Ce intrări de date sunt considerate?
Și Who a scris exact algoritmul? Amintiți-vă, algoritmi încăau un component umanT. Și oamenii sunt părtinitori în mod inerent. Opiniile lor subiective o vor transforma inevitabil în algoritm.
Când un algoritm îl condamnă pe inculpat într-un proces de crimă ... și asta este viata sau moarte.
Unele servicii de protecție pentru copii folosesc un algoritm pentru a decide care sunt copiii lua. Algoritmul atribuie a scorul de riscbazat pe inputuri precum câte apeluri au primit departamentul și dacă părinții sunt ostili față de lucrătorii de caz.
Altele instanțele folosesc deja un algoritm pentru a descoperi recidivaM risc - în cazul în care un criminal este probabil să reproșeze. Cu cât este mai mare riscul, cu atât este mai lungă teza.
Dacă am fumat o articulație sau am luat o luptă în liceu, sunt 40% mai probabil comitea crima?
WiVoi fi presupus vinovat pe baza probabilitate singur? Cum pot fi sigur că algoritmul nu este părtinitor?
Cand ProPublica a analizat recidivei algoritm, au descoperit că a fost părtinitoare rasial.
O'Neil Risk Consulting & Algorithmic Auditing este o altă organizație care analizează cât de corecte sunt algoritmii folosiți de sistemul de justiție. Dar recunosc că chiar și auditurile sunt subiective într-o anumită măsură.
Este destul de înfricoșător să ai algoritmi să controleze sistemul de justiție penală. Două procesul ar putea să fie înlocuite cu procesoare computerizate.
Dar algoritmii nu sunt neapărat un lucru rău. Ele pot analiza seturi vaste și complexe de date. Este nevoie de multă muncă pentru a construi un algoritm bun. Tu pot înțelege de ce o companie vreas pentru a proteja secretele sale.
