Dacă a vedea este crezător, pregătește-te să fii înșelat

Pasul 1: utilizați AI pentru a face modificări nedetectabile la fotografiile în aer liber. Pasul 2: eliberați-le în lumea open-source și bucurați-vă de haos.

Îți face griji falsuri profunde- videoclipuri manipulate cu mașini ale unor celebrități și lideri mondiali, presupus spunând sau făcând lucruri pe care nu le-au făcut cu adevărat - sunt ciudate în comparație cu o nouă amenințare: imagini doctorate ale Pământului.

China este liderul recunoscut în utilizarea unei tehnici emergente numite rețele adversare generative pentru a păcăli computerele să vadă obiecte în peisaje sau în imagini din satelit care nu sunt acolo, spune Todd Myers, responsabil de automatizare și șef de informații în Biroul Directorului Tehnologiei. la Agenția Națională de Informații Geospatiale.

„Chinezii sunt cu mult înaintea noastră. Aceasta nu este o informație clasificată ", a declarat Myers joi la cel de-al doilea an anual Mașini Genius summit, găzduit de Apărătorul Unu și Nextgov. „Chinezii au conceput deja; deja o fac chiar acum, folosind GAN-urile - care sunt rețele adversare generative - pentru a manipula scene și pixeli pentru a crea lucruri din motive nefaste. ”

De exemplu, a spus Myers, un adversar ar putea păcăli analistii de imagini asistate de computer să raporteze că un pod traversează un râu important la un moment dat.

„Deci, dintr-o perspectivă tactică sau de planificare a misiunilor, vă antrenați forțele pentru a merge pe un anumit traseu, spre un pod, dar nu este acolo. Apoi te așteaptă o surpriză mare ”, a spus el.

Primul descris în 2014, GAN-urile reprezintă o evoluție mare în modul în care rețelele neuronale învață să vadă și să recunoască obiecte și chiar să detecteze adevărul din ficțiune.

Spuneți că întrebați rețeaua dvs. neuronală convențională pentru a afla care sunt obiectele din fotografiile din satelit. Rețeaua va împărți imaginea în mai multe bucăți sau grupuri de pixeli, va calcula modul în care aceste bucăți rupte se raportează una la cealaltă și apoi va stabili care este produsul final sau dacă fotografiile sunt reale sau mediatizate. Totul se bazează pe experiența de a privi o mulțime de fotografii prin satelit.

GAN-urile inversează acel proces punând două rețele între ele - de unde și cuvântul „adversar”. O rețea convențională ar putea spune: „Prezența x, y și z în aceste grupuri de pixeli înseamnă că aceasta este o imagine a unei pisici.” Dar o rețea GAN ar putea spune: „Aceasta este o imagine a unei pisici, deci x, y și z trebuie să fie prezente. Ce sunt x, y și z și cum se raportează? ”Rețeaua adversă învață cum să construiască sau să genereze, x, y și z într-un mod care să convingă prima rețea neuronală sau discriminatorul, că ceva există? când, poate, nu este.

Mulți savanți au găsit GAN-urile utile pentru depistarea obiectelor și sortarea imaginilor valabile din cele false. În 2017, savanții chinezi au folosit Gans pentru a identifica drumurile, podurile și alte caracteristici din fotografiile din satelit.

Preocuparea, în calitate de tehnologi AI a spus Cuarţ Anul trecut, aceeași tehnică care poate discerne podurile reale de la cele false poate ajuta, de asemenea, la crearea de poduri false pe care AI nu le poate spune din realitate.

Myers se îngrijorează că, pe măsură ce lumea se bazează din ce în ce mai mult pe imagini cu sursă deschisă pentru a înțelege terenul fizic, doar o mână de seturi de date manipulate cu experiență, introduse pe linia de aprovizionare cu imagini open source ar putea crea ravagii. „Uitați de [Departamentul Apărării] și [comunitatea de informații]. Imaginați-vă că Google Maps este infiltrat cu asta? Și imaginați-vă la cinci ani de acum când Tesla [auto-conducere] semis există lucruri de rutare? ”a spus el.

Când vine vorba de videoclipuri false despre oameni, indicatori biometrici ca pulsul și vorbirea pot învinge efectul fals. Dar peisajul fals nu este vulnerabil la aceleași tehnici.

Citește povestea completă aici ...