Može li Deepfake prevariti prepoznavanje lica? Nova studija kaže da!

Deepfakes i videozapisi generirani AI-om ostaju tu. No, u posljednjih nekoliko godina kvalitet i količina su porasli, zbog čega se mnogi brinu za nacionalnu sigurnost i osobnu privatnost.

Ipak, koliko god se anonimni korisnici na mreži trudili da svoj lažni video učine realnim, nikada nisu mogli zaobići napredni softver za prepoznavanje lica. Do sada.

Zaglušujući API -ji za prepoznavanje lica

Istraživači sa Sveučilišta Sungkyunkwan u Suwonu, Južna Koreja, testirao kvalitetu trenutne deepfake tehnologije. Testirali su Amazon i Microsoft API-je koristeći open-source i često korišteni softver za generiranje dubokih lažnih videozapisa kako bi vidjeli koliko dobro rade.

Istraživači su koristili lica holivudskih slavnih osoba. Kako bi stvorio čvrste duboke lažne signale, softveru je potrebno mnogo visokokvalitetnih slika iz različitih kutevi istih osoba, koje je mnogo lakše steći slavnih umjesto običnih narod.

Istraživači su također odlučili koristiti Microsoft i Amazonov API kao mjerila za svoju studiju jer obje tvrtke nude usluge prepoznavanja lica poznatih osoba. Koristili su javno dostupne skupove podataka i stvorili nešto više od 8.000 deepfakea. Iz svakog dubokog lažnog videa izvukli su više snimaka lica i poslali ih API -ima.

Uz Microsoftove Azure kognitivne usluge, istraživači su uspjeli prevariti sustav 78 posto vremena pomoću deepfakea. Amazonovi rezultati bili su nešto bolji, pa je 68 posto prijavljenih lica identificirano kao stvarno.

Što je s Deepfake detektorima?

Deepfake detektori rade manje -više na isti način kao i deepfake. Detektori su softver koji je obučen primjenom modela strojnog učenja o tome kako otkriti duboke lažne videozapise.

No, umjesto da se usredotoče na stvaranje hiperrealističnog videa kako bi zavarali detektore, deepfakes sada može uključiti kontradiktorne primjere u svaki okvir kako bi zbunio AI sustav. Zapravo, deepfake napadi ove vrste imaju uspjeh u rasponu od 78 do 99 posto.

Sve je gore

Deepfakes aplikacija je za strojno učenje. Da biste stvorili sliku koja je i najmanje uvjerljiva, potrebne su vam stotine slika lica iste osobe iz različitih kutova i koje prikazuju različite emocije.

Zbog potrebe za ogromnom količinom podataka, moglo bi se pomisliti da su u opasnosti samo ljudi s velikom prisutnošću na internetu, poput poznatih osoba i političara. Ali to više nije slučaj.

Prema Deeptraceu, broj deepfakea na mreži povećan je za 330 posto u manje od godinu dana - od listopada 2019. do lipnja 2020. Da ne spominjemo, softver i algoritmi koji koriste proizvođači dubokih lažnih proizvoda postaju sve jači i dostupniji i pristupačniji.

Tko je u opasnosti od Deepfakes -a?

Kad su deepfakes prvi put postali mainstream, primarni brige su bile za privatnost i nacionalnu sigurnost. Ljudi su se bojali da se više ne može vjerovati video zapisima političara i službenih državnih radnika.

No, iako bi bilo neodgovorno zanemariti duboku lažnu poziciju sigurnosnog rizika, više je istraživanja pokazalo da proizvođače dubokih laži još nisu toliko zainteresirani za uznemiravanje politike. Većina video zapisa na internetu može se podijeliti u dvije kategorije: smiješni videozapisi s intervjuima sa slavnim osobama te filmovi i pornografski materijal.

Iako je nedavno istraživanje provedeno pomoću lica poznatih osoba kako bi se osiguralo da su duboki lažni proizvodi visoke kvalitete kako bi prevarili API -je, to ne znači da ne možete napraviti duboke lažne s manje podataka. Naravno, možda nemaju šanse zavaravati napredne sustave prepoznavanja lica, ali mogu biti dovoljno uvjerljivi da prevare druge ljude.

U današnje vrijeme dubinski lažni podaci svakoga tko je društveno prisutan mogu se učiniti uvjerljivo. Sve što im treba je nekoliko vaših fotografija i možda video u kojem se pojavljujete. Rezultirajući deepfake može biti niske kvalitete, ali je i dalje izvediv i može biti štetan.

Budućnost je još uvijek nepoznata

Postoje mnoga kontradiktorna predviđanja u pogledu stanja dubokih krivotvorina, jer ona uskoro neće nestati.

Neki očekuju apokaliptičnu cyber budućnost u kojoj ne možete vjerovati snimkama na koje naiđete na internetu. Drugi su optimističniji, uspoređuju deepfakes s animacijom i govore kako bi to moglo imati budućnost u proizvodnji sadržaja.

Kako se zaštititi od Deepfake videa

Deepfakes postaje sve prisutniji. Evo kako oni mogu ugroziti vašu privatnost na mreži i kako izbjeći ulazak.

Pročitajte Dalje

O autoru