Umjetna inteligencija i strojno učenje mogu učiniti čuda, od stvaranja umjetnosti do automatizacije administrativnih poslova. Ali oni također predstavljaju rizik jer mogu osnažiti loše glumce trikovima poput deepfakea.

Kako se ova konkretna tehnologija razvija, dobra je ideja naučiti kako deepfakeovi zapravo funkcioniraju i tko bi ih uopće želio koristiti—i legitimno i ilegalno.

Zašto je važno razumjeti kako i zašto se Deepfakeovi koriste

Glavne primjene tehnologije deepfake uglavnom se vrte oko smiješnih, pornografskih ili filmskih materijala, ali studija je dokazala da deepfakes mogu zavarati prepoznavanje lica. Samo to je razlog za brigu i oprez.

Što se tehnologija više koristi u svakodnevnom životu i velikim projektima, to njeni programeri bolje uče stvarati besprijekorne lažne videozapise ljudi, bilo da su slavne osobe ili članovi obitelji.

Razumijevanje kako se zaštititi od deepfake videa sada je neophodan, s obzirom na to koliko željno industrije prihvaćaju pogodnosti tehnologije, posebno u industriji zabave.

instagram viewer

Hollywood ga je koristio na nekoliko projekata davno prije Metaphysic's deepfake AGT unos, koji je pokazao svijetu koliko stvaranje deepfakea može biti brzo i učinkovito. Evo što taj proces uključuje.

Kako funkcioniraju Deepfakeovi?

Što se tiče onoga što stoji iza deepfakea, trag je u imenu: duboko učenje, znanost o umjetnim neuronskim mrežama (ANN). Ono što oni rade za deepfake algoritme je apsorbiranje podataka, učenje iz njih i stvaranje novih podataka u obliku izraza lica ili cijelog lica postavljenog preko vašeg.

Programeri softvera deepfake obično koriste jednu od dvije vrste ANN-a: autokodere ili generativne kontradiktorne mreže (GAN).

Autokoderi uče replicirati mase podataka koje dobivaju, uglavnom fotografije lica i izraza lica, i ponovno stvaraju tražene skupove podataka. Međutim, rijetko su točne kopije.

GAN-ovi, s druge strane, imaju pametniji sustav, koji uključuje generator i diskriminator. Prvi reproducira podatke koje je naučio u deepfake koji zatim moraju zavarati drugog.

Diskriminator uspoređuje kreacije generatora sa stvarnim slikama i utvrđuje njihovu učinkovitost. Najbolji deepfakeovi su, naravno, oni koji savršeno oponašaju ljudsko ponašanje.

Dakle, kako se deepfakeovi izrađuju ovom tehnologijom? Algoritmi koji stoje iza aplikacija poput Ponovno lice i DeepFaceLab neprestano uče iz podataka koji prolaze kroz njih kako bi mogli učinkovito prilagoditi crte lica i izraze ili slojiti jedno lice preko drugog.

Softver je u osnovi uređivač videozapisa posebno dizajniran za manipuliranje licima. Neke su aplikacije složenije od drugih, ali sve u svemu možete učiniti sve, od toga da nekoga ostarite do toga da se montirate u filmove.

Ali tehnologija još uvijek ima nedostataka. Stvaranje Deepfakea može biti kompliciranije od kako nastaju lažni videi uživo, ali može se jednako lako detektirati kao lažno.

Kako prepoznati Deepfake

Budući da se deepfakeovi uglavnom izrađuju strojevima, crte ili maniri digitalnog lica ne izgledaju uvijek prirodno. Moguće je i pogreške u postavljanju videozapisa. Drugim riječima, možete prepoznati lažnu snimku ako znate što tražite.

Evo nekoliko znakova:

  • Neprirodno treptanje: Strojno učenje često zanemaruje treptanje očima ili ga čini nespretnim.
  • Mutne ili nestabilne značajke: Nečija kosa, usta ili brada mogu biti blago zamućeni ili se pomicati na čudne, često pretjerane načine.
  • Nedostatak ili krivo predstavljanje emocija: Loši deepfakei su ravnodušni ili loše oponašaju emocije.
  • Nespretan govor tijela: Ako osoba u videu pomiče glavu ili tijelo na iskrivljen ili nepovezan način, to bi moglo biti deepfake.
  • Pogrešne boje i osvjetljenje: Promjena boje, neobjašnjiva svjetla i sjene sigurni su znakovi lažnog videa.
  • Nedosljedni objekti: Dok prilagođava videozapis, softver deepfake može pogriješiti, poput mijenjanja oblika odjeće, nakita i pozadinskih predmeta.
  • Loš zvuk: Deepfakes mogu iskriviti govor i zvukove u videu.

Iskoristite najbolje načini za uočavanje deepfakeova tako što ćete naučiti za što su takvi videozapisi obično napravljeni i obratiti pozornost na detalje u snimci koju vidite na internetu—usporite, ako je moguće.

Osim toga, razvija se sve više alata, poput Microsoftov autentifikator i Sensity's Forenzičko Deepfake Detection, koji analiziraju videozapise na razini minute.

Tko koristi Deepfake?

Filmski redatelji sve više koriste deepfakeove kako bi ostarili ili zamijenili lica glumaca, kao u Ratovima zvijezda. Umjetnici uspijevaju oživjeti portrete i natjerati ih da govore i pjevaju.

Marketinški stručnjaci eksperimentiraju s tehnologijom deepfake za promotivni sadržaj koji ne zahtijeva angažiranje glumaca. Tvrtke poput WPP-a također ga primjenjuju na svoje videozapise o obuci.

Tehničari općenito stvaraju smiješne videozapise u kojima mijenjaju lica s prijateljima ili stavljaju jednog glumca preko drugog u popularnim filmovima. Sylvester Stallone preuzeo je naslov Sam u kući, a Joker Heatha Ledgera pojavio se u Viteškoj priči.

Nažalost, ako istražite za što se još koristi tehnologija deepfake, pronaći ćete mnogo zlonamjernih slučajeva. Proizvođači deepfakea vole širiti dezinformacije i uvredljive poruke, kao i ciljati slavne osobe i stavljati ih u filmove za odrasle. Ljude čak ucjenjuju lažnim snimkama.

U svom trenutnom neobuzdanom obliku, deepfake je sinonim za rizik za ljudska prava na privatnost, sigurnost, pa čak i autorska prava, na primjer, kada algoritam jasno koristi fotografiju ili umjetničko djelo koje nije javno dostupno.

Zbog toga zemlje i brendovi popuštaju. Od 2021., prema Karta Cyber ​​Civil Rights Initiative Od zakona o deepfakeu u SAD-u, četiri države sada se bore protiv objavljenih deepfake videozapisa koji prikazuju nekoga na eksplicitan ili na drugi način štetan način.

Kina također poduzima korake za kriminalizaciju deepfakeova koji štete ljudima i društvu, bilo kršenjem individualnih prava ili širenjem lažnih vijesti. Čak oglasila se Meta 2020. da obmanjujući, manipulirani videozapisi nisu bili dobrodošli.

Osim regulative, službena tijela diljem svijeta zalažu se za bolje otkrivanje i prevenciju zločina deepfake. The Izvješće Rathenau Institututa o tome kako bi se europska politika trebala nositi s deepfake-ovima podržava softver s alatima kao što su prepoznavanje govornika i lica, otkrivanje živosti glasa i analiza crta lica.

Saznajte kako vas Deepfakeovi dovode u zabludu

Deepfakeovi su već postali mainstream, u dobru i zlu. Dakle, uživajte u smiješnim i nadahnutim videozapisima dok se pripremate uhvatiti u koštac sa zlonamjernim.

Na kraju dana, što je deepfake kao što je ovaj, nego alat dizajniran da vas prevari? Ako znate što tražiti i kako reagirati, ono ima manju moć nad vama.

Na primjer, moći ćete uočiti deepfake na društvenim mrežama uz lažne vijesti i račune te izbjeći dezinformacije, pokušaje krađe identiteta i više. Kako se tehnologija otkrivanja i sprječavanja deepfake bude poboljšavala, dolazit će vam više podrške.