S obzirom na to koliko su deepfakesi potencijalno pogubni za nečiju reputaciju i vrlo ih je teško uočiti kada se dobro urade, oni predstavljaju veliku sigurnosnu brigu. Sada Microsoft želi pomoći u zaustavljanju dubokih lanaca izdavanjem alata koji ih može otkriti.
Prijetnja koju predstavljaju deepfakes toliko je velika da je izazvala Facebook zabraniti sav deepfake sadržaj. Međutim, najveća je prepreka način na koji deepfakes izgleda uvjerljivo; kao takvo, pronalaženje i potvrđivanje deepfakea vrlo je teško.
Facebook zabranjuje deepfakes i Photoshopped fotografije. Ideja je ukloniti manipulirane medije dizajnirane za obmanjivanje korisnika.
Kako je izvješteno Microsoft o pitanjima, tvrtka to želi promijeniti svojim novim alatom. Zove se Microsoft Video Authenticator i analizira videozapise kako bi potražio "šavove" koji su ostali iza dubokog stvaranja. Ti su šavovi nevidljivi za ljudske oči, ali računalo ih može uočiti pomoću analize okvira po kadar.
Da bi spriječio zlonamjerne agente da obrnuto inženjeriraju tehnologiju, Microsoft Video Authenticator neće biti javno izdanje. Umjesto toga, Microsoft distribuira svoj sustav vijestima i političkim organizacijama. Na taj način te organizacije mogu koristiti alat za odvajanje stvarnog od lažnog.
Međutim, Microsoft je najavio drugu tehnologiju za prepoznavanje deepfakesa. Tvrtka predlaže sustav u kojem kreator sadržaja može svoje videozapise označiti jedinstvenim "potpisom". Ako videozapis je uređen, generirat će drugačiji potpis od originala, identificirajući na taj način a deepfake.
Autorica Deep Fakes and the Infocalypse, Nina Schick, rekla je sljedeće:
Jedina stvarno široko rasprostranjena upotreba koju smo do sada vidjeli je pornografija bez pristanka protiv žena. No, očekuje se da će sintetički mediji postati sveprisutni za otprilike tri do pet godina, tako da ove alate moramo razvijati prema naprijed. Međutim, kako se mogućnosti otkrivanja poboljšavaju, tako će se povećavati i mogućnosti generiranja - nikad bit će slučaj da Microsoft može objaviti jedan alat koji može otkriti sve vrste videozapisa manipulacija.
Dubinske kopije značajni su problem vjerodostojnosti medija, a tvrtke trebaju put do toga reći što je stvarno od onoga što je fikcija. Microsoft je objavio alat koji pomaže uočavanju uređenih videozapisa. Međutim, hoće li alat biti dovoljan da ide u korak s deepfake programerima, tek ćemo vidjeti.
Ako niste sigurni što su deepfakes i zašto su važni, svakako vrijedi odvojiti malo vremena da biste saznali više o njima. Deepfakes će postati ekvivalent "Photoshopping" ovog desetljeća i mogu nanijeti ozbiljnu štetu ako se zlonamjerno koriste.
Lažni videozapisi generirani umjetnom inteligencijom u potpunosti potkopavaju naše razumijevanje svjetskih događaja. Evo kako deepfakeovi mogu sve promijeniti.
- Internet
- Sigurnost
- Tehničke vijesti
- Microsoft
- Lažne vijesti
- Duboke lažne
- Kibernetička sigurnost
Diplomirani inženjer računarstva s dubokom strašću za sigurnost svih stvari. Nakon rada u indie studiju za igre, pronašao je svoju strast prema pisanju i odlučio je upotrijebiti svoje vještine kako bi pisao o svim tehnološkim stvarima.
Pretplatite se na naše obavijesti
Pridružite se našem biltenu za tehničke savjete, recenzije, besplatne e-knjige i ekskluzivne ponude!
Još jedan korak…!
Potvrdite svoju e-adresu u e-pošti koju smo vam upravo poslali.