Što je PhotoDNA i kako djeluje?

Internet je olakšao mnoge stvari, od održavanja kontakta s prijateljima i obitelji do zapošljavanja, pa čak i rada na daljinu. Prednosti ovog povezanog računalnog sustava su ogromne, ali postoji i loša strana.

Za razliku od nacionalnih država, internet je globalna mreža koju niti jedna vlada ili tijelo ne može kontrolirati. Posljedično, ilegalni materijal završi na internetu, a nevjerojatno je teško spriječiti patnju djece i uhvatiti odgovorne.

Međutim, tehnologija koju je zajedno s Microsoftom razvio PhotoDNA korak je prema stvaranju sigurnijeg internetskog prostora za djecu i odrasle.

Što je PhotoDNA?

PhotoDNA je alat za identifikaciju slike, prvi put razvijen 2009. Iako je prvenstveno usluga koju podržava Microsoft, zajednički ju je razvio profesor Hany Farid s Dartmouth Collegea, stručnjak za digitalnu analizu fotografija. Svrha PhotoDNA je identificirati nelegalne slike, uključujući i materijal za seksualno zlostavljanje djece, općenito poznat kao CSAM.

Kako su pametni telefoni, digitalni fotoaparati i brzi internet postali sve uobičajeniji, tako je i količina CSAM-a pronađena na internetu. U pokušaju da se te slike identificiraju i uklone, uz ostale nezakonite materijale, baza podataka PhotoDNA sadrži milijune unosa za poznate slike zlostavljanja.

Microsoft upravlja sustavom, a bazu podataka održava Nacionalni centar za nestalu i iskorištenu djecu sa sjedištem u SAD-u (NCMEC), organizacija posvećena sprječavanju zlostavljanja djece. Slike dospijevaju u bazu podataka nakon što su prijavljene NCMEC -u.

Iako nije jedina usluga za pretraživanje poznatog CSAM-a, PhotoDNA je jedna od najčešćih metoda, uključujući mnoge digitalne usluge poput Reddita, Twittera i većine proizvoda u vlasništvu Googlea.

PhotoDNA je morala biti fizički postavljena lokalno u prvim danima, ali Microsoft sada upravlja uslugom PhotoDNA Cloud koja se temelji na oblaku. To omogućuje manjim organizacijama bez velike infrastrukture da poduzmu otkrivanje CSAM -a.

Kako funkcionira PhotoDNA?

Kad korisnici interneta ili agencije za provođenje zakona naiđu na slike zloupotrebe, prijavljuju se NCMEC -u putem CyberTipline. Oni su katalogizirani, a podaci se dijele s policijom ako već nisu. Slike se učitavaju u PhotoDNA, koji zatim pristupa stvaranju raspršivača ili digitalnog potpisa za svaku pojedinačnu sliku.

Kako bi se došlo do ove jedinstvene vrijednosti, fotografija se pretvara u crno -bijelu, podijeljena na kvadrate, a softver analizira nastalo zasjenjivanje. Jedinstveni raspršivač dodaje se u bazu podataka PhotoDNA, dijeli je između fizičkih instalacija i PhotoDNA oblaka.

Pružatelji softvera, agencije za provedbu zakona i druge pouzdane organizacije mogu implementirati skeniranje PhotoDNA u svoje proizvode, softver u oblaku ili druge medije za pohranu. Sustav skenira svaku sliku, pretvara je u vrijednost raspršivanja i uspoređuje je s raspršivanjima baze podataka CSAM.

Ako se pronađe podudarnost, upozorava se odgovorna organizacija, a detalji se prosljeđuju policiji radi kaznenog progona. Slike se uklanjaju sa usluge, a korisnički račun se ukida.

Važno je da se ne pohranjuju podaci o vašim fotografijama, usluga je potpuno automatizirana bez ljudskog udjela i ne možete ponovno stvoriti sliku iz hash vrijednosti.

Od 2015. organizacije su također mogle koristiti PhotoDNA za analizu videozapisa.

U kolovozu 2021. Apple je prekinuo korak s većinom drugih Big Tech tvrtki i najavio da će koristiti svoje usluga za skeniranje korisnikovih iPhonea za CSAM.

Razumljivo, ti su planovi dobili značajnu reakciju jer se činilo da krše stav tvrtke o zaštiti privatnosti, i mnogi su ljudi zabrinuti da će skeniranje postupno uključivati ​​i one koji nisu CSAM, što će na kraju dovesti do stražnjih vrata zakona ovrha.

Koristi li PhotoDNA prepoznavanje lica?

Ovih dana smo dovoljno upoznati s algoritmima. Ove kodirane upute prikazuju nam relevantne, zanimljive postove na našim feedovima na društvenim mrežama, podržavaju sustave prepoznavanja lica, pa čak i odlučuju hoće li nam ponuditi razgovor za posao ili ćemo ući na fakultet.

Možda mislite da bi algoritmi bili srž PhotoDNA -e, ali automatiziranje otkrivanja slike na ovaj način bilo bi vrlo problematično. Na primjer, bilo bi nevjerojatno invazivno, narušilo bi našu privatnost, a to ne znači da algoritmi nisu uvijek ispravni.

Google je, na primjer, imao dobro dokumentirane probleme sa svojim softverom za prepoznavanje lica. Kada je Google Photos prvi put pokrenut, uvredljivo je pogrešno kategorizirao crnce kao gorile. U ožujku 2017., nadzorni odbor Predstavničkog doma čuo je da su neki algoritmi za prepoznavanje lica bili pogrešni 15 posto vremena i da je veća vjerojatnost da će pogrešno identificirati crnce.

Ovi vrste algoritama strojnog učenja sve su uobičajenije, ali može biti izazovno na odgovarajući način pratiti. U stvari, softver sam donosi odluke i morate promijeniti način na koji je došao do određenog ishoda.

Razumljivo, s obzirom na vrstu sadržaja koju PhotoDNA traži, učinak pogrešne identifikacije mogao bi biti katastrofalan. Srećom, sustav se ne oslanja na prepoznavanje lica i može pronaći samo unaprijed identificirane slike s poznatim raspršivanjem.

Koristi li Facebook PhotoDNA?

Kao vlasnik i operater najvećih i najpopularnijih društvenih mreža na svijetu, Facebook se svakodnevno bavi mnoštvom sadržaja koje stvaraju korisnici. Iako je teško pronaći pouzdane, trenutne procjene, analiza u 2013 predlaže da se na Facebook svaki dan otpremi oko 350 milijuna slika.

To će sada vjerojatno biti puno više jer se više ljudi pridružilo usluzi, a tvrtka posluje više mreže (uključujući Instagram i WhatsApp), a mi imamo lakši pristup kamerama pametnih telefona i pouzdane Internet. S obzirom na svoju ulogu u društvu, Facebook mora smanjiti i ukloniti CSAM i druge nezakonite materijale.

Srećom, tvrtka je to riješila rano, odlučila se za Microsoftovu uslugu PhotoDNA 2011. godine. Od objave prije više od deset godina, bilo je malo podataka o tome koliko je to bilo učinkovito. Međutim, 91 posto od svih izvješća o CSAM -u u 2018. bili su s Facebooka i Facebook Messengera.

Čini li PhotoDNA internet sigurnijim?

Usluga koju je razvio Microsoft nesumnjivo je bitan alat. PhotoDNA igra ključnu ulogu u sprječavanju širenja ovih slika, pa čak može pomoći i djeci u riziku.

Međutim, glavna mana sustava je ta što može tražiti samo unaprijed identificirane slike. Ako PhotoDNA nema pohranjeni hash, onda ne može identificirati zloupotrebljive slike.

Lakše je nego ikad uzeti i postaviti slike zloupotrebe visoke razlučivosti na internet, a zlostavljači jesu sve više prelaze na sigurnije platforme poput Dark Weba i šifriranih aplikacija za razmjenu poruka ilegalni materijal. Ako dosad niste naišli na Dark Web, vrijedi pročitati o rizicima povezanim sa skrivenom stranom interneta.

Je li Dark Web nezakonit?

Kriminalne aktivnosti mogu se pronaći putem darkneta, no je li zapravo protuzakonito ići na tamni web?

Pročitajte Dalje

O autoru