Korisnici Twittera otkrivaju potencijalne rasne predrasude u algoritmu auto-obrezivanja

Twitter pokušava utvrditi zašto njegova značajka za pregled fotografija pokazuje znakove rasne predrasude. Nekoliko je korisnika otkrilo da je vjerojatnije da će crna lica biti izrezana iz pregleda fotografija u usporedbi s bijelim licima.

Propust u algoritmu Twittera

Kad vidite sliku na Twitteru, to je samo pregled, morate je kliknuti da biste vidjeli cijelu sliku. Twitter koristi algoritam za obrezivanje fotografija, diktirajući ono što ćete vidjeti u pregledima slika.

2018. Twitter je najavio svoju pametnu značajku automatskog obrezivanja u postu na Twitter blog. Ova značajka koristi "istaknutost" za brušenje najistaknutijih dijelova fotografija, a zatim u skladu s tim urezuje preglede fotografija.

Korisnici Twittera otkrili su da neuronska mreža platforme može imati rasnu predrasudu. Jedan je korisnik objavio sliku američkog senatora Mitcha McConnella zajedno s bivšim predsjednikom Barackom Obamom.

Pregled slike otvoreno izrezuje Obamino lice, čak i kad je njegovo lice postavljeno na vrh fotografije. Kad je isti korisnik pokušao preokrenuti boje slike, Obamino se lice napokon pojavilo u pregledu slike.

Drugi su korisnici počeli provoditi vlastite eksperimente. Korisnici su uvijek iznova otkrili da se čini da algoritam neprestano preferira bijela lica nad crnim licima.

Liz Kelley, članica Twitter komunikacijskog tima, poslala je Tweet u odgovoru na nalaze korisnika Twittera. Primijetila je da će, iako je Twitterov tim već testirao algoritam na pristranost, morati istražiti dalje.

Sva su ta otkrića proizašla iz korisnikova tweeta o a Zumiranje poziva. Zoom kontinuirano nije uspio otkriti lice svog crnog prijatelja kada je pokušao koristiti virtualnu pozadinu. Kad se korisnik okrenuo prema Twitteru kako bi objavio snimke zaslona problema, Twitter je svog crnog prijatelja izrezao iz pregleda slike.

Izbacivanje pristranosti iz Twittera

Iako su svi ovi eksperimenti neformalni, čini se da ističu stvarni problem. Twitter će definitivno morati pažljivije pogledati značajku automatskog obrezivanja i provjeriti ima li ukorijenjenu rasnu predrasudu.

Ipak, Twitter-ov algoritam za automatsko obrezivanje nije jedina značajka Twittera koja je kritizirana. Napokon, mnogi korisnici također nisu ljubitelji algoritma platforme koji automatski raspoređuje vaš feed.

Kako (i zašto) onemogućiti algoritamske feedove na Twitteru, Instagramu i Facebooku

Algoritamski feed služi samo društvenim mrežama. Evo kako se prebaciti na kronološki feed na Twitteru, Instagramu i Facebooku.

O autoru