Twitter otkriva da je odustao od AI obrezivanja zbog rasne i rodne pristranosti

Ideju da Twitter-ov algoritam za obrezivanje slika možda ima nekih pristranosti prvi smo puta čuli u rujnu 2020. godine. Kriptografski inženjer Tony Arcieri prenio je dvije slike na kojima su lider većine u senatu Mitch McConnell i bivši predsjednik Barack Obama, a AI je oba puta obrezana na McConnellovom licu.

Kad je kontroverza na kraju došla do ljudi na Twitteru, tvrtka je obećala da će analizirati svoj model. Konačno, moramo pročitati te nalaze.

Twitter dijeli rezultate svoje analize algoritma

Početkom svibnja Twitter je napokon izbacio preglede slika u punoj veličini na svojim mobilnim vremenskim trakama. Post na blogu Twitter otkrio je da je aplikacija primijenila svoj algoritam za obrezivanje slike nakon što je analiza pokazala da ima pristranosti na temelju rase i roda.

Platforma je počela koristiti algoritam istaknutosti 2018. za obrezivanje svojih slika. Twitter kaže da se modeli izdvajanja obučavaju na podacima o praćenju ljudskog oka, koje zatim koristi algoritam za procjenu za koje subjekte / elemente na slici smatra da su za njih najvjerojatnije najvažniji narod.

Tada bi algoritam smislio ocjenu vidljivosti za sve dijelove slike prije nego što je odabrao točku s najvišim rezultatom koja će biti središte obrezivanja.

Nakon što je proveo kvantitativni test za provjeru potencijalnih pristranosti, tim je otkrio da se čini da algoritam istaknutosti daje prednost ženama u odnosu na muškarce i bijele osobe u odnosu na crnce.

Twitter je također testirao algoritam za "muški pogled", ali nije pronađen nijedan dokaz pristranosti objektivizacije.

Čak i ako je algoritam izdvojenosti prilagođen tako da odražava savršenu jednakost među rasnim i rodnim podskupinama, mi [Twitter] smo zabrinuti predstavljanjem štete automatiziranog algoritma kada ljudi ne smiju predstavljati sebe kako žele na platforma. Izdržljivost također ima i druge potencijalne štete izvan opsega ove analize, uključujući neosjetljivost na kulturne nijanse.

Razmatrajući kompromise između brzine i dosljednosti automatiziranog usjeva i njegovih rizika, Twitter kaže da je njegov tim shvatio da je način obrezivanja slike odluka koju ljudi najbolje donose - ne algoritmi.

Povezano: Tehnološki trendovi koji već mijenjaju budućnost

Twitter se rješava automatskog obrezivanja slika

Twitter više ne koristi algoritam istaknutosti i sada u potpunosti prikazuje fotografije standardnog omjera stranica i na iOS-u i na Androidu. Kada izrađujete tweet, otkrit ćete da novo ažuriranje također uključuje pravi pregled prenesenih slika, tako da znate kako će sve izgledati nakon objavljivanja.

Ako ste zainteresirani za čitanje akademskog rada studije, možete ga pronaći na arXiv.org. Twitterov kôd za analizu možete pronaći i na GitHub.

Kako prenijeti i pregledati 4K slike na Twitteru

Aplikacija Twitter sada vam omogućuje prijenos i pregled slika u 4K. Evo kako promijeniti postavke.

Pročitajte Dalje

O autoru