Kada su u pitanju društveni mediji, svi znamo da osim brojnih prednosti koje pružaju u uspostavljanju veza lakše, također mogu postojati određeni rizici i opasnosti koji dolaze s interakcijom na mreži, posebno za mlade ljude. Srećom, postoje aplikacije koje su proaktivne i pokušavaju ograničiti te štete koje mogu nanijeti mladim ljudima implementacijom odgovarajućih tehnologija moderiranja.
Yubo, aplikacija za otkrivanje društvenih mreža uživo koju najviše koristi Generacija Z, objavila je da će moderiranje audio prijenosa uživo tehnologija se širi na svoja najveća tržišta, naime u Sjedinjene Države, Ujedinjeno Kraljevstvo, Australiju i Kanada.
Ovo dolazi nakon nekoliko mjeseci testiranja značajke u nekim područjima Sjedinjenih Država, jer je tvrtka naučila kako se uhvatiti u koštac s problemima koji dolaze s analizom zvuka u stvarnom vremenu.
Važnost moderiranja sadržaja
Moderiranje sadržaja na mreži težak je posao. Vidjeli smo ovo s Facebookom, Twitterom i Instagramom i tako dalje. Između uvreda, komentara punih mržnje ili čak ponekad nasilja ili samoozljeđivanja, moderiranje je iznimno važno kako bi ove platforme bile sigurne, a njihovi korisnici zaštićeni. Postoji nešto u mogućnosti skrivanja iza navodne anonimnosti koju nudi internet što može izvući ono najgore iz nekih ljudi.
Pa, Yubo nastavlja pokazivati da čini sve što može kako bi spriječio ovo, pogotovo jer je njegova baza korisnika mnogo mlađa. Prema Yubu, 99% njihove korisničke baze je generacija Z u dobi od 13 do 25 godina. Iako uznemiravanje na internetu nije lijepo za bilo koga trpjeti, ono može biti posebno štetno za tinejdžere.
Tehnologija moderiranja slika i videa postoji već neko vrijeme i implementirana je s različitim fazama uspjeha. Audio moderiranje, međutim, ostao je veliki izazov, posebno s prijenosima uživo. Bilo da se radi o prijenosu uživo snimljenom dok hodate ulicom ili o onom u kojem netko igra video igricu, zapravo nije važno.
Kako radi Yubo audio moderiranje
Počevši od svibnja 2022., Yubo je započeo probnu fazu svoje tehnologije moderiranja zvuka u raznim područjima diljem Sjedinjenih Država. Sada sljedeća faza uključuje većinu regija engleskog govornog područja u kojima Yubo ima veliku korisničku bazu kako bi se tvrtki omogućio bolji uvid u njihov novi sigurnosni alat.
Iako je još nova, ovo je tehnologija koja bi se u budućnosti mogla široko koristiti za otkrivanje nasilja ili samoozljeđivanja.
Yubo to ne radi sam, već u suradnji s Hiveom. Hive je, ako niste čuli za njih, tvrtka koja stvara i pruža API-je za moderiranje sadržaja za obradu slika i videozapisa u gotovo stvarnom vremenu.
Tehnologija koju je Yubo implementirao funkcionira tako što snima i transkribira isječke zvuka od 10 sekundi u livestreamovima od 10 ili više ljudi. Umjetna inteligencija odmah analizira tekst kako bi otkrila sve riječi ili izraze koji krše pravila aplikacije Smjernice zajednice.
Čekaj, ne staje ovdje. Iako umjetna inteligencija može biti izvrsna u otkrivanju takvih stvari, još je daleko od točke u kojoj može razlikovati stvarne problematične upotrebe od lažnih zastava.
Lažne zastave mogu biti, na primjer, pjesme koje sviraju u pozadini ili razigrani jezik koji nije zlonamjeran.
Dakle, ovdje Yubovi stručnjaci za sigurnost stupaju na scenu, jer su dovedeni da istraže označene incidente. Ljudi su ti koji mogu odrediti treba li situacija eskalirati ili ne ako postoje akcije to bi trebalo poduzeti protiv ljudi koji se ružno izražavaju, ili čak i ako je potrebno dovesti policiju u.
Ako je prijenos uživo u redu, transkripti se ne pregledavaju niti čuvaju nakon ograničenja od 24 sata, tako da sve ostaje privatno; ili privatno koliko može biti prijenos uživo s više od 10 ljudi.
Međutim, ako algoritmi otkriju nasilne prijetnje, govor mržnje ili samoozljeđivanje, na primjer, transkripti se pohranjuju do godinu dana. Ovo je, naravno, sigurnosna mjera za tvrtku u slučaju da službe za provedbu zakona zatraže informacije ili da sama tvrtka treba pojedinosti za daljnje interne istrage.
Yuboov glavni operativni direktor, Marc-Antoine Durand, vidi širenje audio moderiranje tehnologija kao ključni element u evoluciji online sigurnosti u cijeloj industriji.
„Ima još puno napretka u području detekcije glasa, ali ponosni smo što utiremo put našim vršnjacima kao prvi koji je pokrenuo audio moderiranje s Hiveom i pomogao da ovaj alat postane pouzdaniji i učinkovitiji kroz ovu probu,” Durand rekao je.
Očito, društvene platforme ne žele neobuzdano maltretiranje, govor mržnje i komentare koji potiču nasilje jer bi to odgurnulo druge korisnike. Implementacija takve tehnologije moderiranja izvrstan je alat za zaštitu korisnika, a također i za jamčenje rasta i uspjeha Yuba na duge staze.
