6 velikih problema s Deepfake glazbom

Nove pjesme poznatih izvođača postaju viralne na društvenim mrežama, što inače nije problem, osim kada je glas klona taj koji pjeva. Iako je bila jedan od posljednjih medija koji se održao, deepfake glazba sada je stvarnost.

Djeluje tako da obučava AI model na glasu pjevača, a rezultati nisu uvijek loši. Postoji mnogo prave kreativnosti u stvaranju deepfake pjesama, ali problem nije samo u izlazu. U mnogim slučajevima dopuštenje nije dano, a pitanja o tome tko dobiva plaću i je li to etično, samo su neki od problema deepfake glazbe.

1. Neovlašteni skupovi podataka

Ako želite stvoriti deepfake pjesmu poznatog izvođača, trebate prikupiti audiodatoteke njihovog pjevačkog glasa u skup podataka. Kao i svaki drugi podatak koji pripada nekome, vjerojatno biste trebali dobiti njegovo dopuštenje za korištenje, ali deepfake pjesma može dospjeti na veliku glazbenu platformu poput YouTubea, Spotifyja ili TikToka, nakon korištenja neovlaštenog skup podataka.

To se dogodilo umjetnicima Drakeu i The Weekndu kada je korisnik pod imenom Ghostwriter napravio "Heart on My Sleeve". Uspješnica je sadržavala glasove umjetnika sintetizirane umjetnom inteligencijom, zajedno s stihovima o Weekndovoj bivšoj djevojci.

Obožavatelji su istinski uživali u pjesmi, uz dodatne pohvale Ghostwriteru za kreativnu upotrebu deepfake vokala, ali kao Izvijestio je Seattle Times, nisu svi to vidjeli na taj način. Glasnogovornik Universal Music Groupa, glavne izdavačke kuće koja stoji iza oba izvođača, pita:

"Na kojoj strani povijesti dionici glazbenog ekosustava žele biti: na strani umjetnika, obožavatelja i ljudskog kreativnog izražavanja, ili na strani dubokih krivotvorina, prijevara i uskraćivanja umjetnicima njihove pripadajuće naknade?"

2. Zastarjeli Zakon o autorskim pravima

Ako ste umjetnik koji ne želi da se vaš glas klonira, zakon o autorskim pravima možda vam još neće moći pomoći. Budući da su naši zakoni o autorskim pravima napisani u vrijeme kada ova vrsta AI tehnologije nije postojala, ne čudi da zakoni još uvijek pokušavaju sustići.

Najbliži pravni slučaj "krađe glasa" u SAD-u datira iz 1990-ih. Kao prenosi Los Angeles Times, pjevač Tom Waits dobio je 2,475 milijuna dolara odštete od Frito-Lay Inc., moćnog giganta čipova koji stoji iza Doritosa, Cheetosa, Cracker Jack'sa i drugih.

U reklami je korišten glas nekoga tko je zvučao dovoljno blisko Tomu Waitsu da bi ljudi mogli povjerovati da pravi umjetnik stoji iza reklamne kampanje. Isto se može reći i za deepfake pjesme koje trenutno kruže, ali AI glazba tek treba biti testirana u pravnoj bici.

Dok čekamo da se pravni sustav ažurira, vrijedi napomenuti da nemaju svi problema s ljudima koji kloniraju svoj glas, Holly Herndon, na primjer. Suočena s nadolazećom plimom glazbenih aplikacija umjetne inteligencije, odlučila je autorizirati svog vokalnog blizanca Holly+ uz sustav koji joj je davao poštenu naknadu.

Na koju god stranu da stanete, problem ostaje isti. Ne postoji poseban zakon o autorskim pravima koji propisuje da trebate dobiti dopuštenje izvođača prije upotrebe njegovog glasa. Do tada, umjetnici se mogu naći na divljem zapadu AI tehnologije, bez zakona koji bi ih vodili.

3. Tko dobiva plaću?

Je li u redu zarađivati ​​na glazbi koristeći nečiji glas? To je teško pitanje koje bi moglo postati veći problem kako se sve više deepfake glazbe objavljuje na platformama za strujanje i unovčava na platformama društvenih medija.

Kao što svi znamo, u redu je otpjevati obradu poznate pjesme i objaviti je na YouTubeu ili Spotifyju, a u tom slučaju stvari poput teksta, strukture pjesme, melodije, ritma itd. kopiraju se. Ali vokalni klonovi su prilično različiti, a deepfake glazba nije baš rifiranje postojeće pjesme, već stvaranje potpuno nove pjesme korištenjem tuđeg glasa.

Drugim riječima, glasovni klonovi ne bi postojali da nije bilo AI alata i neovlaštenih skupova podataka. Umjetnici cijeli život bruse glas s kojim su rođeni i stvaraju jedinstven zvuk. Ukrasti nečiji glas i zaraditi na tome možda je korak predaleko.

4. Žanr sive zone

Da stvari budu kompliciranije, neki ljudi možda ne smatraju deepfake glazbu potpuno lošom. Za razliku od deepfake slika ili videozapisa kojima biste se mogli nakratko nasmijati prije nego što ih skrolate na telefonu, deepfake glazba gradi se prema vlastitom žanru.

Neki ljudi to uspoređuju s idejom pisanja obožavatelja, zabavnim i kreativnim načinom odavanja počasti umjetniku. To je pozitivniji pogled zbog kojeg je teško isključiti deepfake glazbu kao jednostavno tabu. Samo pogledajte pristup Holly Herndon kloniranju glasa pomoću umjetne inteligencije u videu ispod.

Iako se ne slažu svi da bi ova vrsta glazbe trebala biti dopuštena. Kao Piše Financial Times, glavna diskografska kuća, Universal Music Group, namjeravala je ukloniti pjesme niže kvalitete s platformi za streaming, uključujući one koje je stvorila umjetna inteligencija. Na kraju će platforme za streaming kao što su Spotify, Apple Music ili Tidal morati donijeti odluku je li ovaj žanr glazbe dopušten na njihovoj platformi.

Deepfake glazba raspiruje slične rasprave koje se već događaju u svijetu umjetnosti: treba li umjetnost generiranu umjetnom inteligencijom smatrati umjetnošću? Samo sada propitujemo AI glazbu.

5. Etička zabrinutost oko rase i identiteta

Era deepfake glazbe započela je s puno glazbe koja oponaša rap glazbu. Uz povijesne korijene žanra koji sežu do Afroameričke mladeži koja je odrastala u Bronxu, New York City, ranih 1970-ih, neki su ljudi zabrinuti zbog rase i identiteta u AI glazbi.

Pisac Lauren Chanel, jedna je osoba kojoj je deepfake glazba ozbiljan problem. Kao što je navedeno u an članak New York Timesa, objašnjavaju:

"To je još jedan način za ljude koji nisu crnci da obuče kostim crnca - da dignu ruke Kanyea ili Drakea i naprave od njega marionetu - a to je alarmantno za mene.” “Ovo je samo još jedan primjer u dugom nizu ljudi koji podcjenjuju što je potrebno za stvaranje vrste umjetnosti koju, povijesno, crnci napraviti."

Ovo nije prvi put da glazba stvorena AI alatima nije uspjela biti etična. Kao objavio je časopis Rolling Stone, virtualni avatar reper po imenu FN Meka potpisao je ugovor za diskografsku kuću, a zatim je brzo odustao kada je online civilno skupina za ljudska prava Industry Blackout napisala je da projekt održava "grube stereotipe" o Backu Kultura.

Ako ništa drugo, deepfake glazba nas podsjeća da se alati umjetne inteligencije ne mogu odvojiti od povijesti stvaranja glazbe, a ignoriranje toga doprinosi opasnosti AI deepfakeova.

6. Nanošenje štete umjetnicima

Jedna stvar koju ne treba zanemariti je emocionalni utjecaj koji bi deepfake pjesma mogla imati na izvođača, osobito kada je glas kloniran mogu pjevati o situacijama koje se nikad nisu dogodile, izražavati emocije koje nisu njihove i pretvarati se da im je stalo do stvari koje možda nisu.

U slučaju lažne Drakeove pjesme ft. The Weeknd, stihovi su uključivali stihove o Seleni Gomez koja je izlazila s The Weekndom. Koristeći mješavinu činjenica iz stvarnog života i izmišljenih tekstova, radilo se o čudnom iskrivljavanju stvarnosti koje bi moglo biti štetno za umjetnika koji je proživio stvarno iskustvo.

Slično tome, stvarajući tekstove generirane umjetnom inteligencijom "u stilu" nekoga poznatog koji koristi AI generatore teksta doveo je neke umjetnike do očaja zbog upotrebe AI tehnologije. Kako kaže Nick Cave, "Ono što je ChatGPT, u ovom slučaju, je replikacija kao travestija."

Deepfake glazba je sposobna staviti riječi u usta umjetnika koje nikada nisu izgovorili, ili u ovom slučaju, otpjevali. Na osobnoj razini, to može biti štetno za umjetnika koji ima malo kontrole nad uklanjanjem sadržaja, a da ne vodi bitku na sudu.

Priprema za promjene u glazbenoj industriji

Zahvaljujući sve većem pristupu AI alatima, glazba je ušla u svijet deepfakea, posebice putem glasovnih klonova. Izuzetno je teško razlikovati glas umjetne inteligencije od ljudskog glasa samo slušanjem, što olakšava da deepfake pjesma stigne do platformi za strujanje prije nego što se ukloni.

S jedne strane, obožavatelji bi mogli uživati ​​u deepfake glazbi i mogao bi se pojaviti valjani žanr koji koristi poznate glasove za stvaranje nove i zanimljive glazbe. Ali ne slaže se svaki umjetnik s kloniranjem glasa i ne postoje zakoni koji sprječavaju ljude da stvaraju neovlaštene skupove podataka.

Dobivanje pristanka, kompenzacija umjetnicima i razmatranje etičkih pitanja samo su neki od problema s kojima se suočavaju umjetnici i glazbena industrija. S brzim razvojem tehnologije umjetne inteligencije, vrijedi zastati i razmisliti o problemima koje je stvorila.