6 veľkých problémov s Deepfake Music

Nové piesne od známych interpretov sa stávajú virálnymi na sociálnych sieťach, čo zvyčajne nie je problém, okrem prípadov, keď spieva hlasový klon. Zatiaľ čo to bolo jedno z posledných médií, ktoré vydržali, deepfake hudba je teraz realitou.

Funguje to tak, že trénujete model AI na hlase speváka a výsledky nie sú vždy zlé. Pri vytváraní deepfake skladieb je veľa skutočnej kreativity, ale problém nie je len vo výstupe. V mnohých prípadoch povolenie nie je udelené a otázky, kto dostane zaplatené a či je to etické, sú len niektoré z problémov deepfake hudby.

1. Neautorizované množiny údajov

Ak chcete vytvoriť hlboko falošnú stopu slávneho umelca, musíte zhromaždiť zvukové súbory jeho spevu do súboru údajov. Rovnako ako akékoľvek údaje, ktoré niekomu patria, pravdepodobne by ste mali získať jeho povolenie na ich použitie, ale ide o hlboké falošné Pieseň sa môže dostať na veľkú hudobnú platformu, ako je YouTube, Spotify alebo TikTok, po použití neoprávneného súbor údajov.

Toto sa stalo umelcom Drakeovi a The Weekndovi, keď používateľ s názvom Ghostwriter vytvoril „Heart on My Sleeve“. Úspešná pieseň obsahovala hlasy umelcov syntetizované AI, doplnené textom o The Weekndovej bývalej priateľke.

Pesničku si fanúšikovia skutočne užili, s dodatočnou chválou patrí Ghostwriter za kreatívne využitie hlbokých fake vokálov, ale Informoval o tom denník Seattle Times, nie každý to tak videl. Hovorca Universal Music Group, hlavného vydavateľstva za oboma umelcami, sa pýta:

„Na ktorej strane histórie chcú byť zainteresované strany v hudobnom ekosystéme: na strane umelcov, fanúšikov a ľudský tvorivý prejav, alebo na strane hlbokých falzifikátov, podvodov a odopierania umelcom ich náležitej kompenzácie?"

2. Zastaraný autorský zákon

Ak ste umelcom a nechcete, aby bol váš hlas klonovaný, zákon o autorských právach vám zatiaľ nemusí pomôcť. Keďže naše zákony o autorských právach boli napísané v čase, keď tento typ technológie AI neexistoval, nie je prekvapením, že sa zákony stále snažia dobehnúť.

Najbližší právny prípad „krádeže hlasu“ v USA sa datuje do 90. rokov minulého storočia. Ako informoval Los Angeles Times, spevák Tom Waits vyhral odškodné 2,475 milióna dolárov od Frito-Lay Inc., mocného giganta s čipmi za Doritos, Cheetos, Cracker Jack's a ďalšími.

V reklame bol použitý hlas niekoho, kto znel dostatočne blízko Tomovi Waitsovi, aby ľudia uverili, že za reklamnou kampaňou stojí skutočný umelec. To isté by sa dalo povedať o deepfake piesňach, ktoré v súčasnosti kolujú, ale hudba AI ešte musí byť testovaná v právnom boji.

Keď čakáme na aktualizáciu právneho systému, stojí za zmienku, že nie každý má problém s tým, že ľudia klonujú svoj hlas. Holly Herndon, napríklad. Tvárou v tvár prichádzajúcej vlne hudobných aplikácií AI sa rozhodla povoliť svoje vokálne dvojča s názvom Holly+ spolu so systémom, ktorý jej poskytoval spravodlivú odmenu.

Na ktorú stranu sa postavíte, problém zostáva rovnaký. Neexistuje žiadny špecifický zákon o autorských právach, ktorý hovorí, že pred použitím jeho hlasu musíte získať povolenie od umelca. Dovtedy sa môžu umelci ocitnúť na divokom západe technológie AI bez akýchkoľvek zákonov, ktoré by ich viedli.

3. Kto dostane zaplatené?

Je v poriadku zarábať peniaze na hudbe pomocou niekoho hlasu? Je to chúlostivá otázka, ktorá sa môže stať väčším problémom, keďže sa na streamovacích platformách zverejňuje viac deepfake hudby a speňaží sa na platformách sociálnych médií.

Ako všetci vieme, je v poriadku naspievať cover verzie známej piesne a uverejniť ju na YouTube alebo Spotify a v takom prípade veci ako text, štruktúra piesne, melódia, rytmus atď. sú skopírované. Ale vokálne klony sú celkom odlišné a deepfake hudba nie je presne riffovanie existujúcej piesne, ale vytvorenie úplne novej piesne pomocou hlasu niekoho iného.

Inak povedané, hlasové klony by neexistovali, keby nebolo nástrojov AI a neautorizovaných súborov údajov. Umelci trávia celý život zdokonaľovaním hlasu, s ktorým sa narodili, a vytváraním jedinečného zvuku. Ukradnúť niekomu hlas a zarobiť na ňom peniaze môže byť príliš ďaleko.

4. Žáner sivej oblasti

Aby sa veci skomplikovali, niektorí ľudia nemusia považovať deepfake hudbu za úplne zlú. Na rozdiel od deepfake obrázkov alebo videí, na ktorých by ste sa mohli krátko zasmiať predtým, ako prejdete cez telefón, deepfake hudba smeruje k vlastnému žánru.

Niektorí ľudia to prirovnávajú k myšlienke písania fanfiction, zábavného a kreatívneho spôsobu, ako vzdať hold umelcovi. Je to pozitívnejší pohľad, ktorý sťažuje vylúčenie deepfake hudby ako jednoducho tabu. Stačí sa pozrieť na prístup Holly Herndon ku klonovaniu hlasu AI vo videu nižšie.

Aj keď nie každý súhlasí s tým, že tento typ hudby by mal byť povolený. Ako Píše Financial Times, hlavné nahrávacie vydavateľstvo Universal Music Group sa zameralo na odstránenie skladieb nižšej kvality zo streamovacích platforiem vrátane tých, ktoré vytvorila AI. Streamovacie platformy ako Spotify, Apple Music alebo Tidal sa nakoniec budú musieť rozhodnúť, či je tento žáner hudby na ich platforme povolený.

Deepfake hudba podnecuje podobné debaty, aké už v umeleckom svete prebiehajú: by sa umenie generované AI malo považovať za umenie? Len teraz spochybňujeme hudbu AI.

5. Etické obavy týkajúce sa rasy a identity

Éra deepfake hudby odštartovala množstvom hudby, ktorá napodobňuje rapovú hudbu. S historickými koreňmi žánru siahajúcimi až k afroamerickej mládeži vyrastajúcej v Bronxe v New Yorku začiatkom 70. rokov 20. storočia sa niektorí ľudia obávajú rasy a identity v hudbe AI.

Spisovateľ Lauren Chanel, je človek, ktorý považuje deepfake hudbu za vážny problém. Ako je uvedené v an článok New York Times, vysvetľujú:

„Je to ďalší spôsob, ako si ľudia, ktorí nie sú čierni, obliecť kostým černocha – zdvihnúť ruky Kanyeho alebo Drakea a urobiť z neho bábku – a to je pre mňa alarmujúce." „Toto je len ďalší príklad v dlhom rade ľudí, ktorí podceňujú to, čo je potrebné na vytvorenie typu umenia, ktoré, historicky, černosi urobiť."

Nie je to prvýkrát, čo hudba vytvorená pomocou nástrojov AI nedokázala byť etická. Ako Informoval o tom magazín Rolling Stone, virtuálny avatar rapper s názvom FN Meka bol podpísaný s vydavateľstvom, potom rýchlo vypadol, keď bol online civil právna skupina Industry Blackout napísala, že projekt udržiava „hrubé stereotypy“ o Back kultúra.

Hlboká falošná hudba nám pripomína, že nástroje AI nemožno oddeliť od histórie tvorby hudby a ignorovanie toho prispieva k Nebezpečenstvo AI deepfakes.

6. Spôsobenie škody umelcom

Jedna vec, ktorá by sa nemala prehliadať, je emocionálny vplyv, ktorý môže mať deepfake pieseň na interpreta, najmä keď hlasový klon dokáže spievať o situáciách, ktoré sa nikdy nestali, vyjadrovať emócie, ktoré nie sú ich vlastné, a predstierať, že ich zaujímajú veci, ktoré možno nie.

V prípade falošnej piesne Drake ft. The Weeknd, texty obsahovali riadky o Selene Gomez, ktorá chodila s The Weekndom. Použitím zmesi skutočných faktov a vymyslených textov to bolo zvláštne skreslenie reality, ktoré mohlo byť škodlivé pre umelca, ktorý prežil skutočný zážitok.

podobne, produkovať texty generované AI „v štýle“ niekoho známeho pomocou textových generátorov AI priviedlo niektorých umelcov do zúfalstva nad používaním technológie AI. Ako hovorí Nick Cave, "Čo je ChatGPT, je v tomto prípade replikácia ako výsmech."

Deepfake hudba je schopná vložiť do úst umelca slová, ktoré nikdy nehovorili, alebo v tomto prípade nespievali. Na osobnej úrovni to môže poškodiť umelca, ktorý má malú kontrolu nad odstránením obsahu bez toho, aby sa bitka obrátila na súd.

Pripravte sa na zmeny v hudobnom priemysle

Vďaka rastúcemu prístupu k nástrojom AI sa hudba dostala do sveta deepfakes, najmä prostredníctvom hlasových klonov. Rozpoznať rozdiel medzi hlasom umelej inteligencie a ľudským hlasom len počúvaním je mimoriadne ťažké, vďaka čomu sa hĺbkovo falošná skladba ľahko dostane na streamovacie platformy pred odstránením.

Na jednej strane si fanúšikovia môžu vychutnať deepfake hudbu a môže sa objaviť platný žáner, ktorý využíva známe hlasy na vytváranie novej a zaujímavej hudby. Nie každý umelec však súhlasí s klonovaním svojho hlasu a neexistujú žiadne zákony, ktoré by ľuďom bránili vo vytváraní neautorizovaných súborov údajov.

Získavanie súhlasu, odškodňovanie umelcov a skúmanie etických otázok je len niekoľko problémov, ktorým čelia umelci a hudobný priemysel. S rýchlym rozvojom technológie AI stojí za to urobiť si pauzu a zamyslieť sa nad problémami, ktoré vytvorili.