Umelá inteligencia a strojové učenie dokážu zázraky, od tvorby umenia až po automatizáciu úloh správcov. Ale sú tiež rizikom, pretože môžu zlých hercov vybaviť trikmi, ako je deepfake.
Ako sa táto konkrétna technológia vyvíja, je dobré sa naučiť, ako deepfakes v skutočnosti fungujú a kto by ich vôbec chcel používať – legitímne aj nelegálne.
Prečo je dôležité pochopiť, ako a prečo sa používajú Deepfakes
Mainstreamové aplikácie deepfake technológie sa točia hlavne okolo vtipných, pornografických alebo filmových materiálov, ale štúdia dokázala, že deepfakes môžu oklamať rozpoznávanie tváre. Už len toto je dôvod na obavy a dávajte si pozor.
Čím viac sa technológia používa v každodennom živote a veľkých projektoch, tým lepšie sa jej vývojári naučia vytvárať plynulé falošné videá ľudí, či už celebrít alebo rodinných príslušníkov.
Porozumenie ako sa chrániť pred deepfake videami je teraz nutnosťou vzhľadom na to, ako dychtivo priemysel prijíma výhody tejto technológie, najmä v oblasti zábavy.
Hollywood ho používal na viacerých projektoch už dávno predtým
Metafyzický hlboký falošný záznam AGT, ktorá svetu ukázala, aká rýchla a efektívna môže byť deepfake tvorba. Tu je to, čo proces zahŕňa.Ako Deepfakes fungujú?
Pokiaľ ide o to, čo je za deepfakes, vodítko je v názve: hlboké učenie, veda o umelých neurónových sieťach (ANN). To, čo tieto algoritmy robia, je absorbovať údaje, učiť sa z nich a vytvárať nové údaje vo forme výrazov tváre alebo celej tváre prekrytej nad vašou.
Vývojári deepfake softvéru zvyčajne používajú jeden z dvoch typov ANN: autoenkódery alebo generatívne adversariálne siete (GAN).
Automatické kódovače sa učia replikovať množstvo údajov, ktoré dostávajú, najmä fotografie tvárí a výrazov, a znovu vytvárať požadované súbory údajov. Málokedy sú to však presné kópie.
Na druhej strane GANy majú inteligentnejší systém, ktorý zahŕňa generátor a diskriminátor. Prvý reprodukuje naučené údaje do deepfakes, ktoré potom musia oklamať druhých.
Diskriminátor porovnáva výtvory generátora so skutočnými obrázkami a určuje ich účinnosť. Najlepšie deepfakes sú samozrejme tie, ktoré dokonale napodobňujú ľudské správanie.
Ako sa teda robia deepfakes pomocou tejto technológie? Algoritmy za aplikáciami ako napr Reface a DeepFaceLab neustále sa učiť z údajov, ktoré cez ne prechádzajú, aby mohli efektívne upravovať črty a výrazy tváre alebo vrstviť jednu tvár na druhú.
Softvér je v podstate editor videa špeciálne navrhnutý na manipuláciu s tvárami. Niektoré aplikácie sú zložitejšie ako iné, ale celkovo môžete urobiť čokoľvek, od starnutia niekoho vyššieho alebo nižšieho až po úpravu seba do filmov.
Ale technológia má stále nedostatky. Vytvorenie Deepfake môže byť komplikovanejšie ako ako sa robia falošné živé videá, ale môže byť rovnako jednoduché odhaliť ako falošné.
Ako rozpoznať Deepfake
Keďže deepfakes vyrábajú hlavne stroje, črty alebo spôsoby digitálnej tváre nie vždy vyzerajú prirodzene. Chyby môžu byť aj v nastavení videa. Inými slovami, môžete rozoznať falošné zábery, ak viete, čo hľadať.
Tu sú niektoré prezrádzajúce znaky:
- Neprirodzené žmurkanie: Strojové učenie často prehliada žmurkanie očí alebo to vyzerá trápne.
- Rozmazané alebo nestabilné prvky: Niečí vlasy, ústa alebo brada môžu byť mierne rozmazané alebo sa môžu pohybovať zvláštnym, často prehnaným spôsobom.
- Nedostatok alebo nesprávne vyjadrenie emócií: Chudé deepfakes sú nečinné alebo zle napodobňujú emócie.
- Nepríjemná reč tela: Ak osoba vo videu hýbe hlavou alebo telom zdeformovaným alebo nesúvislým spôsobom, môže ísť o falšovanie.
- Nesprávne farby a osvetlenie: Odfarbenie, nevysvetliteľné svetlá a tiene sú istými znakmi falošného videa.
- Nekonzistentné predmety: Pri úprave videa môže deepfake softvér robiť chyby, napríklad zmeniť tvar oblečenia, šperkov a predmetov na pozadí.
- Zlý zvuk: Deepfakes môže skresliť reč a zvuky vo videu.
Využite čo najviac spôsoby, ako rozpoznať deepfakes tým, že sa naučíte, na čo sa takéto videá zvyčajne vyrábajú, a pozorne si všímajte detaily v záberoch, ktoré vidíte online – ak je to možné, spomaľte to.
Okrem toho sa vyvíja stále viac nástrojov, napr Microsoft Authenticator a Sensity's Forenzná detekcia deepfake, ktoré analyzujú videá na minútovej úrovni.
Kto používa Deepfakes?
Filmári čoraz častejšie využívajú deepfakes na starnutie alebo nahradenie tvárí hercov, ako je to v prípade Hviezdnych vojen. Umelcom sa darí animovať portréty a prinútiť ich rozprávať a spievať.
Obchodníci experimentujú s technológiou deepfake pre propagačný obsah, ktorý si nevyžaduje najímanie hercov. Spoločnosti ako WPP to aplikujú aj na svoje školiace videá.
Technici vo všeobecnosti vytvárajú zábavné videá, kde si vymieňajú tváre s priateľmi alebo vrstvia jedného herca na druhého v populárnych filmoch. Sylvester Stallone prevzal Home Alone a Joker Heatha Ledgera sa objavil v A Knight's Tale.
Bohužiaľ, ak preskúmate, na čo sa ešte používa technológia deepfake, nájdete množstvo škodlivých prípadov. Tvorcovia Deepfake radi šíria dezinformácie a urážlivé správy, ako aj cielia na celebrity a dávajú ich do filmov pre dospelých. Ľudia sú dokonca vydieraní falošnými zábermi.
Vo svojej súčasnej bezuzdnej podobe je deepfake synonymom rizika pre ľudské práva na súkromie, bezpečnosť, a dokonca aj autorské práva, napríklad, keď algoritmus jasne používa fotografiu alebo umelecké dielo, ktoré nie je verejne dostupné k dispozícii.
To je dôvod, prečo krajiny a značky dávajú dole nohu. Od roku 2021 podľa Mapa Cyber Civil Rights Initiative o deepfake zákonoch v USA, štyri štáty teraz zasiahnu proti zverejneným deepfake videám, ktoré zobrazujú niekoho explicitným alebo inak škodlivým spôsobom.
Čína tiež podniká kroky na kriminalizáciu falzifikátov, ktoré poškodzujú ľudí a spoločnosť, či už porušovaním práv jednotlivcov alebo šírením falošných správ. Dokonca Meta oznámila v roku 2020, že zavádzajúce, zmanipulované videá neboli vítané.
Okrem regulácie oficiálne orgány na celom svete presadzujú lepšie odhaľovanie a prevenciu hĺbkových zločinov. The Správa Rathenau Instituut o tom, ako by mala európska politika zvládnuť deepfakes, podporuje softvér s nástrojmi, ako je rozpoznávanie reproduktorov a tváre, detekcia živosti hlasu a analýza funkcií tváre.
Zistite, ako vás Deepfakes môžu zavádzať
Deepfakes sa už dostali do hlavného prúdu, v dobrom aj zlom. Takže si vychutnajte zábavné a inšpiratívne videá a pripravte sa na boj proti všetkým škodlivým.
Na konci dňa, čo je to deepfake ako tento, ale nástroj navrhnutý tak, aby vás oklamal? Ak viete, čo máte hľadať a ako reagovať, má nad vami menšiu moc.
Napríklad budete môcť na sociálnych médiách rozpoznať hlboké falošné správy spolu s falošnými správami a účtami a vyhnúť sa dezinformáciám, pokusom o phishing a ďalším. So zdokonaľovaním technológie detekcie a prevencie hlbokých falošných správ sa k vám dostane viac podpory.
