Môže Deepfake oklamať rozpoznanie tváre? Nová štúdia hovorí, že áno!

Deepfakes a videá generované AI tu zostanú. Za posledných niekoľko rokov však rástli v kvalite a množstve, čo vyvoláva u mnohých ľudí obavy z národnej bezpečnosti a osobného súkromia.

Napriek tomu, bez ohľadu na to, ako tvrdo sa anonymní online používatelia pokúšali dosiahnuť, aby bolo ich falošné video realistické, nikdy sa nedokázali dostať cez pokročilý softvér na rozpoznávanie tváre. Do teraz.

Fooling API na rozpoznávanie tváre

Vedci z Univerzity Sungkyunkwan v Suwone v Južnej Kórei, testoval kvalitu súčasnej technológie deepfake. Testovali API aj Amazon a Microsoft pomocou open-source a bežne používaného softvéru na vytváranie hlbokých falošných videí, aby zistili, ako dobre fungujú.

Vedci použili tváre hollywoodskych celebrít. Na to, aby softvér vytvoril solídne deepfake, potrebuje veľa vysokokvalitných obrázkov z rôznych uhly rovnakých osôb, ktoré je oveľa jednoduchšie získať medzi celebritami ako obyčajnými ľudí.

Vedci sa tiež rozhodli použiť API spoločnosti Microsoft a Amazonu ako referenčné hodnoty pre svoju štúdiu, pretože obe spoločnosti ponúkajú služby rozpoznávania tváre celebrít. Použili verejne dostupné súbory údajov a vytvorili niečo cez 8 000 deepfake. Z každého deepfake videa extrahovali viacero tvárí a odoslali ho do API.

Vďaka kognitívnym službám Microsoft Azure vedci dokázali oklamať systém 78 percent času pomocou deepfake. Výsledky Amazonu boli o niečo lepšie, pričom 68 percent prihlásených tvárí bolo identifikovaných ako skutočných.

Čo s detektormi Deepfake?

Detektory Deepfake fungujú viac -menej rovnako ako Deepfake. Detektory sú softvér, ktorý bol vyškolený pomocou modelov strojového učenia o tom, ako detekovať falošné videá.

Ale namiesto toho, aby sa deepfakes zamerali na vytvorenie hyperrealistického videa na oklamanie detektorov, môžu teraz do každého rámca zahrňovať kontradiktórne príklady na zmätenie systému AI. V skutočnosti majú útoky tohto druhu deepfake úspešnosť od 78 do 99 percent.

Je to stále horšie

Deepfakes sú aplikácia strojového učenia. Na to, aby ste vytvorili čo i len vzdialene presvedčivý, potrebujete stovky obrazov tváre tej istej osoby z rôznych uhlov a zobrazujúcich rôzne emócie.

Vzhľadom na potrebu veľkého množstva údajov by si niekto myslel, že sú ohrození iba ľudia s veľkým počtom prítomných online, ako sú celebrity a politici. Ale to už neplatí.

Podľa Deeptrace sa počet deepfakeov online za menej ako rok zvýšil o 330 percent - od októbra 2019 do júna 2020. Nehovoriac o tom, že softvér a algoritmy, ktoré výrobcovia deepfake používajú, sú stále silnejšie a dostupnejšie a prístupnejšie.

Kto je ohrozený Deepfakes?

Keď sa deepfakes prvýkrát stali hlavným prúdom, primárnym starosti boli o súkromie a národnú bezpečnosť. Ľudia sa obávali, že videozáznamom politikov a oficiálnych vládnych pracovníkov už nemožno dôverovať.

Napriek tomu, že by bolo nezodpovedné ignorovať predstavu hlbokého falšovania bezpečnostného rizika, viacero prieskumov ukázalo, že tvorcovia deepfake ešte nemajú záujem narušiť politiku. Väčšinu online videí deepfakes je možné rozdeliť do dvoch kategórií: zábavné videá s rozhovormi s celebritami a filmy a pornografický materiál.

Aj keď bola nedávna štúdia vykonaná s použitím tvárí celebrít, aby sa zaistilo, že deepfakes budú mať vysokú kvalitu na oklamanie rozhraní API, neznamená to, že nemôžete vytvárať hlboké falzifikáty s menším počtom údajov. Iste, možno nemajú šancu oklamať pokročilé systémy rozpoznávania tváre, ale môžu byť dostatočne presvedčiví na to, aby oklamali ostatných.

V dnešnej dobe môžu byť deepfakes kohokoľvek so sociálnym pôsobením presvedčivo vyrobené. Stačí im pár vašich fotiek a možno aj video, v ktorom sa objavíte. Výsledný deepfake môže mať nízku kvalitu, ale stále je uskutočniteľný a môže byť škodlivý.

Budúcnosť je stále neznáma

Existuje veľa protichodných predpovedí o stave deepfakeov, pretože v blízkej dobe nezmiznú.

Niektorí očakávajú apokalyptickú kybernetickú budúcnosť, v ktorej nemôžete dôverovať žiadnym záberom, s ktorými sa stretnete online. Iní sú optimistickejší, porovnávajú deepfakes s animáciou a tvrdia, že to môže mať budúcnosť v produkcii obsahu.

Ako sa chrániť pred falošnými videami

Deepfake sú stále rozšírenejšie. Tu je návod, ako môžu ohroziť vaše súkromie online a ako sa vyhnúť vniknutiu.

Čítajte ďalej

O autorovi