Hlboko falošné obrázky Trumpovho zatknutia viedli k tomu, že ľudia verili, že sa to skutočne stalo.
Ak ste aktívni na Twitteri, možno ste videli niekoľko šokujúcich záberov bývalého amerického prezidenta Donalda Trumpa, ako ho zatýkajú policajti, zápasí s nimi a dokonca pred nimi uteká. Ukázalo sa, že nič z toho nebolo skutočné. Ale ako sa to všetko stalo?
Zatknutie Donalda Trumpa, ktoré sa nikdy nestalo
Bývalý americký prezident zdieľal údajný únik informácií prostredníctvom svojho úradníka Pravda Sociálna rukoväť dňa 18. marca. V príspevku sa uvádzalo, že v utorok nasledujúceho týždňa očakáva zatknutie za „staré a úplne odhalené“ obvinenia proti nemu. Netrvalo dlho a obrázky Trumpovho zatknutia sa začali objavovať po celom internete.
Zábery ukázali, čo vyzeralo ako zábery z Trumpovho zatknutia skupinou policajtov.
Obrázky boli generované AI
Zábery však neboli autentické. Boli to deepfakes vyrobené s Midjourney, generátor obrázkov AI. Midjourney používa algoritmus hlbokého učenia na generovanie obrázkov od začiatku pomocou textových výziev. V tomto prípade boli textové výzvy variáciami zatknutia Trumpa.
Technológia Deepfake existuje už nejaký čas a je čoraz sofistikovanejší. Obrázky vytvorené AI boli kedysi ľahko identifikovateľné: chýbali im detaily a realizmus. však Najnovšie vydanie Midjourney (v5) opravila väčšinu týchto problémov a bola to v skutočnosti verzia, ktorá sa použila na generovanie hlbokých falzifikátov Trumpovho zatknutia.
Ako sa obrazy stali virálnymi
Investigatívny novinár Eliot Higgins vytvoril prvé verzie hlbokých fakeov zatknutia Trumpa, aby si predstavil, ako by zatknutie Trumpa vyzeralo. Zverejnil ich na svojom účte na Twitteri. Zatiaľ čo jeho popis bol od začiatku jasný, že obrázky sú falošné, netrvalo dlho a príspevok sa stal virálnym.
Keď sa obrázky šírili po sociálnych sieťach, veľa ľudí verilo, že sú skutočné. Trumpov príspevok na Truth Social už ľudí podozrieval a realistické obrázky len priživili oheň. Chvíľu trvalo, kým sa ukázalo, že fotografie sú falošné a že príbeh o zatknutí bol podvod.
Príspevky na sociálnych sieťach, ktoré „nahlasujú“ falošné zatknutie, boli vymazané alebo majú nálepku s dezinformáciami. Za trest, Midjourney tiež zakázal Higginsovi prístup na ich server na mesiac, per The Washington Post.
Éra Deepfakes si vyžaduje ostražitosť
Hlboké falzifikáty zatknutia Trumpa poukazujú na alarmujúci pokrok v technológii AI. Falošné obrázky je teraz možné vytvárať s neuveriteľnou ľahkosťou a vyzerajú tak realisticky, že je ťažké rozlíšiť, čo je skutočné od toho, čo nie je. Ostražitosť je teraz dôležitejšia ako kedykoľvek predtým, pokiaľ ide o online obsah.
