Umelá inteligencia (AI) má potenciál zmeniť samotnú povahu našej spoločnosti. A ak nástroje AI, ktoré máme momentálne k dispozícii, naznačujú, čo príde, máme sa na čo tešiť.
Máme sa tiež na čo obávať. Konkrétne ide o zbrojenie AI kyberzločincami a inými aktérmi hrozieb. Toto nie je teoretický problém a dokonca ani generátory obrázkov AI nie sú imúnne voči zneužitiu.
Čo sú generátory obrázkov AI? Ako fungujú?
Ak ste niekedy používali generátor obrázkov AI, máte celkom dobrú predstavu o tom, o čo ide. Aj keď ste ich nikdy nepoužili, s najväčšou pravdepodobnosťou ste na sociálnych sieťach a inde narazili na obrázky generované AI. Softvér, ktorý je dnes populárny, funguje na veľmi jednoduchom princípe: používateľ zadá text a AI na základe tohto textu vygeneruje obrázok.
To, čo sa deje pod kapotou, je oveľa zložitejšie. Umelá inteligencia sa za posledné roky stala oveľa lepšou a väčšina z nich
generátory textu na obrázok v súčasnosti sú takzvané difúzne modely. To znamená, že sú dlhodobo „trénovaní“ na enormnom počte textov a obrázkov, vďaka čomu sú ich výtvory také pôsobivé a úžasne realistické.Čo robí tieto nástroje AI ešte pôsobivejšími, je skutočnosť, že nielen upravujú existujúce obrázky alebo kombinujú tisíce obrázkov do jedného, ale vytvárajú aj úplne nové, originálne obrázky. Čím viac ľudí používa tieto generátory textu na obrázok, tým viac informácií dostávajú a tým lepšie sú ich výtvory.
Niektoré z najznámejších Generátory obrázkov AI sú Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor a Craiyon. Nové sa objavujú vľavo a vpravo a technologickí giganti – vrátane Google – vydávajú svoje vlastné, takže môžeme len špekulovať, čo prinesie budúcnosť.
4 spôsoby, ako herci hrozia, vyzbrojujú generátory obrázkov AI
Rovnako ako takmer všetky technológie, aj generátory obrázkov AI môžu byť zneužité zlomyseľnými hercami. V skutočnosti sa už používajú na všetky druhy hanebných účelov. Aký druh podvodov a kybernetických útokov však môže zločinec vykonať s pomocou generátorov obrázkov AI?
1. Sociálne inžinierstvo
Jedna zjavná vec, ktorú by herci hrozieb mohli robiť s generátormi obrázkov AI, je venovať sa sociálnemu inžinierstvu; napríklad vytvárať falošné profily na sociálnych sieťach. Niektoré z týchto programov dokážu vytvárať neuveriteľne realistické obrázky, ktoré vyzerajú rovnako ako skutočné fotografie skutočných ľudí, a podvodník môže tieto falošné profily sociálnych médií použiť na lov sumcov.
Na rozdiel od fotiek skutočných ľudí, tie vytvorené umelou inteligenciou nemožno objaviť pomocou spätného vyhľadávania obrázkov a kyberzločinec nemusí pracovať s obmedzený počet fotografií na napadnutie svojho cieľa – pomocou umelej inteligencie môžu generovať toľko, koľko chcú, a vytvoriť tak presvedčivú online identitu škrabanec.
Existujú však skutočné príklady aktérov hrozieb, ktorí používajú generátory obrázkov AI na podvádzanie ľudí. V apríli 2022 TechTalks bloger Ben Dickinson dostal e-mail od právnickej firmy, ktorý tvrdil, že použil obrázok bez povolenia. Právnici poslali e-mailom oznámenie o porušení autorských práv podľa zákona DMCA, v ktorom povedali Dickinsonovi, že sa musí spojiť s ich klientom alebo odstrániť obrázok.
Dickinson si vygooglil právnickú firmu a našiel oficiálnu webovú stránku. Všetko sa to zdalo úplne legitímne; na stránke boli dokonca fotografie 18 právnikov spolu s ich životopismi a povereniami. Ale nič z toho nebolo skutočné. Všetky fotografie vygenerovala AI a boli rozoslané oznámenia o údajnom porušení autorských práv od niekoho, kto chce vymámiť spätné odkazy od nič netušiacich blogerov v rámci neetického, čierneho klobúk SEO (optimalizácia pre vyhľadávače) stratégie.
2. Charitatívne podvody
Keď vo februári 2023 zasiahli Turecko a Sýriu ničivé zemetrasenia, milióny ľudí na celom svete vyjadrili svoju solidaritu s obeťami darovaním oblečenia, jedla a peňazí.
Podľa správy z BBC, využili to podvodníci, ktorí pomocou AI vytvorili realistické obrázky a požiadali o dary. Jeden podvodník ukázal obrázky ruín vygenerované AI na TikTok Live a požiadal svojich divákov o dary. Ďalší zverejnil obrázok gréckeho hasiča, ktorý zachraňuje zranené dieťa z ruín, vygenerovaný AI a požiadal svojich sledovateľov o dary v bitcoinoch.
Dá sa len predstaviť, aký typ charitatívnych podvodov budú zločinci spúšťať s pomocou AI v budúcnosti, ale dá sa bezpečne predpokladať, že budú len lepší v zneužívaní tohto softvéru.
3. Deepfakes a dezinformácie
Vlády, skupiny aktivistov a think-tanky pred tým už dlho varujú Nebezpečenstvo hlbokých falzifikátov. Generátory obrázkov AI pridávajú k tomuto problému ďalší komponent, vzhľadom na to, aké realistické sú ich výtvory. V skutočnosti v Spojenom kráľovstve existuje dokonca komediálna show s názvom Deep Fake Neighbor Wars, ktorá nachádza humor v nepravdepodobných pároch celebrít. Čo by zabránilo dezinformačnému agentovi vytvoriť falošný obrázok a propagovať ho na sociálnych sieťach pomocou robotov?
To môže mať reálne dôsledky, ako sa to takmer stalo v marci 2022, keď sa na internete objavilo falošné video zobrazujúce ukrajinského prezidenta Volodymyra Zelenského, ktorý povedal Ukrajincom, aby sa vzdali. NPR. Ale to je len jeden príklad, pretože možnosti sú takmer nekonečné a existuje nespočetné množstvo spôsobov a aktér hrozby by s pomocou mohol poškodiť niečiu povesť, propagovať falošný príbeh alebo šíriť falošné správy AI.
4. Reklamný podvod
TrendMicro výskumníci v roku 2022 zistili, že podvodníci využívajú obsah generovaný AI na vytváranie zavádzajúcich reklám a propagovanie tienistých produktov. Vytvorili obrázky, ktoré naznačovali, že populárne celebrity používajú určité produkty, a na základe týchto obrázkov spustili reklamné kampane.
Napríklad jedna reklama na „možnosť finančného poradenstva“ predstavovala miliardára Elona Muska, zakladateľa a generálneho riaditeľa spoločnosti Tesla. Musk samozrejme daný produkt nikdy nepodporil, no vďaka záberom vygenerovaným umelou inteligenciou to tak vyzeralo a pravdepodobne lákalo nič netušiacich divákov, aby klikli na reklamy.
Umelá inteligencia a kybernetická bezpečnosť: zložitý problém, ktorý musíme vyriešiť
V budúcnosti budú vládni regulátori a experti na kybernetickú bezpečnosť pravdepodobne musieť spolupracovať na riešení vznikajúcej hrozby počítačovej kriminality poháňanej AI. Ako však môžeme regulovať AI a chrániť bežných ľudí bez toho, aby sme potláčali inovácie a obmedzovali digitálne slobody? Táto otázka sa bude vynárať v nadchádzajúcich rokoch.
Kým nenájdete odpoveď, robte, čo môžete, aby ste sa ochránili: starostlivo si preverte všetky informácie, ktoré vidíte online, vyhýbajte sa im tienisté webové stránky, používajte bezpečný softvér, udržujte svoje zariadenia aktuálne a naučte sa používať umelú inteligenciu výhodu.
