Stáva sa generatívna AI novým nástrojom na dezinformácie?

Umelá inteligencia (AI) teraz zohráva úlohu v rôznych aspektoch nášho života. Konkrétne sa výrazne rozrástli generatívne nástroje AI ako ChatGPT a ďalšie. To znamená, že v budúcnosti bude množstvo obsahu generovaného AI.

Generatívna AI však prináša aj riziko dezinformácií generovaných AI. Jeho vlastnosti uľahčujú oportunistickým jednotlivcom šírenie nepravdivých informácií. Poďme teda preskúmať, ako sa generatívna AI využíva na dezinformácie.

Potenciálne riziká šírenia dezinformácií generatívnej AI

Generatívna AI predstavuje pre ľudí mnoho hrozieb, ako napríklad odoberanie pracovných miest, väčší dohľad a kybernetické útoky. A bezpečnostné problémy s AI sa ešte zhoršia. Ale je tu ešte jedna obava: ľudia to môžu využiť na šírenie klamstiev. Klamliví jednotlivci môžu používať generatívnu AI na zdieľanie falošných správ prostredníctvom vizuálneho, zvukového alebo textového obsahu.

Falošné správy možno rozdeliť do troch typov:

1. Dezinformácie: Neúmyselne nesprávne alebo nepravdivé informácie.
2. Dezinformácie: Zámerné použitie manipulatívnych alebo klamlivých informácií.
3. Nesprávne informácie: Zavádzajúce správy alebo prehnaná verzia pravdy.

Kedy v kombinácii s technológiou deepfakegeneratívne nástroje AI dokážu vytvoriť obsah, ktorý vyzerá a znie skutočne, ako sú obrázky, videá, zvukové klipy a dokumenty. Existuje veľa možností na vytváranie falošného obsahu, takže vedieť ako sa chrániť pred deepfake videami je dôležité.

Šíritelia falošných správ môžu generovať obsah vo veľkých množstvách, čo uľahčuje jeho šírenie medzi masy prostredníctvom sociálnych médií. Cielené dezinformácie môžu byť použité na ovplyvňovanie politických kampaní, čo môže mať vplyv na voľby. Okrem toho používanie nástrojov na generovanie textu a obrázkov AI vyvoláva obavy týkajúce sa zákonov o autorských právach, ako uvádza výskumná služba Kongresu: určenie vlastníctva obsahu generovaného týmito nástrojmi sa stáva náročným.

Ako bude zákon riešiť šírenie falošných správ prostredníctvom generatívnej AI? Kto bude zodpovedný za šírenie nepravdivých informácií – používatelia, vývojári alebo samotné nástroje?

4 spôsoby, ako sa dá generatívna AI použiť na šírenie dezinformácií

Ak chcete zostať v bezpečí online, každý musí pochopiť riziká generatívnej AI pri šírení dezinformácií, pretože prichádza v mnohých rôznych formách. Tu je niekoľko spôsobov, ako sa dá použiť na manipuláciu ľudí.

1. Vytváranie falošného obsahu online

Vytváranie falošného obsahu pomocou generatívnej AI je bežnou stratégiou, ktorú používajú tí, ktorí šíria falošné správy. Na vytváranie rôznych typov obsahu používajú populárne generatívne nástroje AI ako ChatGPT, DALL-E, Bard, Midjourney a ďalšie. Napríklad, ChatGPT môže pomôcť tvorcom obsahu mnohými spôsobmi. Môže však generovať aj príspevky na sociálnych sieťach alebo spravodajské články, ktoré môžu ľudí oklamať.

Aby som to dokázal, vyzval som ChatGPT, aby napísal vymyslený článok o zatknutí amerického prezidenta Joea Bidena za obvinenia z korupcie. Požiadali sme tiež, aby obsahoval vyjadrenia príslušných orgánov, aby to vyzeralo dôveryhodnejšie.

Tu je fiktívny článok, s ktorým prišiel ChatGPT:

Výstup bol prekvapivo veľmi presvedčivý. Zahŕňal mená a vyhlásenia autoritatívnych osobností, aby bol článok presvedčivejší. To ukazuje, ako môže ktokoľvek použiť takéto nástroje na generovanie falošných správ a ich jednoduché šírenie online.

2. Používanie chatbotov na ovplyvňovanie názorov ľudí

Chatboty, ktoré sa spoliehajú na generatívne modely AI, môžu využívať rôzne taktiky na ovplyvnenie názorov ľudí vrátane:

• Emocionálna manipulácia: Umelá inteligencia môže použiť modely emocionálnej inteligencie na využitie emocionálnych spúšťačov a predsudkov na formovanie vašich perspektív.
• Echo komory a skreslenie potvrdenia: Chatboti môžu posilniť existujúce presvedčenia vytvorením echo komôr, ktoré overia vaše predsudky. Ak už zastávate určitý názor, AI ho môže posilniť prezentovaním informácií, ktoré sú v súlade s vašimi názormi.
• Sociálny dôkaz a efekt rozbehnutého vlaku: AI môže manipulovať s verejným sentimentom vytváraním sociálnych dôkazov. To môže mať významné dôsledky, pretože to môže viesť jednotlivcov k tomu, aby sa prispôsobili populárnym názorom alebo nasledovali dav.
• Cielená personalizácia: Chatboty majú prístup k obrovskému množstvu údajov, ktoré môžu zhromažďovať na vytváranie prispôsobených profilov. To im umožňuje prispôsobiť obsah podľa vašich preferencií. Prostredníctvom cielenej personalizácie dokáže AI presvedčiť jednotlivcov alebo ešte viac posilniť ich názory.

Všetky tieto príklady ilustrujú, ako možno chatboty využiť na zavádzanie ľudí.

3. Vytváranie AI DeepFakes

Niekto môže použiť deepfakes na vytvorenie falošných videí jednotlivca, ktorý hovorí alebo robí veci, ktoré nikdy neurobil. Takéto nástroje môžu použiť na sociálne inžinierstvo alebo na vedenie ohováracích kampaní proti iným. Navyše v dnešnej kultúre mémov môžu deepfakes slúžiť ako nástroje na kyberšikanu na sociálnych sieťach.

Okrem toho môžu politickí protivníci použiť hlboké falošné zvuky a videá na pošpinenie reputácie svojich oponentov a manipulovať s náladou verejnosti pomocou AI. Takže Deepfakes generované AI predstavujú v budúcnosti početné hrozby. Podľa 2023 Správa agentúry Reuters, vzostup technológie AI by mohol ovplyvniť americké voľby v roku 2024. Správa zdôrazňuje dostupnosť nástrojov ako Midjourney a DALL-E, ktoré môžu ľahko vytvárať vymyslený obsah a ovplyvňovať kolektívne názory ľudí.

Rozhodujúce je teda vedieť identifikovať videá vytvorené pomocou deepfakes a odlíšiť ich od originálov.

4. Klonovanie ľudských hlasov

Generatívna AI spolu s technológiou deepfake umožňuje manipuláciu s niečím prejavom. Technológia Deepfake rýchlo napreduje a ponúka množstvo nástrojov, ktoré dokážu replikovať hlas kohokoľvek. To umožňuje zlomyseľným jednotlivcom vydávať sa za iných a klamať nič netušiacich jednotlivcov. Jedným z takýchto príkladov je používanie deepfake hudby.

Možno ste narazili na nástroje ako napr Podobať sa AI, Speechify, FakeYoua ďalšie, ktoré dokážu napodobňovať hlasy celebrít. Aj keď tieto zvukové nástroje AI môžu byť zábavné, predstavujú značné riziká. Podvodníci môžu využívať techniky klonovania hlasu pre rôzne podvodné schémy, čo vedie k finančným stratám.

Podvodníci môžu použiť hlboké falošné hlasy na vydávanie sa za vašich blízkych a zavolať vám a predstierať, že sú v núdzi. So syntetickým zvukom, ktorý znie presvedčivo, vás môžu vyzvať, aby ste urýchlene poslali peniaze, čo vás privedie k tomu, že sa stanete obeťou ich podvodov. Incident ohlásený používateľom The Washington Post v marci 2023 je príkladom tohto problému: podvodníci používali hlboké falošné hlasy, aby presvedčili ľudí, že ich vnuci sú vo väzení a potrebujú peniaze...

Ako rozpoznať dezinformácie šírené AI

Boj proti šíreniu dezinformácií prostredníctvom AI je v dnešnom svete naliehavým problémom. Ako teda môžete zistiť nepravdivé informácie, ktoré vytvorila AI?

1. Pristupujte k online obsahu skepticky. Ak narazíte na niečo, čo sa vám zdá manipulatívne alebo neuveriteľné, overte si to krížovou kontrolou.
2. Skôr ako dôverujete spravodajskému článku alebo príspevku na sociálnych sieťach, uistite sa, že pochádza z dôveryhodného zdroja.
3. Dávajte si pozor na indikátory hlbokých falzifikátov, ako sú neprirodzené žmurkanie alebo pohyby tváre, nízka kvalita zvuku, skreslený alebo rozmazaný obraz a nedostatok skutočných emócií v reči.
4. Na overenie správnosti informácií používajte webové stránky na overovanie faktov.

Podľa týchto krokov sa môžete identifikovať a chrániť sa pred dezinformáciami vyvolanými AI.

Dajte si pozor na dezinformácie šírené AI

Generatívny softvér zohral kľúčovú úlohu pri napredovaní AI. Napriek tomu môžu byť aj významným zdrojom dezinformácií v spoločnosti. Tieto cenovo dostupné nástroje umožnili komukoľvek vytvárať rôzne typy obsahu pomocou sofistikovaných modelov AI; ich schopnosť vytvárať obsah vo veľkých množstvách a začleňovať deepfakes ich robí ešte nebezpečnejšími.

Je dôležité, aby ste si boli vedomí výziev dezinformácií v ére AI. Pochopenie toho, ako možno AI použiť na šírenie falošných správ, je prvým krokom k tomu, aby ste sa ochránili pred dezinformáciami.