8 spôsobov, ako AI stiera hranicu medzi realitou a fantáziou

Nedávne pokroky v modeloch jazyka, textu na obrázok a textu na video umožňujú AI produkovať hyperrealistický výstup. Mnohí si ich dokonca mýlia s organickým, ľudským obsahom.

Hoci tento počin znamená technologický míľnik, zároveň stiera hranicu medzi realitou a fantáziou. Obrázky, text a videá AI vytvárajú digitálny obsah, ktorý zatieňuje autentické zážitky. Tu sú spôsoby, ako AI vytvára ilúziu reality.

1. Niektorí považujú osoby vygenerované AI ako skutočných ľudí

Aplikácie AI pre virtuálnu priateľku/priateľa sú čoraz realistickejšie ako kedykoľvek predtým. Simulujú romantické vzťahy prostredníctvom osôb vygenerovaných AI, ktoré si používatelia môžu prispôsobiť podľa svojich preferencií. Niektorí uprednostňujú ľudské postavy so zložitými črtami, zatiaľ čo iní kopírujú fiktívne postavy.

Väčšina ľudí používa zoznamovacie simulátory na zvládnutie osamelosti. Aplikácie bežiace na modernom spracovanie prirodzeného jazyka (NLP) a veľké jazykové modely

(LLM) napodobňujú skutočné ľudské rozhovory. Používatelia teda cítia, že sa „spájajú“ s týmito partnermi AI.

Je iróniou, že aplikácie AI pre priateľky a priateľky zhoršujú sociálnu izoláciu tým, že udržiavajú toxické presvedčenia o medziľudských vzťahoch. Používatelia chcú partnerov, ktorí budú v súlade s ich vymyslenými osobnosťami AI. Niektorí by dokonca zašli tak ďaleko, že by si vzali svojich spoločníkov vygenerovaných AI a úplne sa vzdali ľudských vzťahov.

2. Chatboty poskytujú falošnú emocionálnu podporu

Na psychoterapiu je bežné používať generatívne chatboty AI. Platformy AI zo svojich súborov údajov zoškrabávajú rady o duševnom zdraví a napodobňujú ľudskú reč prostredníctvom LLM. Ich výstup je neutrálny a všeobecný, no mnohí budú radšej skúmať nástroje AI, než platiť za psychoterapiu relácií.

Okrem dostupnosti AI niektorí ľudia uprednostňujú aj dôveru v nezaujaté algoritmy bez úsudku. Cítia sa nepríjemne zdôverovať sa inej osobe so svojimi problémami. To, že sa rozprávate s licencovaným profesionálom, neznamená, že nevzniknú komunikačné bariéry.

To znamená, zaobchádzanie s chatbotmi AI ako s terapeutmi je nebezpečné. Umelá inteligencia sa do vás nedokáže vcítiť ani pochopiť vašu situáciu – používa NLP na pochopenie vstupu a prezentuje zodpovedajúci výstup na základe svojich súborov údajov. Ak potrebujete poradiť v oblasti duševného zdravia, navštívte licencovaného terapeuta alebo psychiatra.

3. Používatelia napodobňujú hlasy prostredníctvom syntézy reči

Pokroky v modeloch prevodu textu na reč a prevodu reči na reč viedli k vzostupu cenovo dostupných a dostupných hlasových generátorov AI. Produkujú prirodzene znejúci rečový výstup. V závislosti od kvality vstupu a sofistikovanosti modelu môže ktokoľvek presne naklonovať hlas inej osoby.

Vývojári často používajú hlasové generátory AI na syntetizovanie videohovorov, pridávanie rečových funkcií do virtuálnych postáv alebo na programovanie hlasom aktivovaných aplikácií. Sú lacnejšie ako nahrávanie od začiatku. Podobne niektorí ľudia používajú hlasové generátory, aby si robili srandu z osobností a napodobňovali ich. Pravdepodobne ste videli, že falošné covery piesní kolujú online.

Ale nepodceňujte bezpečnostné riziká hlasových generátorov AI-podvodníci využívajú tieto nástroje na šírenie dezinformácií a útoky sociálneho inžinierstva. Dokonca aj technicky zdatní jednotlivci by mohli prepadnúť hlasom syntetizovaným AI, ak sú neopatrní.

Šírenie hlasových, obrazových a textových generátorov riadených AI umožňuje používateľom vytvoriť si online úplne novú osobnosť. Vezmite virtuálnych influencerov, napríklad. Mnoho avatarov vygenerovaných AI má superrealistické, realistické črty – mohli by sa vydať za ľudí.

Vytváranie realistických avatarov približuje spoločnosť k metaverzu, ale zároveň pomáha podvodníkom vykonávať sofistikovanejšie útoky. Vytvárajú falošné osoby na krádež identity a online zoznamovacie podvody. A keď podvodníci skombinujú tieto pokročilé technológie s psychologickou manipuláciou, oklamú širší okruh obetí.

Najhoršie je, že niektoré obete upadnú do ilúzie, že môžu vytvoriť skutočné spojenie s osobnosťami AI. Túžba po spoločnosti dostane to najlepšie z nich. Rozhodli sa prehliadať skutočnosť, že cudzinci prevádzkujúci tieto osoby sa o nich nemohli menej starať.

5. AI obsah zaplavuje SERP

AI chatboty výrazne ovplyvnili obsahový priemysel. Jednotliví spisovatelia, marketingové agentúry, obsahové mlyny a dokonca aj legitímne publikácie skúmajú spôsoby, ako urýchliť proces písania pomocou AI. Koniec koncov, pokročilé LLM dokážu vytvoriť 500-slovný kus za menej ako 15 sekúnd.

Existujú niekoľko etických spôsobov, ako môžu spisovatelia používať AI– problém je v tom, že väčšina tvorcov chce obsah rýchlo chrliť. Posadnutosť rýchlosťou škodí kvalite. AI získava informácie zo svojich tréningových dátových súborov; nekontroluje fakty ani neporovnáva zdroje. Výsledný výstup je často neoriginálny a zavádzajúci.

Aby toho nebolo málo, mnoho článkov o umelej inteligencii s nízkou námahou má stále vysoké hodnotenie vďaka pokročilým technikám SEO. Väčšina si ani nevšimne, ktoré výsledky Google sú generované AI. Mohli by čítať a citovať zavádzajúce, fakticky nesprávne informácie bez toho, aby si to uvedomovali.

6. Deepfakes ničia povesť

Generatívne modely založené na AI môžu napodobňovať črty, hlasy a spôsoby iných ľudí prostredníctvom digitálne manipulovaných médií. Pozrite si nižšie uvedené video TikTok s „Tom Cruiseom“. Milióny ľudí by verili, že ide o skutočnú dohodu, ak by účet výslovne neuviedol, že ide o hlboko falošné video.

Ale nie každý je taký úprimný ako oni. Podvodníci využívajú hlboko falošné videá na šírenie zavádzajúceho, škodlivého a sexuálneho obsahu. Môžu vyrobiť takmer akýkoľvek klip s potrebnými schopnosťami a nástrojmi na úpravu.

7. Pohlcujúci zážitok z VR/AR skresľuje vaše zmysly

Modely AI umožňujú virtuálna realita (VR) a rozšírená realita (AR) technológie, ktoré poskytujú pôsobivejší zážitok. Ich hyperrealistický výstup dôkladne stimuluje zmysly. A ako sa budú vyvíjať špičkové zariadenia VR/AR, zlepšia sa aj ich štandardné sluchové, vizuálne a haptické signály.

Hoci je to fascinujúce, príliš časté ponorenie sa do rozšírenej reality skresľuje vaše prirodzené zmysly. Platformy VR/AR vás odpútajú od vášho hmatateľného okolia. Príliš veľa vystavenia umelým zmyslovým spúšťačom sťaží oddelenie reality od simulácií.

Niektorí používatelia si dokonca vyvinú prílišnú závislosť od rozšírenej reality. Namiesto toho, aby čelili skutočnému svetu, prenesú sa do simulácií prispôsobených ich želaniam, požiadavkám a preferenciám.

Dlhodobé používanie zariadení VR/AR má niekoľko rizíkvrátane únavy očí, sociálnej izolácie a náchylnosti na kybernetické útoky.

8. Obchodné systémy AI vytvárajú nerealistické očakávania zisku

Umelá inteligencia mení spôsob fungovania spoločností v rôznych sektoroch. Fox uvádza, že 90 percent malých podnikov už integrovalo chatbotov AI do svojho pracovného toku. Rovnako technologicky zdatní profesionáli skúmajú pokročilejšie modely.

Áno, podniky môžu zvýšiť produktivitu prostredníctvom automatizácie AI, ale spoliehanie sa výlučne na tieto systémy predstavuje riziko nadmernej kapitalizácie. Systémy AI v plnom rozsahu sú drahé. Ponorenie sa do AI zle pripravených vám len zvýši réžiu, takže návratnosť vašej investície bude ešte ťažšie.

AI nie je zlatá vstupenka k úspechu. Dezinformovaní podnikatelia by sa mali zbaviť falošného presvedčenia, že nahradenie ľudských pracovníkov AI zvyšuje zisky. Prijatie nových systémov môže viesť k stratám, ak sa vzdáte správneho plánovania.

Kreslenie čiary medzi fantáziou a realitou

Rozlišovanie medzi virtuálnym a skutočným svetom bude s napredovaním technológií AI ešte ťažšie. Sofistikované modely budú generovať realistickejší výstup. Jediný spôsob, ako bojovať proti týmto rozšíreným falošným realitám, je preskúmať AI sami – študovať jej funkcie a obmedzenia.

Na AI sa tiež vždy pozerajte skepticky. Prešlo dlhú cestu od pľuvania nesúrodých fráz, ale stále nemôže nahradiť správny výskum a lepšie úsudky. Slepá dôvera v platformy AI vás len ponecháva náchylnou k dezinformáciám.