Len za posledných pár rokov sa schopnosti AI výrazne zlepšili. Dnes môžeme pomocou AI vytvárať umenie, písať príbehy, učiť sa o svete a oveľa viac. Ale deje sa to všetko príliš skoro? Rozvíja sa AI príliš rýchlo a aké znaky tomu nasvedčujú?

Prečo sa ľudia obávajú AI?

Koncom marca 2023 zverejnil Inštitút budúcnosti života online dokument s názvom „Pozastaviť obrovské experimenty AI: otvorený list“. Dokument obsahoval argumenty proti vývoju AI po sofistikovanosti GPT-4, najnovšej iterácie chatbota poháňaného AI od OpenAI.

V liste bolo napísané, že „systémy AI s ľudskou konkurenčnou inteligenciou môžu predstavovať vážne riziká pre spoločnosť a ľudstvo“ a že „výkonné systémy umelej inteligencie by sa mali vyvíjať len vtedy, keď sme si istí, že ich účinky budú pozitívne a riziká budú zvládnuteľné."

Množstvo prominentných osobností v oblasti technológií vrátane Steva Wozniaka a Elon Musk podpísal list a chce pozastaviť vývoj AI. Táto prosba o zastavenie vývoja AI spochybnila, aké nebezpečné sa AI stáva a aké riziká predstavuje pre ľudský život.

instagram viewer

Aké znaky teda naznačujú, že AI sa pohybuje príliš rýchlo?

1. Súťaž s ľuďmi

Už sme videli, ako technológia nahradila ľudských pracovníkov v nespočetných scenároch. Keď zamierite do reštaurácie rýchleho občerstvenia, teraz si môžete objednať cez obrazovku počítača, a keď si chcete kúpiť potraviny, môžete vykonať pokladňu pomocou automatického systému. Môže to byť rýchla a pohodlná možnosť, ale ako sa automatizácia stáva čoraz dôležitejšou v rôznych odvetviach, potreba ľudských pracovníkov klesá.

Tu začína problém. Samozrejme, ľudia musia pracovať, aby sa uživili, ale nárast automatizácie to značne sťažuje. Týka sa to najmä pracovníkov s minimálnou mzdou, ako sú pracovníci v potravinárstve, výrobe a maloobchode. Základné úlohy, ako je kontrola objednávok, vyzdvihnutie nákladu a čistenie, to všetko môžu vykonávať stroje. Integrácia AI znamená, že čoskoro už možno nebudeme potrebovať operátorov pre túto technológiu.

Informoval o tom FormStack že 76 % podnikov používa automatizáciu na štandardizáciu alebo automatizáciu každodenných pracovných postupov. A s Zapier uvádza, že 94 % pracovníkov uviedlo, že ich práca zahŕňa opakujúce sa a časovo náročné úlohy, Automatizácia poháňaná AI by sa mohla veľmi ľahko stať väčšinovou súčasťou globálnej pracovnej sily naprieč všetkými odvetvia.

2. Povzbudzovanie ľudskej lenivosti

Jednou z kľúčových výhod AI je, že dokáže zjednodušiť toľko úloh. No táto vymoženosť môže veľmi ľahko vystriedať lenivosť. A v niektorých prípadoch sa to už stalo.

Vezmite si napríklad ChatGPT. ChatGPT môžete použiť na rôzne veci ako písanie esejí, skúmanie tém, vytváranie vtipov, preklad textu a mnoho ďalšieho. Mať službu, ktorá dokáže rýchlo vykonávať úlohy za vás, je skvelé, ale zároveň nás vedie k spokojnosti. Zakrpatené úsilie a kreativita týmto spôsobom môžu mať určite negatívny vplyv na ľudstvo ako celok, čo je kľúčový dôvod, prečo sa toľko ľudí obáva AI.

V našej modernej dobe sme si na služby založené na AI tak zvykli, že im prirodzene veľa dôverujeme. Napríklad virtuálna asistentka spoločnosti Microsoft, Cortana, používa strojové učenie a AI na vykonávanie príkazov používateľov. Mnoho ďalších virtuálnych asistentov, vrátane Apple Siri, tiež používa AI na fungovanie.

Dôvera v túto technológiu môže byť bezpečná, ale v skutočnosti o tom nie je nič vedieť, najmä vzhľadom na to, že AI je stále vo veľmi vývojovej fáze.

3. Šírenie falošných informácií

Poďakovanie za obrázok: Deep Homage/Flickr

V bežných sférach si AI získala veľkú slávu vďaka svojej schopnosti vytvárať umenie, obrázky a videá. Služby poháňané umelou inteligenciou je možné použiť nielen na vytváranie umenia, ale môžu tiež vytvárať mimoriadne kontroverznú formu médií známu ako deepfakes. Deepfakes sú videá, v ktorých sa tvár osoby prekrýva s telom inej osoby.

Znie to celkom zábavne, ale dá sa to veľmi ľahko zneužiť.

Existujú už tisíce videí celebrít a politických osobností, ktoré hovoria neuveriteľne oplzlé a nevhodné veci prostredníctvom hlbokých falošných správ. Zatiaľ čo niektoré deepfakes sa dajú veľmi ľahko identifikovať, niektoré sú také sofistikované, že je ťažké rozoznať, či sú skutočné alebo nie. Keď sa to stane, ľudia môžu predpokladať, že verejná osoba povedala niečo, čo v skutočnosti nikdy nepovedali.

Na základe toho si ľudia urobia názory na tieto videá, čím prispejú k šíreniu dezinformácií online.

A čo viac, chatboty poháňané AI môžu používateľom poskytnúť aj nepravdivé informácie. Chatboty ako ChatGPT, Boost. AI a Drift môžu používateľom poskytnúť veľa informácií, ale tieto informácie nemusia byť vždy presné. Ako diskutoval The GuardianAI chatboty nie sú v žiadnom prípade odhodlané poskytovať vám pravdivé informácie, čo znamená, že falošné správy môžu veľmi ľahko prekĺznuť cez trhliny a dostať sa k vám.

4. Vytvorenie malvéru

Začiatkom roku 2023 sa začala šíriť správa škodlivých aktérov, ktorí vytvárajú malvér pomocou ChatGPT. V tomto prípade kybernetická analytická firma Check Point Research zistila, že jednotlivci diskutovali o výhodách používania ChatGPT na vytváranie malvéru na hackerskom fóre. Autor príspevku na fóre zdieľal infostealer, ktorý napísali v Pythone pomocou ChatGPT, čím povzbudil iných škodlivých aktérov, aby vytvorili malvér pomocou chatbota.

Malvérové ​​programy musia byť kódované, čo môže byť časovo náročné, najmä ak tvorca nepoužíva šablónu z už existujúceho programu.

Pomocou ChatGPT môžu škodliví aktéri nielen zefektívniť proces tvorby malvéru, ale aj menej technologicky zdatní jednotlivci môžu vytvárať malvér. Keďže sofistikovanosť AI neustále napreduje, môže byť možné vytvoriť neuveriteľne sofistikovaný malvér, ktorý dokáže obísť antivírusovú detekciu, autentifikáciu, brány firewall a ďalšie ochranné opatrenia.

5. Nedostatok regulácie

Bežným problémom v technologickom priemysle je nedostatok regulácie pre novšie služby, ako sú platformy založené na blockchaine a produkty AI. Nedostatočnú reguláciu môžu niektorí považovať za dobrú vec, ale môže tiež ustúpiť nezákonným praktikám.

Nedostatok regulácie môže viesť nielen k nárastu podvodov a počítačovej kriminality s umelou inteligenciou, ale aj spôsob, akým výskumníci vyvíjajú technológie AI, môže začať prekračovať vážne hranice. Pri zaobchádzaní s AI je potrebné vziať do úvahy etické úvahy. Môže sa systém stať príliš uvedomelým? Aký druh účinky bude mať AI na ľudský život? Mali by sme týmto spôsobom využívať AI? Zoznam otázok pokračuje ďalej a ďalej.

Bez regulácie môžu niektoré spoločnosti začať prekračovať morálne hranice, čo by zase mohlo byť veľmi zlou správou pre širšiu verejnosť.

AI sa pohybuje rýchlym tempom a určite predstavuje riziko

Nemožno poprieť, že potenciál AI je obrovský, no treba ho vhodne využiť, aby sa znížila šanca, že sa veci vymknú spod kontroly. Už sme videli, ako sa AI používa so zlým úmyslom, takže nevieme, ako by sa tento problém mohol vyvinúť s ďalším pokrokom. Čas ukáže, či sa AI stane v našom svete požehnaním alebo prekliatím, a spôsob, akým sa s ňou teraz zaobchádza, bude určite hrať úlohu v tomto výsledku.