Ľudstvu „hrozí zánik“ AI – ako ho možno zastaviť?

Skupina popredných výskumníkov a technologických firiem v oblasti AI opäť varovala, že súčasný rýchly rozvoj umelej inteligencie môže znamenať pre ľudstvo katastrofu.

Riziká zahŕňajú jadrové konflikty, choroby, dezinformácie a umelú inteligenciu na úteku bez dohľadu, z ktorých všetky predstavujú bezprostrednú hrozbu pre prežitie ľudstva.

Nie je však jasné, že mnohé z týchto varovaní pochádzajú od tých istých ľudí, ktorí vedú vývoj AI a presadzujú nástroje a programy umelej inteligencie vo svojich príslušných spoločnostiach.

Prečo technologické spoločnosti a vedci AI varujú pred rizikom AI?

30. mája 2023 vydalo viac ako 350 výskumníkov, vývojárov a inžinierov AI spolupodpísané vyhlásenie varujúce pred hrozbou AI pre ľudstvo.

Zmiernenie rizika vyhynutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách spoločenského rozsahu, ako sú pandémie a jadrová vojna.

Signatári do Safe.ai vyhlásenie

zahŕňali Sam Altman z OpenAI, Demis Hassabis z Google DeepMind a Dario Amodei z Anthropic spolu s Turingom Držitelia cien Geoffrey Hinton a Yoshua Bengio (hoci Yann LeCun, ktorý tiež vyhral rovnakú cenu, zabudli podpísať). Zoznam je takmer taký, kto je kto vo svete vývoja AI – ľudia, ktorí vedú cestu s AI – no tu sú všetci, ktorí varujú, že AI môže znamenať katastrofu pre ľudstvo.

Je to krátke vyhlásenie, ktoré objasňuje hrozby, konkrétne uvádza dve kľúčové oblasti, ktoré by mohli ohroziť svet, ako ho poznáme: jadrová vojna a globálne zdravotné problémy. Zatiaľ čo hrozba jadrového konfliktu je znepokojujúca, riziko pandémie je pre väčšinu hmatateľnejšou hrozbou.

Nie je to však len globálna pandémia, ktorá by mohla spôsobiť zdravotné problémy súvisiace s AI. The Guardian uvádza niekoľko ďalších zdravotných problémov AI, ktoré by mohli mať vplyv na ľudí, ak by neboli skontrolované pred rozšíreným používaním. Jeden príklad sa týkal používania oxymetrov poháňaných AI, ktoré „nadhodnotili hladiny kyslíka v krvi u pacientov s tmavšou pokožkou, čo viedlo k nedostatočnej liečbe ich hypoxie“.

Okrem toho to nie je prvýkrát, čo skupina technologických lídrov vyzvala na prerušenie alebo vážne prehodnotenie vývoja AI. V marci 2023 Elon Musk a ďalší výskumníci AI podpísali podobnú výzvu na akciu požiadať o moratórium na vývoj umelej inteligencie, kým sa nezavedie viac regulácií, ktoré by pomohli riadiť tento proces.

Aké je riziko AI?

Väčšina rizík spojených s AI, aspoň v tomto kontexte, súvisí s vývojom technológie umelej inteligencie ktorý presahuje schopnosti ľudí, v ktorých sa nakoniec obráti proti svojmu tvorcovi a vyhladí život, ako vieme to. Je to príbeh pokrytý nespočetne veľakrát v písaní sci-fi, ale realita je teraz bližšie, než si myslíme.

Možnosti veľkých jazykových modelov (ktoré sú základom nástrojov ako ChatGPT) sa výrazne zvyšujú. však nástroje ako ChatGPT majú veľa problémov, ako je prirodzená zaujatosť, obavy o súkromie a halucinácie AI, nehovoriac o jej schopnosti nechať sa prelomiť väzením a konať mimo hraníc jej naprogramovaných podmienok.

Ako sa veľké jazykové modely zväčšujú a majú viac dátových bodov, ktoré je možné použiť, spolu s prístupom na internet a viac porozumení súčasným udalostiam sa výskumníci AI obávajú, že jedného dňa by to mohlo podľa slov generálneho riaditeľa OpenAI Sama Altmana „dostať zle."

Ako vlády regulujú vývoj AI, aby zastavili riziká?

Regulácia AI je kľúčom k prevencii rizík. Začiatkom mája 2023 Sam Altman vyzval na väčšiu reguláciu AI, v ktorom sa uvádza, že „regulačný zásah vlád bude rozhodujúci na zmiernenie rizík čoraz silnejších modelov“.

Potom Európska únia oznámila zákon o AI, nariadenie navrhnuté tak, aby poskytovalo oveľa silnejší rámec pre rozvoj AI v celej EÚ (s mnohými nariadeniami preniknutými do iných jurisdikcií). Altman sa pôvodne vyhrážal stiahnutím OpenAI z EÚ, ale potom svoju hrozbu opustil a súhlasil, že spoločnosť bude spĺňať nariadenia o AI, o ktoré predtým požiadal.

Bez ohľadu na to je jasné, že regulácia vývoja a používania AI je dôležitá.

Skončí AI ľudstvo?

Keďže veľká časť diskusie o tejto téme je postavená na hypotézach o sile budúcich verzií AI, existujú problémy týkajúce sa životnosti a výkonu, ktoré môže mať akákoľvek regulácia AI. Ako najlepšie regulovať odvetvie, ktoré sa už pohybuje rýchlosťou tisíc míľ za minútu a prelomy vo vývoji sa dejú denne?

Okrem toho stále existujú určité pochybnosti o schopnostiach AI vo všeobecnosti a o tom, kde skončí. Zatiaľ čo tí, ktorí sa obávajú najhoršieho, poukazujú na to, že umelá všeobecná inteligencia sa stane ľudským vládcom, iní poukazujú na to skutočnosť, že súčasné verzie AI nedokážu robiť ani základné matematické otázky a že plne autonómne autá sú stále vypnuté.

Je ťažké nesúhlasiť s tými, ktorí hľadia do budúcnosti. Mnohí z ľudí, ktorí najhlasnejšie kričia o problémoch, ktoré môže AI predstavovať, sú na sedadle vodiča a pozerajú sa, kam by sme mohli smerovať. Ak sú to oni, ktorí požadujú reguláciu AI, aby nás chránili pred potenciálne strašnou budúcnosťou, možno je čas počúvať.