Tu je dôvod, prečo si vedci myslia, že by ste sa mali obávať umelej inteligencie

Reklama

V posledných mesiacoch ste si možno prečítali okolité pokrytie článok, spoluautor Stephen Hawking, diskutovať o rizikách spojených s umelou inteligenciou. V článku sa navrhuje, že AI môže predstavovať vážne riziko pre ľudskú rasu. Hawking tam nie je sám - Elon Musk a Peter Thiel sú obaja intelektuálni verejní činitelia, ktorí vyjadrili podobné obavy (Thiel investoval viac ako 1,3 milióna dolárov do skúmania problému a možných riešení).

Obsah článku Hawkinga a Muskove komentáre boli, nie príliš prísne, trochu žoviálny. Tón bol veľmi ‘Pozri sa na túto divnú vec, o ktorú sa všetci tí geekovia obávajú.“ Myšlienka, že ak vás niektorí z najchytrejších ľudí na Zemi varujú, že niečo by mohlo byť veľmi nebezpečné, by sa malo len málo zvážiť.

Je to pochopiteľné - umelá inteligencia, ktorá preberá svet, určite znie veľmi zvláštne a nepravdepodobné, možno kvôli obrovskej pozornosti, ktorá sa tejto myšlienke už venovala sci-fi spisovatelia. Čo teda všetci títo nominálne rozumní, racionálni ľudia vystrašili?

Čo je to spravodajstvo?

Aby bolo možné hovoriť o nebezpečenstve umelej inteligencie, mohlo by byť užitočné pochopiť, čo je inteligencia. V záujme lepšieho porozumenia problému sa pozrime na architektúru hračiek AI, ktorú používajú vedci, ktorí študujú teóriu uvažovania. Táto hračka AI sa nazýva AIXI a má množstvo užitočných vlastností. Ciele môžu byť ľubovoľné, dobre sa prispôsobujú výpočtovému výkonu a jeho vnútorný dizajn je veľmi čistý a jednoduchý.

Ďalej môžete implementovať jednoduché, praktické verzie architektúry, ktoré dokážu robiť veci hrať Pacman, Ak chceš. AIXI je produktom výskumníka AI menom Marcus Hutter, pravdepodobne najdôležitejšieho experta na algoritmickú inteligenciu. To hovorí on vo vyššie uvedenom videu.

AIXI je prekvapivo jednoduchý: má tri základné komponenty: študent, projektanta úžitková funkcia.

• študent prijíma reťazce bitov, ktoré zodpovedajú vstupom o vonkajšom svete, a prehľadáva počítačové programy, kým nenájde tie, ktoré produkujú svoje pozorovania ako výstup. Tieto programy spolu umožňujú odhadnúť, ako bude vyzerať budúcnosť, jednoducho spustením každého z nich naprogramujte dopredu a zvážte pravdepodobnosť výsledku podľa dĺžky programu (implementácia systému Occam's) Razor).
• projektant prehľadáva možné akcie, ktoré by agent mohol vykonať, a pomocou modulu učiaci sa predpovedá, čo by sa stalo, keby prijal každú z nich. Potom ich hodnotí podľa toho, aké sú dobré alebo zlé predpokladané výsledky, a volí priebeh činnosť, ktorá maximalizuje správnosť očakávaného výsledku vynásobeného očakávanou pravdepodobnosťou dosiahnuť to.
• Posledný modul, úžitková funkcia, je jednoduchý program, ktorý berie do úvahy popis budúceho stavu sveta a vypočíta preň úžitkové skóre. Toto skóre užitočnosti je, aký dobrý alebo zlý je tento výsledok, a používa ho plánovač na vyhodnotenie budúceho stavu sveta. Úžitková funkcia môže byť ľubovoľná.
• Dohromady tieto tri zložky tvoria optimalizátor, ktorá optimalizuje konkrétny cieľ bez ohľadu na svet, v ktorom sa nachádza.

Tento jednoduchý model predstavuje základnú definíciu inteligentného agenta. Agent skúma svoje prostredie, vytvára z neho modely a potom tieto modely používa na nájdenie postupu, ktorý maximalizuje šance, že dostane to, čo chce. Štruktúra AIXI má podobnú štruktúru ako AI, ktorá hrá šach alebo iné hry so známymi pravidlami - okrem toho, že je schopná odvodiť pravidlá hry jej hraním, počnúc nulovou znalosťou.

AIXI, ktorý má dostatok času na výpočet, sa môže naučiť optimalizovať akýkoľvek systém pre akýkoľvek cieľ, nech je akokoľvek zložitý. Je to všeobecne inteligentný algoritmus. Všimnite si, že to nie je to isté ako mať inteligenciu podobnú človeku (biologicky inšpirovaná AI je celkom iná téma Giovanni Idili z OpenWorm: Mozgy, červy a umelá inteligenciaSimulácia ľudského mozgu je východiskom, ale projekt s otvoreným zdrojom podniká prvé nevyhnutné kroky simuláciou neurológie a fyziológie jedného z najjednoduchších vedeckých zvierat. Čítaj viac ). Inými slovami, AIXI môže byť schopná prekonať akúkoľvek ľudskú bytosť pri akejkoľvek intelektuálnej úlohe (za predpokladu dostatočného výpočtového výkonu), ale nemusí si byť vedomý svojho víťazstva Mysliace stroje: Čo nám môžu neurovedy a umelá inteligencia naučiť o vedomíMôže nás stavba umelo inteligentných strojov a softvéru učiť o fungovaní vedomia ao povahe samotnej ľudskej mysle? Čítaj viac .

Ako praktická AI má AIXI veľa problémov. Po prvé, neexistuje spôsob, ako nájsť tie programy, ktoré produkujú výstup, o ktorý majú záujem. Je to algoritmus hrubej sily, čo znamená, že nie je praktické, ak nechcete obísť svojvoľne výkonný počítač. Akákoľvek skutočná implementácia AIXI je nevyhnutne aproximáciou a (dnes) spravidla dosť hrubou. Napriek tomu nám AIXI dáva teoretický pohľad na to, ako by mohla vyzerať silná umelá inteligencia a ako by to mohlo odôvodňovať.

Hodnotový priestor

ak urobili ste akékoľvek počítačové programovanie Základy počítačového programovania 101 - premenné a typy údajovPredtým, ako som predstavil objektovo orientované programovanie, a kde bol jeho menovec, sa o ňom trochu hovorilo pochádza, myslel som si, že je čas, aby sme prešli absolútnymi základmi programovania v jazykovej oblasti, ktorá nie je špecifická spôsobom. Tento ... Čítaj viac , viete, že počítače sú nepoctivo, pedanticky a mechanicky doslovné. Stroj nevie alebo sa nestará o to, čo chcete robiť: robí iba to, čo mu bolo povedané. Toto je dôležitý pojem, keď hovoríme o strojovej inteligencii.

S týmto vedomím si predstavte, že ste vymysleli silnú umelú inteligenciu - prišli ste pomocou inteligentných algoritmov na generovanie hypotéz, ktoré zodpovedajú vašim údajom, a na generovanie dobrých kandidátov plány. Vaša inteligencia dokáže vyriešiť všeobecné problémy a dokáže tak efektívne na modernom počítačovom hardvéri.

Teraz je čas zvoliť pomocnú funkciu, ktorá určí, aké hodnoty AI. Čo by ste mali požiadať o to, aby ste si to vážili? Pamätajte si, že stroj bude obťažne, pedanticky doslovne o akejkoľvek funkcii, ktorú od neho požadujete, aby sa maximalizoval, a nikdy sa nezastaví - v ňom nie je žiadny duch stroj, ktorý sa niekedy „zobudí“ a rozhodne sa zmeniť svoju úžitkovú funkciu, bez ohľadu na to, koľko vylepšení účinnosti dosahuje pre svoju vlastnú úvaha.

Eliezer Yudkowsky týmto spôsobom:

Rovnako ako vo všetkých počítačových programoch je základnou výzvou a zásadnou ťažkosťou AGI to, že ak napíšeme nesprávny kód, AI sa nebude automaticky pozerať na náš kód, odznačiť chyby, zistiť, čo sme naozaj chceli povedať a urobiť to miesto. Neprogramátori si niekedy myslia, že AGI alebo počítačové programy všeobecne sú analogické so služobníkom, ktorý bezpochyby riadi rozkazy. Nie je to však tak, že AI je absolútne poslušný do svojho kódu; skôr AI jednoducho je kód.

Ak sa snažíte prevádzkovať továreň a poviete stroju, aby si cení výrobu kancelárskych sponiek a potom mu dávate kontrolu nad hromadou robotov, môže sa vrátiť nasledujúci deň, aby zistilo, že sa minuli všetky ostatné formy východiskových surovín, zabil všetkých vašich zamestnancov a z kancelárskych sponiek vyradil kancelárske sponky. zvyšky. Ak v snahe napraviť svoje zlé preprogramujete stroj tak, aby sa všetci šťastne bavili, môžete sa nasledujúci deň vrátiť, aby ste zistili, že do mozgov ľudí vkladá drôty.

Ide o to, že ľudia majú veľa komplikovaných hodnôt, o ktorých sa domnievame, že sú implicitne zdieľaní s ostatnými mysľami. Ceníme si peniaze, ale viac si ceníme ľudský život. Chceme byť šťastní, ale nemusíme nutne vkladať káble do mozgu, aby sme to urobili. Keď dávame pokyny iným ľudským bytostiam, nepociťujeme potrebu objasniť tieto veci. Tieto predpoklady však nemôžete urobiť, keď navrhujete úžitkovú funkciu stroja. Najlepším riešením pod bezduchou matematikou jednoduchej úžitkovej funkcie sú často riešenia, ktoré by ľudské bytosti túžili po morálnom zdesení.

Umožniť inteligentnému stroju maximalizovať naivnú úžitkovú funkciu bude takmer vždy katastrofické. Ako hovorí Oxfordský filozof Nick Bostom,

Nemôžeme bez pochyby predpokladať, že superinteligencia bude nevyhnutne zdieľať všetky konečné hodnoty stereotypne spojené s múdrosťou. a intelektuálny vývoj u ľudí - vedecká zvedavosť, zhovievavá starostlivosť o ostatných, duchovné osvietenie a rozjímanie, zrieknutie sa materiálnej konkurencieschopnosti, vkusu kultivovanej kultúry alebo jednoduchých pôžitkov v živote, pokory a nesebeckosti a tak ďalej.

Aby toho nebolo málo, je veľmi ťažké určiť úplný a podrobný zoznam všetkého, čo si ľudia vážia. K otázke je veľa aspektov a zabudnutie, dokonca aj jednej, je potenciálne katastrofické. Dokonca aj medzi tými, ktorých poznáme, existujú jemnosti a zložitosti, ktoré sťažujú ich písanie ako čisté systémy rovníc, ktoré môžeme dať stroju ako funkcii.

Niektorí ľudia po prečítaní tohto záveru dospeli k záveru, že budovanie AI s užitočnými funkciami je hrozný nápad, a mali by sme ich len navrhnúť inak. Tu sú tiež zlé správy - môžete to formálne dokázať každý agent, ktorý nemá niečo ekvivalentné funkcii utility, nemôže mať koherentné preferencie o budúcnosti.

Rekurzívne sebazlepšovanie

Jedným z riešení vyššie uvedenej dilemy je nedať agentom AI príležitosť ublížiť ľuďom: poskytnúť im iba zdroje, ktoré potrebujú na vyriešiť problém tak, ako chcete, aby bol vyriešený, pozorne na ne vykonávajte dohľad a držte ho ďalej od príležitostí na skvelú prácu ujma. Bohužiaľ, naša schopnosť ovládať inteligentné stroje je vysoko podozrivá.

Aj keď nie sú o moc chytrejší ako my, existuje možnosť, že stroj „zavedie systém“ - zhromažďuje lepší hardvér alebo vylepšuje svoj vlastný kód, vďaka čomu je ešte inteligentnejší. To by umožnilo stroju preskočiť ľudskú inteligenciu o mnoho rádov, čím prekabátili ľudí v rovnakom zmysle, ako ľudia prekabátili mačky. Tento scenár prvýkrát navrhol muž menom I. J. Dobre, ktorý počas druhej svetovej vojny pracoval na projekte kryptografickej analýzy Enigmy s Alanom Turingom. Nazval to „spravodajská explózia“ a túto záležitosť opísal takto:

Nech je ultra inteligentný stroj definovaný ako stroj, ktorý môže ďaleko predbehnúť všetky intelektuálne aktivity každého človeka, nech je chytrý. Pretože navrhovanie strojov je jednou z týchto intelektuálnych aktivít, mohol by ultrainteligentný stroj navrhnúť ešte lepšie stroje; potom by bezpochyby došlo k „výbuchu inteligencie“ a inteligencia človeka by zostala pozadu. Prvý ultrainteligentný stroj je teda posledným vynálezom, ktorý človek kedy potrebuje, za predpokladu, že stroj je dostatočne učenlivý.

Nie je zaručené, že v našom vesmíre je možná inteligencia, ale zdá sa, že je pravdepodobná. Postupom času počítače získavajú rýchlejšie a základné informácie o budovaní spravodajských informácií. To znamená, že požiadavka na zdroje, aby sa tento posledný skok na všeobecné, zvýšenie inteligencie klesá nižšie a nižšie. V určitom okamihu sa ocitneme vo svete, v ktorom môžu milióny ľudí viesť najlepší nákup a vyzdvihnúť hardvér a technickej literatúry, ktorú potrebujú na vybudovanie umelej inteligencie, ktorá sa zdokonaľuje, čo sme už dokázali, môže byť veľmi nebezpečný. Predstavte si svet, v ktorom by ste mohli vyrobiť atómové bomby z paličiek a hornín. To je druh budúcnosti, o ktorej diskutujeme.

A ak stroj urobí tento skok, mohol by veľmi rýchlo prekonať ľudský druh z hľadiska intelektuálneho produktivita, riešenie problémov, ktoré miliarda ľudí nedokáže vyriešiť, rovnakým spôsobom, ako môžu ľudia riešiť problémy, ktoré a miliarda mačiek nemôže.

Mohla by vyvinúť výkonné roboty (alebo bio alebo nanotechnológiu) a relatívne rýchlo získať schopnosť pretvoriť svet tak, ako sa mu páči, a bolo by s tým veľmi málo, čo by sme mohli urobiť. Takáto inteligencia by bez problémov mohla vyzradiť Zem a zvyšok slnečnej sústavy o náhradné diely na ceste k tomu, čo sme jej povedali. Zdá sa pravdepodobné, že takýto vývoj bude pre ľudstvo katastrofický. Umelá inteligencia nemusí byť škodlivá, aby zničila svet, iba katastrofálne ľahostajná.

Ako sa hovorí: „Stroj vás nemiluje ani nenávidí, ale ste vyrobení z atómov, ktoré môže použiť na iné veci.“

Hodnotenie a zmierňovanie rizika

Ak teda pripustíme, že navrhovanie výkonnej umelej inteligencie, ktorá maximalizuje jednoduchú funkčnosť funkcie, je zlé, v koľkých problémoch sa skutočne nachádzame? Ako dlho sme dostali, než bude možné stavať tieto druhy strojov? Je, samozrejme, ťažké povedať.

Vývojári umelej inteligencie sú Robiť pokrok. 7 Úžasné webové stránky, kde nájdete najnovšie informácie o programovaní umelej inteligencieUmelá inteligencia ešte nie je HAL z roku 2001: The Space Odyssey... ale my sa dostávame strašne blízko. Jedného dňa by to mohlo byť podobné sci-fi potboilérom, ktoré Hollywood vyhadzoval ... Čítaj viac Stroje, ktoré vyrábame, a problémy, ktoré môžu vyriešiť, neustále narastajú. V roku 1997 mohla Deep Blue hrať šach na úrovni vyššej ako ľudský veľmajster. V roku 2011 spoločnosť Watson spoločnosti IBM dokázala prečítať a syntetizovať dostatok informácií hlboko a rýchlo, aby porazila najlepšieho človeka hráči s otvorenou hrou na otázky a odpovede preleteli slovnými hračkami a slovnými hrami - to je veľký pokrok v štrnástich rokov.

Momentálne je Google veľké investície do výskumu hlbokého vzdelávania, technika, ktorá umožňuje vytváranie výkonných neurónových sietí vytváraním reťazcov jednoduchších neurónových sietí. Táto investícia jej umožňuje dosiahnuť výrazný pokrok v rozpoznávaní reči a obrazov. Ich poslednou akvizíciou v tejto oblasti je startup Deep Learning s názvom DeepMind, za ktorý zaplatili približne 400 miliónov dolárov. V rámci zmluvných podmienok sa spoločnosť Google dohodla na vytvorení etickej rady s cieľom zabezpečiť, aby sa ich technológia AI vyvíjala bezpečne.

Spoločnosť IBM zároveň vyvíja systémy Watson 2.0 a 3.0, ktoré sú schopné spracovávať obrázky a video a obhajovať závery. Poskytli jednoduché, skoré demo schopnosti Watsona syntetizovať argumenty za a proti téme vo videu uvedenom nižšie. Výsledky sú nedokonalé, ale pôsobivý krok bez ohľadu na to.

Momentálne žiadna z týchto technológií sama o sebe nie je nebezpečná: umelá inteligencia ako oblasť stále zápasí s schopnosťami, ktoré ovládajú malé deti. Počítačové programovanie a návrh umelej inteligencie je veľmi náročná kognitívna zručnosť na vysokej úrovni a pravdepodobne bude poslednou ľudskou úlohou, ktorú stroje dokážu ovládať. Predtým, ako sa dostaneme k tomuto bodu, budeme mať tiež všadeprítomné stroje ktorý dokáže riadiť Tu je návod, ako sa dostaneme do sveta plného automobilov bez vodičaJazda je únavná, nebezpečná a náročná úloha. Dalo by sa to jedného dňa automatizovať technológiou automobilu bez vodiča od spoločnosti Google? Čítaj viac , prax medicíny a právaa pravdepodobne aj ďalšie veci, ktoré majú vážne hospodárske dôsledky.

Čas, ktorý nám bude trvať, kým sa dostaneme do inflexného bodu sebazlepšenia, závisí iba od toho, ako rýchlo máme dobré nápady. Predpovedanie technologického pokroku tohto druhu je notoricky ťažké. Nezdá sa byť neprimerané, že sa nám podarí vybudovať silnú umelú inteligenciu za dvadsať rokov, ale nezdá sa byť neprimerané, že by to mohlo trvať osemdesiat rokov. V každom prípade sa to nakoniec stane a existuje dôvod domnievať sa, že keď sa tak stane, bude to mimoriadne nebezpečné.

Takže, ak uznáme, že to bude problém, čo s tým môžeme urobiť? Odpoveď je zabezpečiť, aby boli prvé inteligentné stroje bezpečné, aby mohli zavádzať až do značnej úrovne inteligencie, a potom nás chrániť pred nebezpečnými strojmi vyrobenými neskôr. Táto „bezpečnosť“ je definovaná zdieľaním ľudských hodnôt a ochotou chrániť a pomáhať ľudstvu.

Pretože nemôžeme v skutočnosti sedieť a naprogramovať ľudské hodnoty do stroja, pravdepodobne bude potrebné navrhnúť pomocnú funkciu, ktorá vyžaduje, aby stroj pozorujte ľudí, odvodzujte naše hodnoty a potom sa ich pokúste maximalizovať. Aby bol tento proces vývoja bezpečný, môže byť tiež užitočné vyvinúť umelé inteligencie, ktoré sú špeciálne navrhnuté nie mať preferencie týkajúce sa ich obslužných funkcií, čo nám umožňuje ich opravu alebo vypnutie bez odporu, ak sa začnú počas vývoja brániť.

Mnoho problémov, ktoré musíme vyriešiť, aby sme vytvorili bezpečnú strojovú inteligenciu, je matematicky ťažké, ale existuje dôvod veriť, že sa dajú vyriešiť. Na tejto otázke pracuje niekoľko rôznych organizácií vrátane Future of Humanity Institute v Oxfordea Výskumný ústav strojového spravodajstva (ktoré Peter Thiel financuje).

MIRI sa zaujíma konkrétne o vývoj matematiky potrebnej na vytvorenie Friendly AI. Ak sa ukáže, že je možná bootstrapping umelá inteligencia, potom sa tento druh vyvinie Technológia „Friendly AI“, ak bude úspešná, sa môže skončiť ako jediná najdôležitejšia vec, ktorú ľudia majú niekedy urobil.

Myslíte si, že umelá inteligencia je nebezpečná? Zaujíma vás, čo by mohla priniesť budúcnosť AI? Podeľte sa o svoje myšlienky v sekcii komentárov nižšie!

Kredity obrázkov: Lwp Kommunikáció Via Flickr, “Neurónová sieť„Fdecomitom“ img_7801“, Steve Rainwater,“ E-Volve ”, Keoni Cabral,“new_20x„, Robert Cudmore,“Spinky„, Clifford Wallace