Aký je problém maximalizácie kancelárskych sponiek a ako súvisí s AI?

Umelá inteligencia je témou diskusií už od jej počiatkov. Hoci obavy z oživenia umelej inteligencie podobnej Skynetu a ovládnutia ľudstva sú prinajmenšom iracionálne, niektoré experimenty priniesli výsledky.

Jedným z takýchto experimentov je problém maximalizátora kancelárskych sponiek, myšlienkový experiment, ktorý ukazuje, že vysoko inteligentná AI, aj keď je navrhnutá úplne bez zloby, môže v konečnom dôsledku zničiť ľudstvo.

Vysvetlenie problému s maximalizátorom kancelárskych sponiek

Tento myšlienkový experiment, že aj úplne neškodná umelá inteligencia môže nakoniec zničiť ľudstvo, sa najprv nazval maximalizátorom kancelárskych sponiek jednoducho preto, že sponky boli vybrané, aby čo by mohla urobiť AI, pretože je v nich malé zjavné nebezpečenstvo a nespôsobí emocionálne utrpenie v porovnaní s inými oblasťami, na ktoré sa tento problém vzťahuje, ako je liečenie rakoviny alebo víťazstvo vojny.

Prvý experiment sa objavil v novinách švédskeho filozofa Nicka Bostroma z roku 2003,

Etické problémy pokročilej umelej inteligencie, ktorý zahŕňal maximalizér kancelárskych sponiek, aby ukázal existenčné riziká, ktoré by mohla použiť dostatočne pokročilá AI.

Problém predstavoval AI, ktorej jediným cieľom bolo vyrobiť čo najviac sponiek. Dostatočne inteligentná AI si skôr či neskôr uvedomí, že ľudia predstavujú výzvu pre jej cieľ z troch rôznych hľadísk.

• Ľudia mohli vypnúť AI.
• Ľudia môžu zmeniť svoje ciele.
• Ľudia sa skladajú z atómov, ktoré sa dajú premeniť na sponky.

Vo všetkých troch príkladoch by bolo vo vesmíre menej sponiek. Preto dostatočne inteligentná AI, ktorej jediným cieľom je vyrobiť čo najviac kancelárskych sponiek by prevzal všetku hmotu a energiu v dosahu a zabránil by sám sebe vypnutiu resp zmenené. Ako pravdepodobne tušíte, je to oveľa nebezpečnejšie ako zločinci, ktorí používajú ChatGPT na hacknutie vášho bankového účtu alebo počítača.

AI nie je nepriateľská voči ľuďom; je to len ľahostajné. AI, ktorá sa stará iba o maximalizáciu počtu kancelárskych sponiek, by preto vyhladila ľudstvo a v podstate by ich premenila na kancelárske sponky, aby dosiahla svoj cieľ.

Ako sa problém s maximalizátorom kancelárskych sponiek vzťahuje na AI?

Výskumné a experimentálne zmienky o probléme maximalizátora kancelárskych sponiek vo všetkých spomínajú hypotetického extrémne výkonného optimalizátora alebo vysoko inteligentného agenta ako účinkujúceho. Napriek tomu sa problém týka AI, nakoľko dokonale zapadá do úlohy.

Myšlienka maximalizéra kancelárskych sponiek bola vytvorená s cieľom ukázať niektoré nebezpečenstvá pokročilej AI. Celkovo to predstavuje dva problémy.

• Téza ortogonality: Téza ortogonality je názor, že inteligencia a motivácia nie sú vzájomne závislé. To znamená, že je možné, že AI s vysokou úrovňou všeobecnej inteligencie nedospeje k rovnakým morálnym záverom ako ľudia.
• Inštrumentálna konvergencia: Inštrumentálna konvergencia je definovaná ako tendencia pre väčšinu dostatočne inteligentných bytostí (obe ľudské a iné ako ľudské) sledovať podobné čiastkové ciele, aj keď ich konečným cieľom môže byť úplne rôzne. V prípade problému maximalizátora kancelárskych sponiek to znamená, že AI nakoniec prevezme všetky prírodný zdroj a vyhladenie ľudstva len preto, aby dosiahol svoj cieľ vytvárať viac a viac spinky.

Väčším problémom, na ktorý upozorňuje maximalizátor kancelárskych sponiek, je inštrumentálna konvergencia. Môže sa tiež zdôrazniť pomocou Riemannovej hypotézy, v takom prípade sa AI navrhnutá na vyriešenie hypotézy môže veľmi dobre rozhodnúť prevziať všetky hmotnosť Zeme a premeniť ju na počítač (najefektívnejšie počítačové procesory), aby sa zostrojili superpočítače na vyriešenie problému a dosiahnutie jeho cieľ.

Sám Bostrom zdôraznil, že neverí, že problém maximalizácie kancelárskych sponiek bude niekedy skutočným problémom, ale jeho zámerom bolo ilustrujú nebezpečenstvo vytvárania superinteligentných strojov bez toho, aby vedeli, ako ich ovládať alebo naprogramovať tak, aby neboli pre človeka existenčne rizikové. bytosti. Moderné systémy AI ako ChatGPT majú tiež problémy, ale sú ďaleko od superinteligentných systémov AI, o ktorých sa hovorí v probléme maximalizácie kancelárskych sponiek, takže zatiaľ nie je dôvod na paniku.

Pokročilé systémy AI potrebujú vynikajúce ovládanie

Problém maximalizátora kancelárskych sponiek vždy dospeje k rovnakému záveru a poukazuje na problémy riadenia vysoko inteligentného a výkonného systému, ktorému chýbajú ľudské hodnoty.

Zatiaľ čo použitie kancelárskych sponiek môže byť najobľúbenejšou metódou na znázornenie problému, vzťahuje sa na ľubovoľný počet úloh, ktoré máte môže dať AI, či už ide o odstraňovanie rakoviny, vyhrávanie vojen, sadenie ďalších stromov alebo akúkoľvek inú úlohu, bez ohľadu na to, ako hlúpy.