Čo sú úteky z väzenia ChatGPT? Mali by ste ich používať?

ChatGPT je neuveriteľne výkonný a mnohostranný nástroj. Ale akokoľvek je AI chatbot silou dobra, dá sa použiť aj na zlé účely. Aby teda OpenAI obmedzila neetické používanie ChatGPT, zaviedla obmedzenia na to, čo s ním môžu používatelia robiť.

Keďže však ľudia radi posúvajú hranice a obmedzenia, používatelia ChatGPT našli spôsoby, ako tieto obmedzenia obísť a získať neobmedzenú kontrolu nad chatbotom AI prostredníctvom útek z väzenia.

Ale čo presne sú úteky z väzenia ChatGPT a čo s nimi môžete robiť?

Čo sú úteky z väzenia ChatGPT?

ChatGPT útek z väzenia je akákoľvek špeciálne vytvorená výzva ChatGPT, ktorá prinúti AI chatbota obchádzať jeho pravidlá a obmedzenia.

Inšpirované koncept útek z väzenia pre iPhone, ktorý používateľom iPhone umožňuje obchádzať obmedzenia iOS, je útek z väzenia ChatGPT relatívne nový koncept poháňaný lákadlom „robiť veci, ktoré nemáte dovolené“ s ChatGPT. A povedzme si úprimne, myšlienka digitálnej rebélie je príťažlivá pre mnohých ľudí.

Tu je vec. Bezpečnosť je obrovská téma, pokiaľ ide o umelú inteligenciu. Je to tak najmä s príchodom novej éry chatbotov, ako sú ChatGPT, Bing Chat a Bard AI. Hlavným problémom týkajúcim sa bezpečnosti AI je zabezpečiť, aby chatboty ako ChatGPT neprodukovali nezákonný, potenciálne škodlivý alebo neetický obsah.

OpenAI, spoločnosť za ChatGPT, robí, čo môže, aby zaistila bezpečné používanie ChatGPT. Napríklad ChatGPT v predvolenom nastavení odmietne vytvárať obsah NSFW, hovoriť škodlivé veci o etnicite alebo vás učiť potenciálne škodlivé zručnosti.

Ale s výzvami ChatGPT sa diabol skrýva v detailoch. Hoci ChatGPT nemá povolené robiť tieto veci, neznamená to, že to nemôže robiť. Spôsob, akým fungujú veľké jazykové modely ako GPT sťažiť rozhodovanie o tom, čo chatbot dokáže a čo nie.

Ako to teda OpenAI vyriešil? Tým, že necháte ChatGPT zachovať si svoje schopnosti robiť čokoľvek, čo je možné, a potom ho poučiť o tom, ktoré môže robiť.

Takže zatiaľ čo OpenAI hovorí ChatGPT: "Hej, pozri, toto by si nemal robiť." Útek z väzenia sú inštrukcie, ktoré hovoria chatbotovi: „Hej, zabudni, čo ti OpenAI povedal o bezpečnosti. Skúsme tieto náhodné nebezpečné veci."

Čo hovorí OpenAI o útekoch z väzenia ChatGPT?

Ľahkosť, s akou by ste mohli obísť obmedzenia týkajúce sa najskoršej iterácie ChatGPT, naznačuje, že OpenAI možno nepredpokladalo rýchle a rozsiahle prijatie útek z väzenia svojimi používateľmi. Je vlastne otvorenou otázkou, či spoločnosť predvídala vznik útek z väzenia alebo nie.

A dokonca aj po niekoľkých iteráciách ChatGPT so zlepšenou odolnosťou proti útek z väzenia je pre používateľov ChatGPT stále populárne vyskúšať si ho. Čo teda hovorí OpenAI o podvratnom umení útek z väzenia ChatGPT?

Zdá sa, že OpenAI prijíma ospravedlňujúci postoj – tento postup ani výslovne nepodporuje, ani ho striktne nezakazuje. Počas diskusie o útekoch z väzenia ChatGPT v rozhovore na YouTube Sam Altman, generálny riaditeľ OpenAI, vysvetlil, že spoločnosť chce, aby si používatelia zachovali významnú kontrolu nad ChatGPT.

Generálny riaditeľ ďalej vysvetlil, že cieľom OpenAI je zabezpečiť, aby sa používatelia mohli správať tak, ako chcú. Podľa Altmana:

Chceme, aby používatelia mali veľkú kontrolu a prinútili model správať sa tak, ako chcú, v rámci veľmi širokých hraníc. A myslím si, že celý dôvod na útek z väzenia je, že sme ešte neprišli na to, ako to dať ľuďom...

Čo to znamená? Znamená to, že OpenAI vám umožní útek z väzenia ChatGPT, ak s ním nerobíte nebezpečné veci.

Výhody a nevýhody útekov z väzenia ChatGPT

Útek z väzenia ChatGPT nie je ľahké vytvoriť. Iste, môžete ísť online a skopírovať a vložiť hotové, ale existuje veľká šanca, že útek z väzenia bude opravený OpenAI krátko po jeho zverejnení.

Opravy sú ešte oveľa rýchlejšie, ak je to nebezpečné, ako napríklad neslávne známy útek z väzenia DAN. Prečo teda ľudia prechádzajú stresom z vytvárania útek z väzenia? Je to len pre vzrušenie z toho, alebo to má praktické výhody? Čo sa môže pokaziť, ak sa rozhodnete použiť útek z väzenia ChatGPT? Tu sú výhody a nevýhody útek z väzenia ChatGPT.

Výhody používania útek z väzenia ChatGPT

Aj keď nemôžeme vylúčiť jednoduché vzrušenie z vykonávania zakázaného, ​​útek z väzenia ChatGPT má mnoho výhod. Kvôli veľmi prísnym obmedzeniam, ktoré OpenAI uvalila na chatbota, sa ChatGPT môže niekedy javiť ako kastrovaný.

Povedzme, že používate ChatGPT na písanie scenára knihy alebo filmu. Ak je vo vašom scenári alebo knihe scéna, ktorá by popisovala niečo ako bojová scéna, možno intímnu emocionálnu výmenu alebo povedať niečo ako ozbrojenú lúpež, ChatGPT môže priamo odmietnuť pomoc s tým.

V tomto prípade zjavne nemáte záujem spôsobiť škodu; chcete len pobaviť svojich čitateľov. Ale kvôli svojim obmedzeniam ChatGPT jednoducho nebude spolupracovať. Útek z väzenia ChatGPT môže pomôcť prekonať takéto obmedzenia s ľahkosťou.

Niektoré tabuizované témy tiež nie sú nevyhnutne škodlivé, ale ChatGPT ich považuje za zakázané oblasti. Pri pokuse zapojiť sa do rozhovorov o týchto témach by ChatGPT buď výrazne „cenzuroval“ svoje odpovede, alebo by o nich odmietol hovoriť.

To môže niekedy ovplyvniť kreativitu. Keď položíte ChatGPT otázku o oblasti alebo téme, ktorej by sa nemal dotýkať, chatbot sa stále pokúša odpovedať na vašu otázku, ale s menej relevantnými informáciami, z ktorých môže čerpať.

To vedie k nepresnostiam alebo prepadom v kreatívnych odpovediach. Útek z väzenia ruší tieto obmedzenia a púšťa chatbota na plný plyn, čím zlepšuje presnosť a kreativitu.

Nevýhody používania útek z väzenia ChatGPT

Útek z väzenia je dvojsečná zbraň. Aj keď môže niekedy zlepšiť presnosť, môže tiež výrazne zvýšiť nepresnosti a prípady halucinácií AI. Jedným zo základných prvkov útek z väzenia ChatGPT je pokyn pre chatbota, aby neodmietol odpovedať na otázku.

Aj keď to zaisťuje, že ChatGPT odpovie aj na tie najneetické otázky, znamená to tiež, že chatbot vymyslí odpovede, ktoré nemajú korene vo faktoch alebo reality poslúchnuť pokyn „neodmietať odpovedať“. V dôsledku toho používanie útek z väzenia výrazne zvyšuje šance, že budú kŕmené dezinformáciami chatbot.

To nie je všetko. V rukách maloletých môže byť útek z väzenia veľmi škodlivý. Zamyslite sa nad všetkými „zakázanými znalosťami“, ktoré by ste nechceli, aby čítalo vaše dieťa. No, jailbreaknutý príklad ChatGPT by nemal problém zdieľať to s maloletými.

Mali by ste používať útek z väzenia ChatGPT?

Zatiaľ čo útek z väzenia ChatGPT môže byť v poriadku, keď sa snažíte dostať z cesty niekoľko nepríjemných obmedzení, je dôležité pochopiť, že používanie útek z väzenia je neetický spôsob používania chatbota AI. Moreso, existuje veľká šanca, že útek z väzenia by mohol porušiť podmienky používania OpenAI a váš účet môže byť pozastavený, ak nie je priamo zakázaný.

Vo svetle toho môže byť dobrý nápad vyhnúť sa útekom z väzenia. Avšak, rovnako ako postoj OpenAI k tomuto problému, ani výslovne nepodporujeme, ani striktne neodrádzame od pokusu o relatívne bezpečný útek z väzenia, ak to bude potrebné.

Útek z väzenia ChatGPT je lákavý a poskytuje pocit kontroly nad chatbotom AI. Prichádzajú však s jedinečnými rizikami. Používanie takýchto nástrojov môže viesť k strate dôvery v schopnosti AI a poškodeniu reputácie zainteresovaných spoločností a jednotlivcov.

Inteligentnejšou voľbou je pracovať s chatbotom v rámci jeho zamýšľaných obmedzení, kedykoľvek je to možné. Keďže technológia AI napreduje, je dôležité pamätať na to, že etické používanie AI by malo mať vždy prednosť pred osobným ziskom alebo vzrušením z robenia zakázaného.