Ako dlho môže trvať odpoveď ChatGPT, kým na vás generatívna AI prestane reagovať?
ChatGPT je veľká novinka. Aké veľké sú však odpovede, ktoré dostávate od tohto univerzálneho chatbota?
Zistiť to nie je také jednoduché, ako si možno myslíte. Na začiatok položte túto otázku ChatGPT a budete si istí, že neexistujú žiadne stanovené limity na dĺžku jeho odpovedí.
Ako však odhaľujeme, nie je to také jednoduché. Existujú skryté obmedzenia dĺžky odpovede ChatGPT, ale existuje aj niekoľko šikovných a jednoduchých riešení, ktoré vám pomôžu získať dlhšie odpovede.
Ako ChatGPT určuje dĺžku odpovede?
Ako ChatGPT funguje, je zložitéa dĺžka odpovede sa líši v závislosti od toho, čo sa požaduje a od úrovne požadovaných podrobností. Ako ukazuje ďalšia snímka obrazovky, ChatGPT tvrdí, že neexistujú žiadne prísne obmedzenia.
Toto sme nenašli. Príklad nižšie ukazuje, že ChatGPT náhle zastaví odpoveď uprostred vety. Požiadali sme ju, aby vypracovala tisícslovnú esej o výhodách obehového hospodárstva. ChatGPT prestal reagovať, keď dosiahol 677 slov.
Test sme opakovali niekoľkokrát s rôznymi otázkami a zakaždým sa zastavil uprostred vety; občas to sprevádzala chyba siete. Toto je bežná chyba a existujú rôzne spôsoby, ako opraviť chyby siete v ChatGPT.
Časť odpovede, prečo sa to deje, spočíva v niečom, čo sa nazýva systém tokenov.
Čo používa tokenový systém ChatGPT?
Namiesto jednoduchého počtu slov na určenie dĺžky otázok a odpovedí používa ChatGPT systém tokenov. Toto rozdelí každý vstup a výstup na sériu tokenov používaných na klasifikáciu veľkosti požiadavky a odpovede.
Aj keď počet slov v tom zohráva úlohu, nie je to celý príbeh. Napríklad bol zadaný príklad nižšie Nástroj Tokenizer od OpenAi.
Veta a odpoveď boli „Tokenizované“ na hodnotu deväť tokenov. To je v súlade s „praktickým pravidlom“ OpenAI, že jeden token zodpovedá trom štvrtinám slova.
Model GPT 3.5 obmedzuje otázky používateľov a údaje na 4 097 tokenov. Podľa výpočtu OpenAI sa to rovná asi 3 000 slovám. Je však dôležité poznamenať, že tento limit platí pre odpoveď aj otázku.
Aj keď je to teoreticky v poriadku a dobré, výsledky, s ktorými sme sa stretli, sa nikdy nepriblížili týmto limitom. Neúplná odpoveď, ktorú ChatGPT vrátil v našom predchádzajúcom teste, vážila iba 798 tokenov.
Prečo sú odpovede ChatGPT obmedzené?
Táto nová technológia sa rýchlo stala najdiskutovanejšou témou technologického rozvoja tohto storočia. To vyvolalo obrovský dopyt po ChatGPT. V konečnom dôsledku tento dopyt účinne obmedzil reakcie hlboko pod uvedené limity.
Hoci neexistuje žiadne oficiálne potvrdenie, zdá sa, že de facto existuje limit okolo päťsto slov alebo 4 000 znakov.
Aby sme zdôraznili, toto nie je pevné pravidlo – vygenerovali sme výstupy, ktoré prekročili toto takmer o dvesto slov. To však možno považovať za bezpečnú hornú hranicu na dosiahnutie úplných odpovedí.
Ako získať dlhšie odpovede z ChatGPT
Keď pochopíte, že existuje „skrytý limit“ odpovedí ChatGPT, existuje niekoľko jednoduchých spôsobov, ktoré vám pomôžu získať úplnejšie odpovede.
- Požiadajte ChatGPT o pokračovanie: Ak sa ChatGPT zastaví v priebehu odpovede, jednou z možností je jednoducho požiadať o pokračovanie. V nižšie uvedenom príklade sme napísali „Pokračuj“ a do odpovede sa pridalo ďalších dvesto slov.
- Rozdeľte svoju otázku na menšie časti: Niekoľkokrát sme ju napríklad požiadali, aby napísala esej o vplyve AI na spoločnosť. Zakaždým, keď sa odpoveď zastavila. Jednou z možností je požiadať ho, aby označil niektoré témy pre esej o AI a potom použil dodané odrážky ako jednotlivé výzvy.
- Použite možnosť Obnoviť: Aj keď to môže spôsobiť rovnakú chybu, pričom nie je čo stratiť, vždy to stojí za pokus.
- Vo výzve zadajte horný limit počtu slov: Obrázok nižšie ukazuje, ako to možno použiť na manipuláciu s maximálnym počtom slov v odpovedi.
Tieto tipy vám pomôžu získať úplnejšie odpovede od ChatGPT a obísť neoficiálny limit dĺžky jeho odpovedí.
ChatGPT: Kvalita nad kvantitu
Aj keď neexistujú žiadne stanovené limity pre dĺžku odpovedí ChatGPT, zdá sa, že platforma ukladá limit približne päťsto slov alebo 4 000 znakov.
To možno pripísať najmä obrovskému dopytu po ChatGPT. To viedlo k neúplným odpovediam a zastaveniu odpovedí uprostred vety, existujú však jednoduché riešenia, ktoré vám pomôžu získať dlhšie odpovede.
Napriek svojim obmedzeniam zostáva ChatGPT pozoruhodným technologickým vývojom, ktorý sa bude naďalej rozvíjať a rozširovať hranice kvality a kvantity svojej produkcie.