S miliónmi používateľov ChatGPT by vás mohlo zaujímať, čo OpenAI robí so všetkými svojimi konverzáciami. Neustále analyzuje veci, o ktorých hovoríte s ChatGPT?
Odpoveď na to je, áno, ChatGPT sa učí zo vstupov používateľov – ale nie tak, ako si väčšina ľudí myslí. Tu je podrobný sprievodca, ktorý vysvetľuje, prečo ChatGPT sleduje konverzácie, ako ich používa a či nie je ohrozená vaša bezpečnosť.
Pamätá si ChatGPT konverzácie?
ChatGPT neberie výzvy za nominálnu hodnotu. Používa kontextovú pamäť na zapamätanie a odkazovanie na predchádzajúce vstupy, čím zabezpečuje relevantné a konzistentné odpovede.
Ako príklad si vezmite nasledujúci rozhovor. Keď sme požiadali ChatGPT o nápady na recepty, zvážila našu predchádzajúcu správu o alergiách na arašidy.
Tu je bezpečný recept ChatGPT.
Kontextová pamäť tiež umožňuje AI vykonávať viackrokové úlohy. Obrázok nižšie ukazuje, že ChatGPT zostáva v charaktere aj po zadaní novej výzvy.
ChatGPT si dokáže zapamätať desiatky pokynov v rámci konverzácií. Jeho výstup sa v skutočnosti zlepšuje v presnosti a presnosti, keď poskytnete viac kontextu. Len sa uistite, že ste jasne vysvetlili svoje pokyny.
Mali by ste tiež spravovať svoje očakávania, pretože kontextová pamäť ChatGPT má stále obmedzenia.
ChatGPT konverzácie majú obmedzené kapacity pamäte
Kontextová pamäť je konečná. ChatGPT má obmedzené hardvérové zdroje, takže si pamätá iba konkrétne body aktuálnych konverzácií. Platforma zabudne predchádzajúce výzvy, keď dosiahnete kapacitu pamäte.
V tomto rozhovore sme inštruovali ChatGPT, aby si zahral fiktívnu postavu menom Tomie.
Začalo odpovedať na výzvy ako Tomie, nie ako ChatGPT.
Hoci naša požiadavka fungovala, ChatGPT zlomil znak po prijatí výzvy 1 000 slov.
OpenAI nikdy nezverejnila presné limity ChatGPT, ale povesti hovoria, že dokáže spracovať iba 3 000 slov naraz. V našom experimente ChatGPT zlyhal už po 2 800+ slovách.
Výzvy môžete rozdeliť do dvoch sád s 1 500 slovami, ale služba ChatGPT pravdepodobne nezachová všetky vaše pokyny. Stačí začať úplne ďalší chat. V opačnom prípade budete musieť konkrétne detaily počas konverzácie niekoľkokrát zopakovať.
ChatGPT si pamätá iba vstupy relevantné k téme
ChatGPT využíva kontextovú pamäť na zlepšenie presnosti výstupu. Neuchováva informácie len kvôli ich zhromažďovaniu. Platforma takmer automaticky zabudne nepodstatné detaily, aj keď ani zďaleka nedosiahnete limit tokenov.
Na obrázku nižšie sa snažíme zmiasť AI rôznymi nekoherentnými, irelevantnými pokynmi.
Udržiavali sme naše kombinované vstupy pod 100 slov, ale ChatGPT stále zabudol na náš prvý pokyn. Rýchlo to zlomilo charakter.
Medzitým ChatGPT počas tejto konverzácie pokračoval v hraní rolí, pretože sme sa pýtali iba otázky týkajúce sa témy.
V ideálnom prípade musí každý dialóg sledovať jednotnú tému, aby sa zachovali presné a relevantné výstupy. Stále môžete zadať niekoľko pokynov súčasne. Len sa uistite, že sú v súlade s celkovou témou, inak môže ChatGPT vynechať pokyny, ktoré považuje za irelevantné.
Pokyny na školenie Overpower User Input
ChatGPT bude vždy uprednostňovať vopred určené pokyny pred vstupom generovaným používateľom. Zastavuje nezákonnú činnosť prostredníctvom obmedzení. Platforma odmieta akúkoľvek výzvu, ktorú považuje za nebezpečnú alebo škodlivú pre ostatných.
Ako príklad si vezmite požiadavky na hranie rolí. Hoci majú prednosť pred určitými obmedzeniami jazyka a fráz, nemôžete ich použiť na páchanie nezákonných činností.
Samozrejme, nie všetky obmedzenia sú rozumné. Ak prísne pokyny sťažujú vykonávanie špecifických úloh, prepisujte svoje výzvy. Výber slov a tón výrazne ovplyvňujú výstupy. Inšpirovať sa môžete tými naj efektívne a podrobné výzvy na GitHub.
Ako OpenAI študuje konverzácie používateľov?
Kontextová pamäť sa vzťahuje iba na vašu aktuálnu konverzáciu. Bezstavová architektúra ChatGPT zaobchádza s konverzáciami ako s nezávislými inštanciami; nemôže odkazovať na informácie z predchádzajúcich. Začatie nových rozhovorov vždy resetuje stav modelu.
To neznamená, že ChatGPT okamžite vypíše konverzácie používateľov. Podmienky používania OpenAI uvádza, že spoločnosť zhromažďuje vstupy zo spotrebiteľských služieb bez rozhrania API, ako sú ChatGPT a Dall-E. Môžete dokonca požiadať o kópie svojej histórie rozhovorov.
Zatiaľ čo ChatGPT voľne pristupuje ku konverzáciám, Zásady ochrany osobných údajov OpenAI zakazuje činnosti, ktoré by mohli ohroziť používateľov. Školitelia môžu vaše údaje použiť iba na výskum a vývoj produktov.
Vývojári hľadajú medzery
OpenAI preosieva konverzácie a hľadá medzery. Analyzuje prípady, keď ChatGPT preukazuje skreslenie údajov, produkuje škodlivé informácie alebo pomáha páchať nezákonné činnosti. Etické pravidlá platformy sa neustále prepracúvajú.
Napríklad prvé verzie ChatGPT otvorene odpovedal na otázky o kódovaní malvéru alebo pri výrobe výbušnín. Tieto incidenty vyvolali u používateľov pocit OpenAI nemá žiadnu kontrolu nad ChatGPT. Aby si znovu získal dôveru verejnosti, vycvičil chatbota, aby odmietol akúkoľvek otázku, ktorá by mohla byť v rozpore s jej usmerneniami.
Tréneri zbierajú a analyzujú údaje
ChatGPT používa techniky učenia pod dohľadom. Hoci si platforma pamätá všetky vstupy, neučí sa z nich v reálnom čase. Tréneri OpenAI ich najskôr zhromažďujú a analyzujú. Tým sa zabezpečí, že ChatGPT nikdy neabsorbuje škodlivé a škodlivé informácie, ktoré dostane.
Učenie pod dohľadom vyžaduje viac času a energie ako techniky bez dozoru. Ukázalo sa však, že ponechanie AI analyzovať vstup samostatne.
Vezmite si Microsoft Tay ako príklad – jeden z nich strojové učenie sa pokazilo. Keďže neustále analyzoval tweety bez pokynov vývojára, zlomyseľní používatelia ho nakoniec vycvičili, aby pľul rasistické, stereotypné názory.
Vývojári si neustále dávajú pozor na predsudky
Niekoľko vonkajšie faktory spôsobujú predsudky v AI. Nevedomé predsudky môžu pochádzať z rozdielov v modeloch školenia, chýb v súbore údajov a zle vytvorených obmedzení. Nájdete ich v rôznych aplikáciách AI.
Našťastie ChatGPT nikdy nepreukázal diskriminačné alebo rasové predsudky. Snáď najhoršou zaujatosťou, ktorú si používatelia všimli, je príklon ChatGPT k ľavicovým ideológiám, tvrdí New York Post správa. Platforma otvorenejšie píše o liberálnych ako konzervatívnych témach.
Na vyriešenie týchto predsudkov OpenAI zakázala ChatGPT úplne poskytovať politické informácie. Môže odpovedať len na všeobecné fakty.
Moderátori hodnotia výkon ChatGPT
Používatelia môžu poskytnúť spätnú väzbu na výstup ChatGPT. Na pravej strane každej odpovede nájdete tlačidlá palec hore a palec dole. To prvé naznačuje pozitívnu reakciu. Po stlačení tlačidla Páči sa mi alebo Nepáči sa mi, zobrazí sa okno, v ktorom môžete odoslať spätnú väzbu vlastnými slovami.
Systém spätnej väzby je užitočný. Dajte OpenAI trochu času na preosievanie komentárov. Milióny používateľov pravidelne komentujú ChatGPT – jeho vývojári pravdepodobne uprednostňujú vážne prípady zaujatosti a škodlivého generovania výstupov.
Sú vaše konverzácie cez ChatGPT bezpečné?
Vzhľadom na zásady ochrany osobných údajov OpenAI si môžete byť istí, že vaše údaje zostanú v bezpečí. ChatGPT používa konverzácie iba na trénovanie údajov. Jeho vývojári študujú zozbierané poznatky, aby zlepšili presnosť a spoľahlivosť výstupu, nie ukradli osobné údaje.
Z toho vyplýva, že žiadny systém AI nie je dokonalý. ChatGPT nie je vo svojej podstate zaujatý, ale zlomyseľní jednotlivci môžu stále zneužiť jeho zraniteľné miesta, napríklad chyby v súbore údajov, neopatrné školenia a bezpečnostné medzery. Pre svoju ochranu sa naučte s týmito rizikami bojovať.