Dnes sa na ChatGPT spoliehajú milióny ľudí ako na užitočný zdroj, či už ide o prácu, zábavu alebo vzdelávanie. Môžete sa však spoľahnúť na to, že tento chatbot AI vždy poskytne fakty? Klamá ChatGPT niekedy alebo vám poskytne iba faktické informácie?
Odkiaľ ChatGPT získava informácie?
Počas tréningového obdobia dostával ChatGPT údaje zo zdrojov na webe, ako sú webové stránky vlád a agentúr, vedecké časopisy, štúdie, spravodajské články, podcasty, online fóra, knihy, databázy, filmy, dokumentárne filmy a sociálne médiá.
Konkrétne bol ChatGPT-3 trénovaný pomocou rozsiahlej databázy informácií, ktorá predstavovala 570 GB údajov. Ako je uvedené v článku z Vedecké zameranie300 miliárd slov informácií bolo vložených do systému GPT-3 počas jeho vývoja.
Tu stojí za zmienku, že ChatGPT bol kŕmený iba údajmi, ktoré existovali pred rokom 2021. To znamená, že chatbot nemôže odpovedať na otázky týkajúce sa nedávnych udalostí. ChatGPT tiež nemá prístup na internet. Údaje, ktoré boli poskytnuté počas školenia, sú jediným druhom, ktorý používa na splnenie požiadaviek používateľov.
Poskytuje vám však ChatGPT iba fakty, alebo sú v jeho odpovediach zmiešané nejaké nejednoznačnejšie informácie? Navyše, môže vám ChatGPT klamať?
Klamá ChatGPT?
Zatiaľ čo ChatGPT často poskytuje používateľom pravdivé informácie, má schopnosť „klamať“. Samozrejme, ChatGPT sa nerozhodne zlomyseľne klamať používateľom, pretože to jednoducho nemôže. Koniec koncov, ChatGPT je nástroj na spracovanie jazyka, nie napodobenina skutočnej, cítiacej osoby.
ChatGPT však môže technicky stále klamať fenomén známy ako halucinácia AI.
AI halucinácie zahŕňa systém umelej inteligencie poskytujúci informácie, ktoré sa zdajú byť rozumné alebo pravdepodobné, ale v skutočnosti vôbec nie sú pravdivé. V skutočnosti môže halucinácia AI poskytnúť informáciu, že počas tréningového obdobia nebola nikdy kŕmená. Alternatívne k tomu môže dôjsť, keď systém AI poskytne informácie, ktoré nesúvisia s výzvou alebo požiadavkou. Systém AI môže dokonca tvrdiť, že je človekom v prípade halucinácie.
Systémy umelej inteligencie, ako sú chatboty, spadajú do pasce halucinácií z niekoľkých dôvodov: nedostatok porozumenia skutočnému svetu, softvérové chyby a obmedzenia poskytovaných údajov.
Ako už bolo uvedené, ChatGPT môže poskytovať informácie iba pomocou údajov zverejnených do roku 2021, čo určite obmedzuje druhy výziev, ktoré môže splniť.
Jeden z Veľké problémy ChatGPT je, že sa môže stať obeťou zaujatosti pri poskytovaní informácií používateľom. Dokonca aj tvorcovia ChatGPT uviedli, že systém AI bol v minulosti „politicky zaujatý, urážlivý“ a „inak nevhodný“. Ako uvádza The Independent, vývojári ChatGPT sú odhodlaní riešiť tento problém, ale to neznamená, že už nepredstavuje riziko.
Na otázku ChatGPT uviedol, že dôvody, prečo môže poskytnúť nepresné informácie, zahŕňajú nasledujúce:
- Nejednoznačnosť v otázke (nejasné, nejasné výzvy);
- Poskytnuté neúplné informácie;
- Poskytnuté neobjektívne alebo nesprávne informácie; alebo
- Technické obmedzenia (hlavne kvôli nedostatočnému prístupu k aktuálnym údajom).
Samotný ChatGPT teda uviedol, že existujú scenáre, v ktorých používateľom neposkytne presné informácie.
V ďalšej odpovedi v tej istej konverzácii ChatGPT uviedol, že "je vždy dobrý nápad overiť si akékoľvek informácie [ktoré poskytuje] s inými zdrojmi."
Môžete dôverovať ChatGPT?
Pretože môže poskytnúť nepravdivé informácie, vy jednoznačne nemôže dôverovať ChatGPT 100% času.
Môžete znížiť riziko halucinácií chatbota AI nastavením špecifických parametrov o tom, ako vám môže odpovedať. Stále však nie je zaručené, že niektoré nepravdivé informácie nepreniknú.
Z tohto dôvodu je najlepšie skontrolovať všetky informácie, ktoré vám ChatGPT poskytuje, najmä ak požadujete informácie o nedávnych udalostiach. Dvojitá kontrola týchto údajov odkazom na iné zdroje vám môže pomôcť určiť, či má ChatGPT pravdu v tom, čo hovorí, a môže vám zabrániť robiť neuvážené rozhodnutia.
ChatGPT je užitočný, ale nie vždy pravdivý
Bohužiaľ, nemôžete sa spoliehať na to, že ChatGPT poskytne pravdivé a nezaujaté informácie 100% času. Tento chatbot poháňaný AI je nepopierateľne užitočný a môže vám pomôcť rôznymi spôsobmi, no vždy sa oplatí overiť, či sú informácie, ktoré poskytuje, pravdivé.
