ChatGPT je nový výkonný chatbot AI, ktorý rýchlo zapôsobí, no veľa ľudí poukázalo na to, že má niekoľko vážnych úskalí. Opýtajte sa na čokoľvek, čo chcete, a dostanete odpoveď, ktorá znie, ako keby ju napísal človek, naučil svoje znalosti a zručnosti písania z veľkého množstva informácií na internete.
Rovnako ako internet však pravda a fakty nie sú vždy dané a ChatGPT je vinný z toho, že sa mýli. Keďže ChatGPT má zmeniť našu budúcnosť, tu sú niektoré z najväčších obáv.
Čo je ChatGPT?
ChatGPT je rozsiahly model jazykového vzdelávania, ktorý bol navrhnutý tak, aby napodobňoval ľudskú konverzáciu. Dokáže si zapamätať veci, ktoré ste mu povedali v minulosti, a dokáže sa napraviť, keď sa mýli.
Píše ľudským spôsobom a má bohaté znalosti, pretože bol vyškolený na všetkých druhoch textu z internetu, ako je Wikipedia, blogové príspevky, knihy a akademické články.
Je ľahké sa to naučiť ako používať ChatGPT, no náročnejšie je zistiť, aké sú jeho najväčšie problémy. Tu sú niektoré, o ktorých sa oplatí vedieť.
1. ChatGPT nie je vždy správny
Zlyháva v základnej matematike, zdá sa, že nevie odpovedať na jednoduché logické otázky a zájde dokonca tak ďaleko, že bude argumentovať úplne nesprávnymi faktami. Ako môžu používatelia sociálnych médií potvrdiť, ChatGPT sa môže mýliť pri viac ako jednej príležitosti.
OpenAI vie o tomto obmedzení a píše, že: "ChatGPT niekedy píše hodnoverne znejúce, ale nesprávne alebo nezmyselné odpovede." Toto „halucinácia“ skutočnosti a fikcie, ako to niektorí vedci nazývajú, je obzvlášť nebezpečná, keď ide o niečo ako medicínske radu.
Na rozdiel od iných asistentov AI, ako sú Siri alebo Alexa, Chat GPT nepoužíva internet na nájdenie odpovedí. Namiesto toho vytvára vetu slovo po slove, pričom na základe svojho školenia vyberie najpravdepodobnejší „token“, ktorý by mal nasledovať.
Inými slovami, ChatGPT prichádza k odpovedi vykonaním série odhadov, čo je jedným z dôvodov, prečo môže argumentovať nesprávnymi odpoveďami, ako keby boli úplne pravdivé.
Aj keď je skvelý na vysvetľovanie zložitých pojmov, vďaka čomu je účinným nástrojom na učenie, je dôležité neveriť všetkému, čo hovorí. ChatGPT nie je vždy správny – aspoň zatiaľ nie.
2. Zaujatosť je zapečená do systému
ChatGPT bol vyškolený na kolektívne písanie ľudí na celom svete, v minulosti aj v súčasnosti. To znamená, že rovnaké odchýlky, aké existujú v údajoch, sa môžu objaviť aj v modeli.
Používatelia v skutočnosti ukázali, ako môže ChatGPT poskytnúť niektoré hrozné odpovede, napríklad niektoré, ktoré diskriminujú ženy. Ale to je len špička ľadovca; môže priniesť odpovede, ktoré sú mimoriadne škodlivé pre celý rad menšinových skupín.
Vina nespočíva len v údajoch. Výskumníci a vývojári OpenAI vyberajú údaje, ktoré sa používajú na školenie ChatGPT. Na pomoc pri riešení toho, čo OpenAI nazýva „zaujaté správanie“, žiada používateľov, aby poskytli spätnú väzbu na zlé výstupy.
S potenciálom spôsobiť ujmu ľuďom môžete tvrdiť, že ChatGPT nemal byť zverejnený skôr, ako sa tieto problémy preštudujú a nevyriešia.
Podobný AI chatbot s názvom Sparrow (vlastnený materskou spoločnosťou Google, Alphabet) bol vydaný v septembri 2022. Bolo však držané za zatvorenými dverami kvôli podobným obavám, že by mohlo spôsobiť ujmu.
Možno mala varovať aj Meta. Keď vydala Galactica, jazykový model AI vyškolený na akademických prácach, bol rýchlo stiahnutý z trhu po tom, čo ho veľa ľudí kritizovalo za nesprávne a skreslené výsledky.
3. Výzva pre stredoškolskú angličtinu
Môžete požiadať ChatGPT, aby skontroloval váš text alebo poukázal na to, ako vylepšiť odsek. Prípadne sa môžete z rovnice úplne odstrániť a požiadať ChatGPT, aby pre vás niečo napísal.
Učitelia experimentovali so zadávaním anglických úloh do ChatGPT a dostali odpovede, ktoré sú lepšie, ako by mohli robiť mnohí ich študenti. ChatGPT to dokáže bez váhania, od písania sprievodných listov až po opis hlavných tém v slávnom literárnom diele.
To vyvoláva otázku: ak ChatGPT môže písať pre nás, budú sa študenti musieť v budúcnosti naučiť písať? Môže sa to zdať ako existenčná otázka, ale keď študenti začnú používať ChatGPT na písanie svojich esejí, školy budú musieť rýchlo vymyslieť odpoveď. Rýchle nasadenie AI v posledných rokoch šokuje mnohé odvetvia a vzdelávanie je len jedným z nich.
4. Môže to spôsobiť skutočné svetové škody
Predtým sme spomenuli, ako nesprávne informácie od ChatGPT môžu spôsobiť škody v reálnom svete, pričom najzrejmejším príkladom sú nesprávne lekárske rady.
Existujú aj iné obavy. Falošné účty sociálnych médií predstavujú na internete obrovský problém a so zavedením AI chatbotov by bolo jednoduchšie vykonávať internetové podvody. Ďalším problémom je šírenie falošných informácií, najmä keď ChatGPT robí aj nesprávne odpovede presvedčivo správne.
Rýchlosť, s akou ChatGPT dokáže produkovať odpovede, ktoré nie sú vždy správne, už spôsobila problémy pre Stack Exchange, webovú stránku, kde môžu používatelia písať otázky a dostávať odpovede.
Čoskoro po jeho vydaní boli odpovede od ChatGPT zakázané na stránke, pretože veľké množstvo z nich bolo nesprávne. Bez dostatočného počtu ľudských dobrovoľníkov na triedenie nevybavených vecí by nebolo možné udržiavať vysokú úroveň kvalitných odpovedí, čo by poškodilo webovú stránku.
5. OpenAI má všetku silu
S veľkou silou prichádza veľká zodpovednosť a OpenAI má veľkú moc. Je to jedna z prvých spoločností AI, ktorá skutočne otriasla svetom nie jedným, ale viacerými modelmi AI, vrátane Dall-E 2, GPT-3 a teraz aj ChatGPT.
OpenAI vyberá, aké údaje sa použijú na trénovanie ChatGPT a ako sa vysporiada s negatívnymi dôsledkami. Či už s metódami súhlasíme alebo nie, bude pokračovať vo vývoji tejto technológie podľa svojich vlastných cieľov.
Zatiaľ čo OpenAI považuje bezpečnosť za vysokú prioritu, je veľa toho, čo nevieme o tom, ako sú modely vytvorené. Či už si myslíte, že kód by mal byť vytvorený ako open source, alebo súhlasíte s tým, že jeho časti by mali byť v tajnosti, nemôžeme s tým veľa urobiť.
Na konci dňa môžeme len veriť, že OpenAI bude skúmať, vyvíjať a používať ChatGPT zodpovedne. Prípadne sa môžeme zasadzovať za to, aby sa viac ľudí vyjadrilo, akým smerom by sa mala AI uberať, a podeliť sa o silu AI s ľuďmi, ktorí ju budú používať.
Ak vás zaujíma, čo ešte OpenAI vyvinulo, pozrite si naše články ako používať Dall-E 2 a ako používať GPT-3.
Riešenie najväčších problémov AI
S ChatGPT, najnovším vývojom OpenAI, je toho veľa, na čo sa môžete tešiť. Okrem bezprostredného použitia však existujú aj niektoré vážne problémy, ktoré stojí za pochopenie.
OpenAI pripúšťa, že ChatGPT môže produkovať škodlivé a neobjektívne odpovede, nehovoriac o jeho schopnosti miešať fakty s fikciou. S takouto novou technológiou je ťažké predpovedať, aké ďalšie problémy nastanú. Takže dovtedy si užite objavovanie ChatGPT a dávajte si pozor, aby ste neverili všetkému, čo hovorí.
