Automatizovaný chatbot OpenAI poháňaný AI, ChatGPT, vzal internet útokom, ale nie bez toho, aby na ceste vytvoril niekoľko problémov. So spisovateľmi, programátormi, obchodníkmi a zdanlivo všetkými ostatnými, ktorí používajú ChatGPT na vytváranie obsahu, spoločnosti na celom svete sledujú cunami obsahu generovaného AI.
Keďže okolo ChatGPT a jeho výstupov neustále víria problémy s plagiátorstvom a ukradnutým obsahom, OpenAI teraz vydalo nové GPT-Classifier, nástroj určený na zisťovanie a zverejňovanie, či text, ktorý čítate, bol dielom ChatGPT alebo iného nástroje GPT.
OpenAI spúšťa GPT-Classifier na pomoc pri kontrole textu napísaného AI
Oznámenie OpenAI prichádza ako kontrola umelej inteligencie písania a textu generovaného umelou inteligenciou kroky a spoločnosti integrujú výstup ChatGPT.
Nový GPT-Classifier sa pokúša zistiť, či daný kus textu bol napísaný človekom alebo či je dielom generátora AI. Zatiaľ čo ChatGPT a ďalšie modely GPT sú značne trénované na všetky spôsoby zadávania textu, Nástroj GPT-Classifier je „jemne vyladený na množine údajov párov textu napísaného človekom a textu napísaného AI na rovnaká téma."
Takže namiesto vysýpania informácií a opätovného vytvorenia ich najlepšej aproximácie sa GPT-Classifier pokúša porovnajte podobnosti medzi známym ľudským textom a známym textom AI, aby ste našli nezrovnalosti, ktoré odhaľujú zdroj spisovateľ.
Detekcia klasifikátora GPT je momentálne obmedzená
Zatiaľ čo myšlienka ľahkého rozpoznania textu generovaného AI bude hudbou pre uši redaktorov a pedagógov, OpenAI varuje, že jeho „klasifikátor nie je úplne spoľahlivý“.
V súčasnosti GPT-Classifier „správne identifikuje 26 % textu napísaného umelou inteligenciou“, pričom 9 % ľudského textu označí ako text napísaný AI. OpenAI tiež poznamenáva, že presnosť nástroja sa „zvyčajne zlepšuje so zvyšujúcou sa dĺžkou vstupného textu“.
Pri zbežnom teste klasifikátora GPT sa objavil príklad vytvorený ľuďmi a označil ho za „veľmi nepravdepodobné, vygenerované AI,“ a tiež správne uviedol, že úryvok vygenerovaný ChatGPT o problémoch s USB bol „možno AI generované."
Dopyt po detekcii ChatGPT je vysoký
Aj napriek obmedzeniam klasifikátora GPT je pravdepodobné, že dopyt po spoľahlivej detekcii ChatGPT bude pravdepodobne viesť k tomu, že sa mnohí obrátia na tento nástroj. Záväzok OpenAI vybudovať a vydať bezplatný nástroj na detekciu GPT je dôležitý, pretože čím viac študentov, spisovatelia, programátori a iní používajú nástroje na generovanie AI-textu, porozumenie a zistenie tohto vstupu sa stane vitálny.
Zatiaľ, aj keď je GPT-Classifier v prevádzke a je k dispozícii na testovanie, je najlepšie brať jeho označenie so štipkou soli.
