Keďže oblasť umelej inteligencie sa naďalej vyvíja závratným tempom, na hraciu plochu je pripravený vstúpiť nový uchádzač. TruthGPT, AI chatbot navrhnutý technologickým miliardárom Elonom Muskom, generuje množstvo rozruchu online.
Ale čo je PravdaGPT? Prečo to chce Elon Musk vytvoriť? A ako sa bude líšiť od nástrojov AI, ktoré už máme?
Čo je PravdaGPT?
TruthGPT je navrhovaný model AI zameraný na riešenie neduhov existujúcich modelov, ktoré poháňajú ako ChatGPT a Bard, s osobitným dôrazom na pravdu a bezpečnosť. Podľa Elona Muska bude TruthGPT AI „hľadajúc maximálnu pravdu“, ktorá rozumie povahe vesmír a je nepravdepodobné, že by zničil ľudstvo, pretože ľudí považuje za kritickú zložku vesmír.
Maximálna umelá inteligencia hľadajúca pravdu? Chápete podstatu vesmíru?
Prepáčite, ak vám Muskov popis neposkytne jasný obraz o tom, čo presne sa snaží vybudovať. Lepšiu predstavu o tom, o čom hovorí, však získate, keď sa pozriete na to, prečo sa to vôbec snaží postaviť.
Prečo Elon Musk buduje pravduGPT?
V rozhovore s Fox NewsElon Musk vyjadril svoje obavy z toho, ako môžu veľké firmy v oblasti AI udržiavať zaujatosť a dezinformácie prostredníctvom chatbotov AI – nového nástroja, od ktorého ľudia čoraz viac závisia pri získavaní informácií. Elon Musk sa tiež vyjadril k hrozbe, ktorú AI predstavuje pre ľudstvo, pričom zdôraznil možnosť apokalypsy AI, scenára, v ktorom by systémy AI mohli prevziať kontrolu nad naším každodenným životom.
Elon Musk vyčlenil spoločnosti ako OpenAI a Google, ktoré podľa jeho názoru nerobia dosť v oblasti bezpečnosti AI a ochrany pred dezinformáciami, a navrhol tretiu silu – TruthGPT. Generálny riaditeľ SpaceX a Tesla chce vytvoriť TruthGPT ako protiváhu k Bard od Googlu a ChatGPT od OpenAI. Cieľom je vytvoriť model AI, ktorý sa snaží čo najviac pravdivo poskytovať informácie, ktoré poskytuje.
Elon Musk, ktorý nedávno napísal otvorený list vyzývajúci na a moratórium na vývoj výkonnej AI modelov (konkrétne tých výkonnejších ako GPT-4), verí, že AI sa pohybuje príliš rýchlo. Verí, že musíme spomaliť a prehodnotiť náš prístup k bezpečnosti AI skôr, ako AI „prevezme kontrolu“. TruthGPT je veľký jazykový model (LLM), ktorý sľubuje riešenie týchto dvoch kľúčových problémov s dnešnou AI. systémov.
Ako by vyzerala TruthGPT?
Prvý náznak toho, ako by TruthGPT vyzeral, je v názve. Vzhľadom na prílohu „GPT“ bude mať TruthGPT pravdepodobne podobnú architektúru ako ChatGPT. Pamätajte, že Elon Musk pomohol zostaviť OpenAI a tím, ktorý postavil model GPT od ChatGPT.
Vzhľadom na to, že architektúra GPT sa ukázala ako technický aj komerčný úspech, hľadanie inej cesty bude pravdepodobne príliš časovo náročné a nákladné. Čas je jedna vec, ktorú Elon Musk nemá, ak chce čo najskôr postaviť niečo, čo skutočne obstojí s najmodernejšou AI. Takže sa nenechajte príliš vychvaľovať – TruthGPT sa nemusí až tak radikálne líšiť od nástrojov AI, ktoré už máme.
Presnosť alebo v žargóne Elona Muska „pravdivosť“ modelu AI do značnej miery závisí od jeho tréningových údajov a tréningového algoritmu. Nie sme si úplne istí, ako by sa získavali školiace údaje TruthGPT, ale aby sme získali čo najlepšiu šancu na vybudovanie LLM, „pravdivé“, ako je to len možné, TruthGPT od Elona Muska by musel uprednostňovať údaje z „pravdivých zdrojov“. Ale to je presne ono problém. Pravda je veľmi subjektívny pojem. Čo platí pre mňa, nemusí platiť pre vás.
Je teda táto myšlienka maximálnej umelej inteligencie hľadajúcej pravdu vôbec praktická?
Prečo je budovanie pravdyGPT obrovskou výzvou
Raz ty pochopiť, ako fungujú veľké jazykové modely ako GPT, je jasné, že je nepraktické mať vždy pravdu. Typicky trénované na veľkom súbore údajov z internetu, mnohé z nich budú podľa očakávania nepravdivé informácie a LLM nemajú žiadny inertný spôsob, ako odlíšiť fakt od fikcie.
Najlepší zásah je zvyčajne od ľudských trénerov, ktorí sa snažia naučiť jazykový model, čo je dobré správanie a čo je zlé. Ale ľudskí tréneri sú zaujatí. Zaujatosť sa prenáša na modely AI, čím sa bráni celému účelu „AI na hľadanie maximálnej pravdy“. Všimnite si, nehovoríme o úplnej zaujatosti alebo predsudkoch voči ľuďom alebo inak. Ide o jemnejšiu zaujatosť o tom, ako interpretujete jazyk, situácie, výzvy a tak ďalej. Ľudia sú predsa ľudia.
Samozrejme, presnosť sa dá riešiť aj zo strany algoritmu. Bez ohľadu na algoritmus však jazyková nejednoznačnosť stále predstavuje veľký problém pre presnosť modelov AI. Dokonca aj ľudia sa často snažia presne interpretovať význam vety alebo frázy, čo vedie k dezinformáciám. V prípade modelov AI môže nejednoznačnosť viesť k nesprávnym interpretáciám, ktoré vedú k nepresnostiam.
Pre Muska sa TruthGPT javí ako šanca na vytvorenie modelu AI, ktorý považuje za vhodný na poskytovanie pravdy. Ako by sa to stalo bez uvedenia jeho vlastných predsudkov, je úplne iná otázka a efektívne nás vedie späť na začiatok rozhovoru. Ako sa Muskove názory na to, čo je zaujaté alebo čo sa vôbec nelíšia od tých, ktorí trénovali a riadili ChatGPT?
Je TruthGPT vzrušujúca možnosť?
Plány Elona Muska pre TruthGPT sa zdajú byť vznešené a chvályhodné. Zostavenie modelu AI so zanedbateľným výskytom nepresností je však náročná úloha.
Aj keď by sme očakávali, že technický miliardár, ktorý demystifikoval raketovú vedu, dokáže niečo takého dosiahnuť, niektoré veci sa ľahšie povedia, ako urobia.
