Najnovšie inovácie v oblasti technológií založených na AI posúvajú hranice toho, čo sme si kedysi mysleli, že je s AI možné. Keďže sú však chatboti ako ChatGPT a Bing Chat vo viacerých veciach takmer takí dobrí ako ľudia, je čas na chvíľu zabrzdiť?
Elon Musk a niekoľko výskumníkov AI patrí medzi 1 188 ľudí (v čase písania), ktorí si to myslia. List zverejnený neziskovým inštitútom Future of Life vyzýva na šesťmesačnú prestávku v oblasti školení AI technológií lepších ako GPT 4, ale je prestávka skutočne potrebná?
O čom je otvorený list budúcnosti života?
The list, ktorý zverejnil inštitút budúcnosti života poukazuje na to, že laboratóriá umelej inteligencie boli „zamknuté v pretekoch mimo kontroly“, aby vyvinuli a nasadili viac a výkonnejšie modely AI, ktoré nikto, vrátane ich tvorcov, nemôže „pochopiť, predvídať ani spoľahlivo kontrola“.
Poukazuje tiež na to, že súčasné systémy AI sa teraz stávajú konkurencieschopnými pre ľudí pri všeobecných úlohách a požiadavkách či by sme mali rozvíjať „neľudské mysle, ktoré by mohli časom prevýšiť, prekabátiť, zastarať a nahradiť nás“.
List nakoniec vyzýva všetky laboratóriá AI, aby okamžite prerušili tréning systémov AI výkonnejších ako GPT-4 na najmenej šesť mesiacov. Pauza by mala byť verejná a overiteľná u všetkých kľúčových aktérov. Tiež sa v ňom uvádza, že ak sa takáto pauza nedá vynútiť rýchlo, vlády by mali zasiahnuť a dočasne zakázať školenie modelov AI.
Keď je pauza aktívna, laboratóriá AI a nezávislí odborníci sú požiadaní, aby ju použili na spoločný vývoj a implementáciu a „zdieľaný súbor bezpečnostných protokolov“, aby sa zabezpečilo, že systémy dodržiavajúce tieto pravidlá sú „nad rámec rozumnej miery bezpečné pochybovať“.
Tento list podpísalo niekoľko menovaných osobností vrátane Elona Muska, Steva Wozniaka a výskumníkov a autorov AI. V skutočnosti je zoznam signatárov momentálne pozastavený z dôvodu vysokého dopytu.
Aké sú Muskove obavy z Advanced AI Tech a OpenAI?
Aj keď podpísanie listu Future of Life môže naznačovať, že Musk je znepokojený bezpečnostnými rizikami, ktoré takéto pokročilé systémy AI predstavujú, skutočným dôvodom môže byť niečo iné.
Musk spolu so súčasným generálnym riaditeľom Samom Altmanom založil OpenAI v roku 2015 ako nezisková organizácia. Neskôr v roku 2018 sa však pohádal s Altmanom, keď si uvedomil, že nie je spokojný s pokrokom spoločnosti. Musk údajne chcel prevziať, aby urýchlil vývoj, ale Altman a predstavenstvo OpenAI tento nápad zavrhli.
Musk krátko nato odišiel z OpenAI a vzal si so sebou svoje peniaze, čím porušil svoj sľub prispieť 1 miliardou na financovanie a pred odchodom dal iba 100 miliónov. To prinútilo OpenAI, aby sa krátko na to v marci 2019 stala súkromnou spoločnosťou, aby získala finančné prostriedky na pokračovanie svojho výskumu.
Ďalším dôvodom, prečo Musk odišiel, bolo, že vývoj AI v Tesle by v budúcnosti spôsobil konflikt záujmov. Je zrejmé, že Tesla potrebuje pokročilé systémy AI, aby mohla napájať svoje Plné funkcie samoriadenia. Odkedy Musk opustil OpenAI, spoločnosť utiekla so svojimi modelmi AI a začala ChatGPT s podporou GPT3.5 v roku 2022 a neskôr v nadväznosti na GPT-4 v marci 2023.
Skutočnosť, že Muskov tím AI nie je ani zďaleka blízko OpenAI, je potrebné brať do úvahy zakaždým, keď hovorí, že moderné modely AI môžu predstavovať riziko. Tiež nemal žiadne problémy spustenie beta verzie Tesla Full Self Driving na verejných komunikáciách, čo v podstate mení bežných vodičov Tesly na beta testerov.
Ani tu to nekončí. Musk bol tiež dosť kritický voči OpenAI na Twitteri, pričom Altman zašiel tak ďaleko, že povedal, že na nich útočí, keď sa nedávno objavil v podcaste „On with Kara Swisher“.
Momentálne sa zdá, že Musk práve používa list o budúcnosti života na zastavenie vývoja v OpenAI a akejkoľvek inej firme, ktorá ho doháňa. na GPT-4, aby dal svojim spoločnostiam šancu dobehnúť zameškané miesto toho, aby sa skutočne obávali o potenciálne nebezpečenstvá týchto modelov AI póza. Všimnite si, že list tiež žiada prerušiť „výcvik“ systémov AI na šesť mesiacov, čo sa dá pomerne ľahko obísť a medzitým pokračovať v ich vývoji.
Je pauza naozaj potrebná?
Potreba prestávky závisí od stavu modelov AI v budúcnosti. List je rozhodne trochu dramatický a neriskujeme, že stratíme kontrolu nad našou civilizáciou kvôli AI, ako to tak otvorene tvrdí. To znamená, Technológie AI predstavujú niekoľko hrozieb.
Vzhľadom na to, že OpenAI a ďalšie laboratóriá AI môžu prísť s lepšími bezpečnostnými kontrolami, prestávka by spôsobila viac škody ako úžitku. Návrh súboru zdieľaných bezpečnostných protokolov, ktoré sú „dôsledne kontrolované a kontrolované nezávislými externými odborníkmi“, však znie ako dobrý nápad.
Keďže technologickí giganti ako Google a Microsoft nalievajú miliardy do vývoja AI a integrácie do svojich produktov, je nepravdepodobné, že list ovplyvní súčasné tempo vývoja AI.
AI je tu, aby zostala
S technologickými gigantmi, ktorí posúvajú integráciu AI do svojich produktov ďalej a investujú miliardy dolárov do výskumu a vývoja, AI tu zostane bez ohľadu na to, čo hovorí opozícia.
Nie je však zlý nápad zaviesť bezpečnostné opatrenia, ktoré zabránia tomu, aby tieto technológie vyšli z koľají a potenciálne sa zmenili na nástroje na ublíženie.