Zatiaľ čo proprietárny softvér ako GPT a PaLM dominuje na trhu, mnohí vývojári namiesto toho vidia hodnotu v modeloch jazyka s otvoreným zdrojovým kódom. Vezmite si ako príklad Meta. Vo februári 2023 sa dostal na titulky, pretože oficiálne vydal veľký jazykový model LLaMA ako program s otvoreným zdrojovým kódom. Nie je prekvapením, že toto rozhodnutie sa stretlo so zmiešanými reakciami.
Keďže jazykové modely s otvoreným zdrojovým kódom majú veľa pre a proti a môžu pozitívne aj negatívne ovplyvniť odvetvie AI, zhrnuli sme kľúčové body, ktoré by ste mali poznať a pochopiť.
5 Pozitívny vplyv jazykových modelov s otvoreným zdrojom
Modely jazyka s otvoreným zdrojovým kódom podporujú prístup založený na spolupráci. Vstupy, recenzie a prípady použitia od vývojárov z celého sveta im pravdepodobne pomáhajú napredovať rýchlejšie ako uzavreté projekty.
1. Vývojári AI šetria zdroje pomocou modelov s otvoreným zdrojom
Spustenie proprietárnych jazykových modelov stojí milióny, ak nie miliardy zdrojov. Ako príklad si vezmite OpenAI.
Business Insider uvádza, že spoločnosť musela získať približne 30 miliárd dolárov na efektívne fungovanie ChatGPT. Získať toľko financií je pre väčšinu spoločností nemožné. Technologické startupy v ranom štádiu by mali šťastie, že by dosiahli čo i len sedemciferné číslo.Vzhľadom na vysokú réžiu mnoho vývojárov namiesto toho používa modely jazyka s otvoreným zdrojovým kódom. Šetria milióny tým, že využívajú architektúru, neurónovú štruktúru, trénovacie dáta, algoritmus, implementáciu kódu a trénovacie dátové súbory týchto systémov.
2. Modely s otvoreným zdrojom pravdepodobne napredujú rýchlejšie
Mnoho technologických lídrov tvrdí, že modely jazyka s otvoreným zdrojovým kódom postupujú rýchlejšie ako proprietárne náprotivky. Oceňujú príspevky komunity a spoluprácu. Milióny skúsených vývojárov pracujú na otvorených projektoch – teoreticky by mohli dosiahnuť bezchybnú a sofistikovanú iteráciu oveľa rýchlejšie.
Vďaka umelej inteligencii s otvoreným zdrojom je tiež rýchlejšie pokryť medzery vo vedomostiach. Namiesto školenia tímov na hľadanie chýb, testovanie aktualizácií a skúmanie implementácií môžu spoločnosti analyzovať príspevky komunity. Zdieľanie znalostí umožňuje používateľom pracovať efektívnejšie.
Príspevky komunity nie sú vždy presné. Vývojári by mali algoritmy a modely pred integráciou do svojich systémov ešte raz skontrolovať.
3. Vývojári rýchlejšie rozpoznajú slabé miesta
Jazykové modely s otvoreným zdrojovým kódom podporujú vzájomné hodnotenia a aktívne zapojenie v rámci komunity spolupráce. Vývojári môžu voľne pristupovať k zmenám kódovej základne. S toľkými používateľmi, ktorí analyzujú otvorené projekty, pravdepodobne rýchlejšie zistia bezpečnostné problémy, zraniteľnosti a systémové chyby.
Rovnako je zjednodušené aj riešenie chýb. Namiesto manuálneho riešenia systémových problémov môžu vývojári skontrolovať predchádzajúce opravy v systéme správy verzií projektu. Niektoré položky môžu byť zastarané. Stále však poskytnú výskumníkom a trénerom AI užitočný východiskový bod.
4. Lídri v oblasti AI sa učia z modelov s otvoreným zdrojom
Jazykové modely s otvoreným zdrojovým kódom využívajú spätnú väzbu. Slučka pozitívnej spätnej väzby zdieľa efektívne algoritmy, súbory údajov a funkcie, čo nabáda vývojárov, aby ich napodobňovali. Tento proces im ušetrí veľa času. Len si všimnite, že chyby môžu nastať s pozitívnou spätnou väzbou, ktorú používatelia náhodne zopakujú – chyby sa zvyčajne prehliadajú.
Medzitým sa negatívna spätná väzba zameriava na oblasti zlepšenia. Tento proces zahŕňa zdieľanie osobných poznatkov pri odstraňovaní chýb, testovaní nových funkcií a odstraňovaní systémových problémov.
5. Platformy umelej inteligencie s otvoreným zdrojom získajú prvé výhody na nových systémoch
Technologické spoločnosti nezdieľajú miliardové jazykové systémy z láskavosti. Zatiaľ čo licencie s otvoreným zdrojom poskytujú používateľom tretích strán slobodu upravovať a predávať systémy, majú obmedzenia.
Distribútori často vytvárajú podmienky, ktoré im zabezpečujú zachovanie určitej autority. Tieto pravidlá nájdete v licenčných zmluvách programov s otvoreným zdrojovým kódom – koncoví používatelia zriedka získajú 100-percentnú autoritu.
Povedzme, že Meta chce mať kontrolu nad produktmi poháňanými LLaMA. Jeho právny tím by mohol špecifikovať, že Meta si vyhradzuje právo investovať do akýchkoľvek nových systémov postavených na jej jazykovom modeli.
Nechápte však zle – vývojári a distribútori tretích strán stále uzatvárajú vzájomne výhodné dohody. Ten poskytuje technológie a systémy za miliardy dolárov. Medzitým začínajúce podniky a nezávislí vývojári skúmajú spôsoby, ako ich implementovať do rôznych aplikácií.
5 Negatívne dopady jazykových modelov s otvoreným zdrojom
Modely jazyka s otvoreným zdrojom sú vo svojej podstate nezaujaté, ale ľudia nie. Spotrebitelia, vývojári a spoločnosti so zlými úmyslami by mohli využiť otvorený charakter týchto systémov na osobný zisk.
1. Spoločnosti sa náhodne pripájajú k AI Race
Spoločnosti v súčasnosti čelia príliš veľkému tlaku, aby sa zapojili do pretekov AI. S popularizáciou systémov AI sa mnohé spoločnosti obávajú, že ak neprijmú AI, budú zastarané. Výsledkom je, že značky náhodne naskakujú do rozbehnutého vlaku. Do svojich produktov integrujú open-source jazykové modely kvôli predaju produktu a udržaniu kroku s konkurenciou, aj keď neponúkajú nič hodnotné.
Áno, AI je rýchlo sa rozvíjajúci trh. Ale neopatrné uvoľnenie sofistikovaných, ale nezabezpečených systémov poškodzuje priemysel a ohrozuje bezpečnosť spotrebiteľov. Vývojári by mali používať AI na riešenie problémov, nie spúšťať marketingové triky.
2. Spotrebitelia získavajú prístup k technológiám, ktorým sotva rozumejú
Nájdete tu variácie rôznych technických nástrojov založené na AI, od online editory obrázkov do aplikácie na monitorovanie zdravia. A značky budú neustále zavádzať nové systémy s vývojom AI. Modely AI im pomáhajú poskytovať prispôsobenejšie a na používateľa zamerané iterácie ich existujúcich platforiem.
Zatiaľ čo technický priemysel víta inovácie, rýchly vývoj AI predstihuje vzdelávanie používateľov. Spotrebitelia získavajú prístup k technológiám, ktorým sotva rozumejú. Nedostatok vzdelania vytvára obrovské vedomostné medzery, v dôsledku čoho je verejnosť náchylná na hrozby kybernetickej bezpečnosti a predátorské praktiky.
Značky by mali uprednostňovať školenia rovnako ako vývoj produktov. Musia pomôcť používateľom pochopiť bezpečné a zodpovedné spôsoby využívania výkonných nástrojov založených na AI.
3. Nie všetci vývojári majú dobré úmysly
Nie každý používa nástroje AI na zamýšľaný účel. Napríklad OpenAI vyvinul ChatGPT na zodpovedanie všeobecných otázok o bezpečnosti práce a replikáciu výstupu z prirodzeného jazyka, ale zločinci ho zneužívajú na nezákonné aktivity. Bolo ich niekoľko ChatGPT podvody od spustenia chatbota AI v novembri 2022.
Aj keď laboratóriá AI presadzujú prísne obmedzenia, podvodníci stále nájdu spôsoby, ako ich obísť. Zoberme si opäť ako príklad ChatGPT. Používatelia obchádzajú obmedzenia a vykonávajú zakázané úlohy pomocou Výzvy na útek z väzenia ChatGPT.
Nižšie uvedené rozhovory demonštrujú tieto zraniteľnosti. ChatGPT má obmedzené súbory údajov; preto nemôže robiť predpovede o nestabilných, nezaručených udalostiach.
Napriek svojim obmedzeniam spoločnosť ChatGPT vykonala našu požiadavku a po jej úteku z väzenia poskytla nepodložené predpovede.
4. Inštitúcie môžu mať problémy s reguláciou AI s otvoreným zdrojom
Regulačné orgány sa snažia držať krok s AI a šírenie modelov s otvoreným zdrojom len sťažuje monitorovanie. Pokroky AI už predbiehajú regulačné rámce. Dokonca aj svetoví tech lídri ako Elon Musk, Bill Gates a Sam Altman požaduje prísnejšiu reguláciu AI.
Súkromný aj vládny sektor musia tieto systémy kontrolovať. V opačnom prípade ich budú zlomyseľní jednotlivci naďalej využívať na porušovanie zákonov o ochrane osobných údajov krádež identitya obete podvodov, okrem iných nezákonných činností.
5. Nižšie vstupné bariéry bránia kvalite
Šírenie modelov jazyka s otvoreným zdrojovým kódom znižuje bariéry vstupu do závodu AI. Na internete nájdete tisíce nástrojov založených na AI.
Vidieť, ako spoločnosti prijímajú strojové a hlboké učenie, sa môže zdať pôsobivé, ale len málo z nich poskytuje skutočnú hodnotu. Väčšina iba kopíruje svojich konkurentov. Postupom času môže dostupnosť sofistikovaných jazykových modelov a množín tréningových údajov zmeniť na nezmyselné platformy AI.
Celkový vplyv modelov jazyka s otvoreným zdrojom na priemysel AI
Aj keď jazykové modely s otvoreným zdrojovým kódom robia technológie AI dostupnejšími, predstavujú aj niekoľko bezpečnostných rizík. Vývojári by mali stanoviť prísnejšie obmedzenia. V opačnom prípade budú podvodníci naďalej využívať transparentnú architektúru týchto systémov.
To znamená, že spotrebitelia nie sú úplne bezbranní voči podvodom AI. Oboznámte sa s bežnými spôsobmi, akými podvodníci využívajú generatívne nástroje AI a skúmajte varovné signály útokov. Proti väčšine kyberzločinov môžete bojovať tak, že budete ostražití.