Kto v tejto chvíli nepoužil ChatGPT? Je to zábavné, úplne fascinujúce, ak máte záujem o umelú inteligenciu, a zadarmo (zatiaľ).
Aj keď sa to zvyčajne označuje ako chatbot, ChatGPT je oveľa viac. Dokáže generovať kópiu, vysvetľovať zložité témy, pôsobiť ako prekladateľ, vymýšľať vtipy a písať kód. Môžu ho však použiť aj aktéri hrozieb.
Ako ChatGPT funguje a prečo je príťažlivý pre kyberzločincov
ChatGPT (Generative Pre-trained Transformer) bol vyvinutý výskumným laboratóriom umelej inteligencie OpenAI a spustený v novembri 2022. Ide o rozsiahly jazykový model, ktorý využíva kombináciu kontrolovaných a posilňujúcich techník strojového učenia.
Možno ešte dôležitejšie je, že ChatGPT je neustále dolaďovaný a trénovaný používateľmi, ktorí môžu buď hlasovať za alebo hlasujte proti jeho odpovediam, čím sa stane presnejším a silnejším, pretože údaje zhromažďuje sám.
To je to, čo oddeľuje ChatGPT od ostatných chatbotov. A ak ste ho niekedy použili, viete, že rozdiel je viditeľný okamžite: na rozdiel od iných podobných produktov je schopný aktívne sa zapájajte do konverzácie a dokončujte zložité úlohy s ohromujúcou presnosťou, pričom sú koherentné a ľudské odozvy.
Ak by vám ukázali krátku esej napísanú človekom a esej napísanú ChatGPT, pravdepodobne by ste mali problém určiť, ktorá je ktorá. Ako príklad uvádzame časť textu, ktorý ChatGPT vygeneroval, keď mu bolo povedané, aby napísal krátku esej o The Catcher in the Rye.
To neznamená, že ChatGPT nemá svoje obmedzenia – určite má. Čím viac ho budete používať, tým viac si všimnete, že je to tak. Akokoľvek je silný, stále môže zápasiť s elementárnou logikou, robiť chyby, zdieľať nepravdivé a zavádzajúce informácie informácie, nesprávne interpretovať pokyny komickým spôsobom a nechať sa vmanipulovať, aby nakreslili nesprávne záver.
Sila ChatGPT však nespočíva v jej schopnosti konverzovať. Spočíva skôr v jeho takmer neobmedzenej schopnosti vykonávať úlohy hromadne, efektívnejšie a oveľa rýchlejšie, ako by to dokázal človek. So správnymi vstupmi a príkazmi a niekoľkými kreatívnymi riešeniami sa ChatGPT môže zmeniť na znepokojivo výkonný automatizačný nástroj.
S ohľadom na to nie je ťažké si predstaviť, ako by kyberzločinec mohol vyzbrojiť ChatGPT. Je to všetko o nájdení správnej metódy, jej škálovaní a o tom, aby AI dokončila čo najviac úloh naraz, s viacerými účtami a v prípade potreby na viacerých zariadeniach.
5 vecí, ktoré môžu herci robiť s ChatGPT
Existuje už niekoľko skutočných príkladov toho, ako ChatGPT používajú aktéri hrozieb, ale je to viac je pravdepodobné, že je zbrojený mnohými rôznymi spôsobmi, alebo v určitom okamihu bude budúcnosti. Tu je päť vecí, ktoré hackeri môžu robiť (a pravdepodobne robia) s ChatGPT.
1. Napíšte Malvér
Ak ChatGPT dokáže písať kód, môže písať malvér. Žiadne prekvapenie. Nie je to však len teoretická možnosť. V januári 2023 spoločnosť kybernetickej bezpečnosti Check Point Research zistila, že kyberzločinci sú už pomocou ChatGPT na písanie škodlivého softvéru— a chválim sa tým na podzemných fórach.
Aktér hrozieb, ktorý Check Point Research objavil, použil pokročilého chatbota skôr kreatívne, aby znovu vytvoril malvér založený na Pythone opísaný v určitých výskumných publikáciách. Keď vedci testovali škodlivý program, kyberzločinec hovoril pravdu: jeho malvér generovaný ChatGPT urobil presne to, na čo bol navrhnutý.
2. Generovanie phishingových e-mailov
Tak silné, ako sa spamové filtre stali, nebezpečné phishingové e-maily stále prekĺznuť cez trhliny a priemerný človek nemôže urobiť veľa okrem nahlásenia odosielateľa svojmu poskytovateľovi. Existuje však veľa, čo by schopný aktér hrozieb mohol urobiť s mailing listom a prístupom k ChatGPT.
Pomocou správnych príkazov a návrhov môže ChatGPT generovať presvedčivé phishingové e-maily, čo potenciálne zautomatizuje proces pre aktéra hrozby a umožní mu škálovať svoje operácie.
3. Vytvorte podvodné webové stránky
Ak zadáte do Googlu výraz „vytvoriť webovú stránku pomocou ChatGPT“, nájdete množstvo návodov, ktoré veľmi podrobne vysvetľujú, ako to urobiť. Aj keď je to dobrá správa pre každého, kto by chcel vytvoriť webovú stránku od začiatku, je to skvelá správa aj pre kyberzločincov. Čo im bráni používať ChatGPT na vytvorenie množstva podvodných stránok alebo phishingových vstupných stránok?
Možnosti sú takmer nekonečné. Aktér hrozby by mohol naklonovať existujúcu webovú stránku pomocou ChatGPT a potom ju upraviť, vytvoriť falošné webové stránky elektronického obchodu, spustiť stránky so strašiacimi podvodmi, a tak ďalej.
4. Vytvorte spamový obsah
Ak chcete vytvoriť falošnú webovú stránku, spustiť podvodnú stránku sociálnych médií alebo vytvoriť kopírovaciu stránku, potrebujete obsah – veľa. A aby podvod fungoval, musí vyzerať čo najlegitímnejšie. Prečo by si aktér hrozieb najímal autorov obsahu alebo písal blogové príspevky sám, keď to za nich môže urobiť len ChatGPT?
Je pravda, že webová stránka s obsahom generovaným AI by bola pravdepodobne pomerne rýchlo potrestaná spoločnosťou Google a nezobrazila by sa vo výsledkoch vyhľadávania, ale existuje mnoho rôznych spôsobov, ako by hacker mohol propagovať webovú stránku, posielať na ňu návštevnosť a oklamať ľudí o ich peniaze alebo ukradnúť ich osobné údaje.
5. Šírte dezinformácie a falošné správy
Online dezinformácie sa v posledných rokoch stali veľkým problémom. Falošné správy sa na sociálnych sieťach šíria rýchlosťou blesku a ľudia, ktorí nič lepšie nepoznajú, často prepadajú zavádzajúcim – a niekedy doslova vymysleným – príbehom. To môže mať strašné následky v reálnom živote a zdá sa, že nikto netuší, ako prestať šírenie falošných správ bez porušovania zákonov o slobode prejavu.
Nástroje ako ChatGPT by mohli tento problém zhoršiť. Herci hrozieb, ktorí majú prístup k softvéru, ktorý je schopný každý deň generovať tisíce falošných správ a príspevkov na sociálnych sieťach, sa javia ako recept na katastrofu.
Neberte to za slovo
Ak nie ste presvedčení, spýtali sme sa ChatGPT, ako by ho využil kyberzločinec. Zdá sa, že súhlasí s jadrom tohto článku.
V nesprávnych rukách sa ChatGPT stáva nebezpečným
Možno si len predstaviť, čoho bude umelá inteligencia schopná o päť či desať rokov. V súčasnosti je najlepšie ignorovať humbuk a paniku a racionálne posúdiť ChatGPT.
Rovnako ako všetky technológie, ani ChatGPT nie je vo svojej podstate užitočný ani škodlivý. Napriek niektorým nedostatkom je to zďaleka najschopnejší chatbot, aký bol kedy vydaný verejnosti.
