Čo je to FraudGPT? Ako sa chrániť pred týmto nebezpečným chatbotom

Vzostup umelej inteligencie (AI) je dvojsečná zbraň. Ako každá transformačná technológia, aj AI ponúka obrovský potenciál, ale aj obrovské riziká. Napriek dôraznému tlaku na reguláciu AI sa zdá, že aktéri hrozieb predbehli.

Nový nástroj v štýle ChatGPT, FraudGPT, sa dostáva do povedomia kyberzločincov, čo im umožňuje automatizovať a lepšie vykonávať veľkú časť ich podvodných operácií. Obeťou sa môže stať ktokoľvek, preto je dôležité byť informovaný. Tu je všetko, čo o FraudGPT zatiaľ vieme.

Čo je to FraudGPT?

FraudGPT je nástroj umelej inteligencie poháňaný rozsiahlym jazykovým modelom, ktorý je obzvlášť vyladený tak, aby pomáhal kyberzločincom páchať počítačovú kriminalitu. Nástroj AI založený na predplatnom umožňuje aktérom hrozieb uľahčiť ich kriminálne aktivity, ako je carding, phishing a vytváranie škodlivého softvéru.

Hoci podrobnosti o tomto nástroji zostávajú veľmi obmedzené, výskumníci z Netenrich, firmy zaoberajúcej sa výskumom bezpečnosti, odhalili niekoľko reklám na temnom webe propagujúcich tento nástroj. Podľa

výskumná správa z Netenrichu, poplatky za predplatné sa pohybujú medzi 200 USD mesačne až 1 700 USD ročne.

Aby ste si tento nástroj lepšie predstavili, môžete si FraudGPT predstaviť ako ChatGPT, ale ide o podvod. Ale ako presne FraudGPT funguje a ako ho využívajú počítačoví zločinci?

Ako funguje FraudGPT?

Vo svojom jadre sa FraudGPT výrazne nelíši od akéhokoľvek nástroja, ktorý je poháňaný veľkým jazykovým modelom. Inými slovami, samotný nástroj je interaktívnym rozhraním pre zločincov na prístup k špeciálnemu druhu jazykového modelu, ktorý bol vyladený na páchanie kybernetických zločinov.

Stále vám to nerozumie? Tu je približná predstava, o čom hovoríme. V prvých dňoch spustenia ChatGPT bolo možné chatbota AI použiť na čokoľvek, vrátane pomoci počítačovým zločincom vytvárať malvér. Bolo to možné, pretože základný jazykový model ChatGPT bol trénovaný na súbore údajov, ktorý pravdepodobne obsahoval vzorky širokého spektra údajov vrátane údajov, ktoré by mohli pomôcť kriminálnemu podniku.

Veľké jazykové modely sú zvyčajne kŕmené všetkým dobrým materiálom, ako sú vedecké teórie, zdravotné informácie a politika, na tie nie príliš dobré, ako sú vzorky škodlivého kódu, správy z kariet a phishingových kampaní a iné kriminálne materiálov. Keď sa zaoberáme druhmi množín údajov potrebných na trénovanie jazykových modelov, ako je typ, ktorý poháňa ChatGPT, je takmer nevyhnutné, aby model obsahoval vzorky nežiaducich materiálov.

Napriek zvyčajne starostlivému úsiliu eliminovať nežiaduce materiály v súbore údajov, niektoré prekĺznu, a zvyčajne sú stále dostatočné na to, aby umožnili modelu vytvárať materiály na uľahčenie počítačová kriminalita. To je dôvod, prečo s právom rýchle inžinierstvo, môžete získať nástroje ako ChatGPT, Google Bard a Bing AI, ktoré vám pomôžu písať podvodné e-maily alebo počítačový malvér.

Ak nástroje ako ChatGPT môžu pomôcť počítačovým zločincom páchať zločiny napriek všetkému úsiliu, aby boli tieto AI chatboty bezpečné, myslite na výkon, ktorý by mohol priniesť nástroj ako FraudGPT, keďže bol špeciálne doladený na škodlivé materiály, aby bol vhodný pre počítačová kriminalita. Je to ako zlé dvojča ChatGPT nasadené na steroidy.

Ak teda chcete použiť tento nástroj, zločinci môžu jednoducho vyzvať chatbota, ako by to urobili s ChatGPT. Mohli by ho požiadať, povedzme, aby napísal phishingový e-mail pre Jane Doe, ktorá pracuje v spoločnosti ABC, alebo ho možno požiadať, aby napísal malvér pomocou C++ na ukradnutie všetkých súborov PDF z počítača so systémom Windows 10. Zločinci by v podstate len prišli so zlou mechanizáciou a nechali chatbota, aby to urobil.

Ako sa môžete chrániť pred FraudGPT?

Napriek tomu, že ide o nový druh nástroja, hrozba, ktorú predstavuje FraudGPT, sa zásadne nelíši. Dalo by sa povedať, že zavádza viac automatizácie a efektívnosti do už zavedených metód vykonávania počítačovej kriminality.

Zločinci používajúci tento nástroj by, aspoň teoreticky, mohli písať presvedčivejšie phishingové e-maily, lepšie plánovať podvody a vytvárajú účinnejší malvér, no väčšinou by sa stále spoliehali na zavedené spôsoby spustenia ich hanebných plány. V dôsledku toho stále platia zavedené spôsoby, ako sa chrániť:

• Dávajte si pozor na nevyžiadané správy, ktoré vás žiadajú o informácie alebo vás nasmerujú, aby ste klikli na odkazy. Neposkytujte informácie ani neklikajte na odkazy v týchto správach, pokiaľ neoveríte zdroj.
• Obráťte sa priamo na spoločnosti pomocou nezávislého overeného čísla na kontrolu oprávnenosti. Nepoužívajte kontaktné údaje uvedené v podozrivých správach.
• Používajte silné, jedinečné heslá, ktoré je ťažké prelomiť a prijať dvojfaktorové overenie, ak je dostupné pre všetky účty. Nikdy nezdieľajte heslá ani kódy, ktoré vám boli zaslané.
• Pravidelne kontrolujte výpisy z účtu, či neobsahujú podozrivú aktivitu.
• Udržujte softvér aktualizovaný a používajte antivírusové alebo antimalvérové ​​nástroje.
• Skartujte dokumenty obsahujúce osobné alebo finančné informácie, keď už nie sú potrebné.

Ak sa chcete dozvedieť viac o tom, ako sa chrániť, prečítajte si našu príručku ako sa chrániť v ére AI.

Zostaňte informovaní, aby ste sa chránili

Vznik nástrojov ako FraudGPT nám pripomína, že napriek všetkému dobrému, čo pre nás AI môže urobiť, stále predstavuje veľmi účinný nástroj v rukách aktérov hrozieb.

Vlády a veľké firmy v oblasti umelej inteligencie sa usilujú o to, aby uzákonili lepšie spôsoby regulácie AI, Dôležité je uvedomiť si hrozbu, ktorú AI v súčasnosti predstavuje, a prijať potrebné opatrenia na ochranu seba.