Ako hackeri používajú generatívnu AI pri svojich útokoch a čo s tým môžeme urobiť

Generatívna umelá inteligencia (AI) je v poslednom čase v centre pozornosti. Chatbot ChatGPT poháňaný AI a ďalšie systémy podporované spracovaním prirodzeného jazyka, ako napríklad VALL-E, priniesli generatívnu AI širokej verejnosti a uvoľnili jej výhody a negatívne účinky.

Jednou z hlavných obáv generatívnej AI je skutočnosť, že ju možno použiť na inováciu škodlivých exploitov a na vymýšľanie sofistikovanejších kybernetických útokov. Ako teda hackeri využívajú generatívnu AI pri svojich útokoch a čo to znamená pre budúcnosť kybernetickej bezpečnosti?

Čo je to generatívna AI a ako funguje?

Ako už názov napovedá, generatívna AI je typ AI, ktorý je schopný generovať nový obsah – obrázky, text, zvuk a syntetické údaje.

Jedným zo slávnych príkladov je ChatGPT, chatbot poháňaný AI, s ktorým môžete viesť konverzácie podobné ľuďom a získajte niekoľko vynikajúcich filmových odporúčaní – to znamená, ak si neviete predstaviť zmysluplnejšiu misiu na odoslanie ChatGPT na.

Dovoľte nám dať vám jeden alebo dva nápady – môžete Získajte ChatGPT, aby za vás písal všetky tie zložité e-maily, využiť ChatGPT ako prekladateľský nástroj, a dokonca premeňte ChatGPT na svojho zdravého pomocníka pri plánovaní jedál. Celkovo v priebehu niekoľkých sekúnd dokáže tento chatbot prísť so zdanlivo novým, presvedčivým obsahom a prezentovať ho celkom politicky korektným spôsobom.

Generatívna AI však ešte nemôže byť kreatívna spôsobom, akým môže byť človek. Je to preto, že využíva algoritmy strojového učenia bez dozoru a čiastočne pod dohľadom na spracovanie obrovského množstva údajov a generovanie vlastných výstupov.

Ak si napríklad chcete objednať obraz podobný Picassovi od generatívnej AI, ako je DALL-E 2, budete musieť zadať váš popis do určeného poľa – povedzme „Picasso's Guernica, ale s mačiatkami“ – a zotrvajte niekoľko sekúnd. Počas tejto doby bude AI uplatňovať všetky špecifické črty štýlu umelca, ktoré sa predtým naučila, dodáva mačiatka pre dobrú mieru, a prísť s niečím originálnym-máme ten obrázok, ktorý môžete mierne vidieť vyššie.

Ako hackeri využívajú generatívnu AI pri svojich útokoch?

Zlých ľudí vždy priťahovali dobré algoritmy. Nie je teda prekvapením, že využívajú generatívnu AI na posilnenie svojich útokov. Využitím metód ML, ako je posilňovanie učenia a generatívne kontradiktórne siete, kyberzločinci môžu prísť s novými, sofistikovanejšími kybernetickými útokmi, ktoré dokážu prelomiť štandard kybernetickej obrany.

Jedným z príkladov tejto zvrátenosti je „špičkový“ chatbot OpenAI, as ChatGPT využívajú počítačoví zločinci na písanie škodlivého softvéru. Na začiatku sa ChatGPT zdalo, že ide o zábavu a hry, ale teraz je to jedna z hlavných hrozieb pre bezpečnosť a súkromie. Ak radi chatujete s ChatGPT, je rozumné dávať si pozor na veci, ktoré môžu kyberzločinci robiť s ChatGPT.

Stručne povedané, ChatGPT a ďalšie generatívne nástroje AI uľahčili život kyberzločincom a sťažili bezpečnostným tímom. Niektoré zo spôsobov, ako aktéri kybernetických hrozieb využívajú AI pri svojich útokoch, zahŕňajú:

• Vytváranie lepšieho a sofistikovanejšieho malvéru: V rukách hackerov môže byť generatívna AI použitá na generovanie ťažko zistiteľných kmeňov malvéru a vykonávanie útokov. V kombinácii s modelmi AI by malvér mohol maskovať svoj zámer, kým nesplní svoj zlý účel.
• Písanie prispôsobených phishingových e-mailov založených na AI: S pomocou generatívnej AI už phishingové e-maily nemajú znaky podvodu, ako je zlý pravopis, zlá gramatika a nedostatok kontextu. Navyše, s AI, ako je ChatGPT, môžu aktéri hrozieb spúšťať phishingové útoky bezprecedentnou rýchlosťou a rozsahom.
• Generovanie hlbokých falošných údajov: Pretože dokáže vytvoriť presvedčivé napodobeniny ľudských činností – ako je písanie, reč a obrázky – generatívna AI môže byť použitá pri podvodných aktivitách, ako je krádež identity, finančné podvody a dezinformácie.
• Prelomenie obrázkov CAPTCHA a hádanie hesiel: CAPTCHA, ktorú používajú stránky a siete na vyčesávanie robotov hľadajúcich neoprávnený prístup, teraz môžu hackeri obísť. Využitím ML môžu tiež plniť ďalšie opakujúce sa úlohy, ako je hádanie hesiel a útoky hrubou silou.
• Sabotovanie ML pri detekcii kybernetických hrozieb: Ak je bezpečnostný systém zahltený príliš veľkým množstvom falošných poplachov, hacker ho môže prekvapiť skutočným kybernetickým útokom.

Ako môžeme bojovať proti generatívnej AI hrozbe?

Keď sa kybernetické útoky stanú sofistikovanejšími a ich následky budú závažnejšie, tradičné bezpečnostné systémy sa zmenia na veci minulej éry. Vďaka schopnosti poučiť sa z predchádzajúcich útokov a prispôsobiť sa je AI neoceniteľným prínosom pre kyberzločincov aj ich protivníkov.

Použitie AI v kybernetickej bezpečnosti má niekoľko vážnych výhod, ako je rýchlejšia detekcia hrozieb, identifikácia hrozieb a reakcia na hrozby – takže boj s ohňom ohňom sa zdá byť správnou odpoveďou. Predtým, ako sa kyberzločinci naučia, ako zasadiť zničujúce údery jednotlivcom a spoločnostiam na celom svete Vo svete musia odborníci na kybernetickú bezpečnosť naučiť svoje systémy poháňané AI, aby sa pred tým chránili útokov.

Nie je to však všetko na AI. Koniec koncov, vlastnú bezpečnosť a súkromie môžeme posilniť aj osvedčenými metódami, ako je viacfaktorová autentifikácia (MFA), biometrická technológia, využitie správcu hesiel, najlepšie šifrované nástroje spoluprácea starý dobrý zdravý rozum.

Boj s AI s AI

Budeme teda v blízkej budúcnosti svedkami vojen v oblasti kybernetickej bezpečnosti? No dúfame, že nie. Keďže však AI neustále napreduje a stáva sa dostupnou pre všetkých – kyberzločincov aj profesionálov v oblasti kybernetickej bezpečnosti –, úloha AI a ML sa v nasledujúcich rokoch zvýši.