Keďže stále viac jednotlivcov a organizácií víta nové technológie s otvorenou náručou, je nemožné ignorovať umelú inteligenciu (AI) a rozhodovanie založené na AI. Dôležité rozhodnutia, ktoré kedysi robili ľudia, možno teraz zveriť odbornosti rozhodovania AI.
Sme ponechaní na otázku, ako AI ovplyvňuje rozhodovanie a či môžeme dôverovať výsledkom. S vývojom sektora kybernetickej bezpečnosti sa vyvíjajú aj kybernetické hrozby. Avšak s ľudskou chybou ako jednou z hlavných hrozieb kybernetickej bezpečnosti je rozhodovanie AI menej dôveryhodné ako ľudia?
Čo je to rozhodovanie AI?
Rozhodovanie AI možno opísať ako schopnosť systémov poháňaných AI vykonávať úlohy spracovania údajov a rozhodovať sa bez (alebo len s malou) pomocou ľudí.
Vynechaním ľudského faktora z obrazu môže AI kvantifikovať kvalitatívne údaje, robiť presnejšie predpovede a dospieť k správnym rozhodnutiam. Dokáže si poradiť so zložitými úlohami, ako je analýza údajov, drvenie údajov, detekcia anomálií a ďalšie. Po dokončení úlohy je konečné rozhodnutie buď plne automatizované, alebo je urobené ľuďmi – ak závisí od systému.
Prevzatím únavných každodenných úloh nám AI uvoľňuje čas na kreatívnejšie aktivity zamerané na podnikanie. Netreba sa však obávať, že AI čoskoro nahradí ľudí v obchodnom procese.
Tento rozhodovací proces AI možno rozdeliť do troch základných kategórií:
- Podpora rozhodovania: V tomto systéme sa spája ľudská inteligencia a poznatky založené na umelej inteligencii, aby sa dospelo k správnejším rozhodnutiam.
- Rozšírenie rozhodnutia: Podobne ako v predchádzajúcom systéme, ani tu nie je cieľom AI nahrádzať ľudí, ale podporovať ich pri rozhodovaní s viacerými alternatívami. Využíva prediktívnu analytiku (na nájdenie potenciálnych výsledkov) alebo preskriptívnu analýzu (na nájdenie viacerých možností s konkrétnym výsledkom), aby dospela k týmto rozhodnutiam.
- Automatizácia rozhodovania: Na rozdiel od predchádzajúcich dvoch má tento systém za úlohu nahradiť ľudí automatizáciou ich každodenných rozhodovacích povinností.
Keďže AI je v našom dnešnom svete ťažké vyhnúť, je to rozumné Pozrite sa na nebezpečenstvo AI než sa s nimi budeme musieť vysporiadať.
Akú úlohu zohráva rozhodovanie AI v kybernetickej bezpečnosti?
Keďže systémy poháňané AI majú schopnosť prijímať rozhodnutia a vykonávať úlohy nezávisle od ľudí, dokážu analyzovať väčšie objemy údajov súvisiacich s rizikom rýchlosťou, ktorej sa žiadna ľudská bytosť nevyrovná. Okrem toho môžu bezpečnostné systémy, poháňané AI, využívať strojové učenie (ML) na modernizáciu svojej obrany a kompetentnejšie čeliť prebiehajúcim kybernetickým útokom.
Môžu napríklad zbierať údaje v reálnom čase o aktívnych kybernetických hrozbách, ako sú najnovšie e-maily podvody a zabrániť nič netušiacim obetiam klikať na škodlivé odkazy alebo sťahovať malware napadnuté Dokumenty. Počítačové zločiny, ako sú phishingové podvody a útoky DoS (Denial-of-service) sú napokon znepokojivo bežné a bezpečnosť systém, ktorý môže fungovať ako hodinky bez spánku alebo si potrebuje vziať voľno na inováciu svojej taktiky počítačovej kriminality, je výkonný spojenca.
Všetky tri druhy rozhodovacích procesov AI (podpora, rozšírenie a automatizácia) možno využiť na posilnenie kybernetickej bezpečnosti.
Výhody používania AI v kybernetickej bezpečnosti
Keďže všetci súhlasíme s tým, že používanie rozhodovania AI v kybernetickej bezpečnosti je niečo, s čím sa v budúcnosti ešte stretneme, pozrime sa, aké sú jeho hlavné výhody.
- AI môže fungovať vo dne aj v noci: Na rozdiel od ľudského personálu kybernetickej bezpečnosti, ktorý potrebuje občas zavrieť oči, môže AI analyzovať údaje a hľadať kybernetické hrozby a zraniteľné miesta nepretržite.
- Mohlo by to odstrániť ľudskú chybu: Odvtedy ľudia sú najslabším článkom v reťazci kybernetickej bezpečnosti, je bezpečnejšie nechať AI, aby sa postarala o všetky úlohy, v ktorých sme hrozní (napríklad uprednostňovanie úloh a venovanie sa hlavným povinnostiam).
- ML mení hru na detekciu hrozieb: Na rozdiel od ľudských expertov na kybernetickú bezpečnosť, ktorí musia absolvovať školenie, aby identifikovali a pochopili nové kybernetické hrozby, systém AI dokáže automaticky zachytiť nové hrozby.
- Vďaka tomu je biometrické overovanie inteligentnejšie: Či už hovoríme o rozpoznávaní končekov prstov, dúhovky alebo hlasu, AI robí biometrické prihlasovanie plynulejším a bezpečnejším.
- Mohlo by to znížiť náklady na kybernetické útoky: V prípade úspešného kybernetického útoku by bezpečnostný systém poháňaný AI mohol zmierniť škody a minimalizovať finančné straty.
Nevýhody používania AI v kybernetickej bezpečnosti
Nemyslíme si, že AI sa zrazu stane vedomým, začne pociťovať vážne pohŕdanie ľudstvom a urobí všetko pre to, aby ho zničilo – ďaleko od neho (zatiaľ). S AI však v kybernetickej bezpečnosti nie je všetko len slnko a dúha. A čo viac, je ich viac ako niekoľko dôvody, prečo by ste nemali slepo dôverovať AI.
- Zaujatosť v AI a ML: V AI existujú dva typy skreslenia, algoritmická AI (známejšia ako skreslenie údajov) a spoločenská zaujatosť AI, pričom obe môžu spôsobiť, že aj bezpečnostné systémy založené na AI budú zaujaté.
- Nedostatok transparentnosti v AI: Keďže AI funguje ako čierna skrinka, nemôžeme zhromažďovať informácie, ktoré potrebujeme, aby sme pochopili, ako systém AI skutočne robí rozhodnutia.
- Problémy s integráciou s existujúcimi bezpečnostnými systémami: Nie všetky bezpečnostné systémy založené na AI sa dajú hladko integrovať s existujúcimi, čo by mohlo narušiť bezpečnostnú architektúru organizácie.
- Sklon k falošným pozitívam: Kvôli nášmu nedostatočnému pochopeniu rozhodovania AI a spoliehaniu sa AI na údaje môžu algoritmy ML Chyby pri detekcii anomálií (napríklad odstraňovanie údajov, ktoré nepredstavujú hrozbu), čím sa systémy vystavujú riziku pre skutočný kybernetický systém vyhrážky.
Môžeme dôverovať AI v kybernetickej bezpečnosti?
Ako obe technológie napredujú, AI a kybernetická bezpečnosť sú čoraz viac prepojené. Znamená to však, že by sme mali nechať svoje starosti za sebou a dôverovať rozhodovaniu AI?
Rovnako ako pri akejkoľvek inej technológii má rozhodovací potenciál AI svoje výhody a nevýhody. Dokáže chrániť naše systémy vo dne aj v noci, eliminovať ľudské chyby a zároveň sa učiť z nových kybernetických útokov. Môže však byť napadnutý ako ktorákoľvek iná súčasť bezpečnostného systému a tieto útoky by mohli ovplyvniť jeho „myseľ“ spôsobom, ktorému ešte nerozumieme.
Preto je veľmi dôležité, aby sme pochopili riziká a výhody využívania AI v kybernetickej bezpečnosti skôr, ako ju budeme môcť považovať za jedného z našich najbližších spojencov.
