Spoločnosť Microsoft predstavuje open source nástroj Counterfit AI Security Assessment Tool

Spoločnosť Microsoft vyvinula svoj nástroj na hodnotenie bezpečnostných rizík AI, Counterfit, open-source, ktorý umožňuje komukoľvek začať tento nástroj používať zadarmo. V súčasnosti môžu organizácie používať Counterfit na automatizáciu hodnotení bezpečnostných rizík a zaistiť, aby ochrana, ktorú používajú, bola úplne na škodu.

Spoločnosť Microsoft pôvodne vyvinula Counterfit ako interný nástroj, ktorý dokáže rýchlo vyhodnotiť bezpečnosť systémov AI a strojového učenia. Začal to život ako zbierka skriptov a potom sa rýchlo zmenil na všeobecnú automatizáciu AI, ktorú môže operátor použiť na „útok na viac systémov AI“ naraz.

Spoločnosť Microsoft teraz pravidelne používa Counterfit ako hlavný nástroj pri svojich operáciách červeného tímu AI. Pretože Counterfit je prostredie, model a dáta agnostické, nástroj môže poskytnúť presné hodnotenie bez impedancie.

Samotný nástroj je navrhnutý na použitie bezpečnostnými profesionálmi. Counterfit využíva podobné pracovné postupy ako iné populárne nástroje červeného tímu, ako sú Metasploit alebo PowerShell Empyre, s rozsiahlou podporou pre skriptovanie, predinštalované útočné algoritmy, skenovanie zraniteľností, pokročilé protokolovanie a ďalšie prístupné z príkazového riadku.

Spoločnosť Microsoft intenzívne spolupracovala s bezpečnostnými profesionálmi a veľkými organizáciami, aby tiež lepšie vyvinula Counterfit. Na Blog zabezpečenia spoločnosti Microsoft, Matilda Rhode, hlavná výskumná pracovníčka v oblasti kybernetickej bezpečnosti, Airbus, uviedla:

AI sa čoraz viac využíva v priemysle; je nevyhnutné pozerať sa na zabezpečenie tejto technológie vopred, najmä aby sme pochopili, kde možno v problémovom priestore realizovať útoky na vesmírne objekty. Vydanie nástrojov otvoreného zdroja od organizácie, ako je napríklad Microsoft, pre odborníkov v oblasti bezpečnosti na vyhodnotenie bezpečnosť systémov umelej inteligencie je vítaná a je jasnou indikáciou toho, že priemysel tento problém rieši vážne.

Nájdete open-source Microsoft Counterfit na ich oficiálnom GitHube.

Súvisiace: Úlohy, ktoré ste nikdy nevedeli, vykonávala AI

Prečo je Counterfit užitočný?

Dokončenie efektívneho hodnotenia bezpečnosti nie je ľahké ani pre spoločnosť veľkosti Microsoftu, najmä ak sú týmito spoločnosťami obrovskými lídrami Fortune 500, vládami, neziskovými organizáciami a ďalšími. Predchádzajúca štúdia spoločnosti Microsoft zistila, že veľký počet firiem nedokáže presne otestovať svoje systémy AI.

Zistili sme, že 25 z 28 firiem uviedlo, že nemá pripravené správne nástroje na zabezpečenie svojich systémov umelej inteligencie a že bezpečnostní profesionáli hľadajú v tomto priestore konkrétne pokyny.

Counterfit uľahčuje dokončenie týchto hodnotení, automatizuje proces analýzy a testovania.

Súvisiace: Spôsoby, ako môžete pomocou technológie AI vylepšiť svoje podnikanie

Ďalej nedávno zverejnené Štúdia Gartner prijatie AI je uvedené ako jedno z najdôležitejších bezpečnostných opatrení, ktoré môže spoločnosť prijať na zlepšenie ochrany. Rovnaká štúdia poznamenala, že „do roku 2024 sa organizácie, ktoré implementujú vyhradené kontroly riadenia rizika umelej inteligencie, úspešne vyhnú negatívnym výsledkom umelej inteligencie dvakrát častejšie ako tie, ktoré tak neurobia.“

Stručne povedané, Counterfit, ktorý sa stane nástrojom na hodnotenie bezpečnosti AI s otvoreným zdrojovým kódom, by mal pomôcť urobiť zo sveta mierne bezpečnejšie miesto.

Tieto 4 antivírusové nástroje používajú AI na ochranu vášho systému

Musí vaše ďalšie predplatné antivírusu obsahovať umelú inteligenciu, alebo je to iba ďalšie módne slovo v oblasti bezpečnosti?

Prečítajte si Ďalej

O autorovi