Microsoft je okrenuo svoj alat za procjenu sigurnosnog rizika AI, Counterfit, otvoreni izvor, omogućavajući svima da taj alat mogu početi koristiti besplatno. Trenutno organizacije mogu koristiti Counterfit za automatizaciju procjene sigurnosnog rizika, osiguravajući zaštitu koju koriste do nule.

Microsoft je prvotno razvio Counterfit kao interni alat koji može brzo procijeniti sigurnost AI-ja i sustava strojnog učenja. Započeo je život kao zbirka skripti prije nego što se brzo pretvorio u generičku automatizaciju AI koju operater može koristiti za "napad višestrukih sustava AI" odjednom.

Microsoft sada redovito koristi Counterfit kao osnovni alat u njihovim aktivnostima AI red tima. Kako je Counterfit agnostik okruženja, modela i podataka, alat može pružiti preciznu procjenu bez impedancije.

Sam je alat dizajniran za uporabu sigurnosnih stručnjaka. Counterfit koristi slične tijekove rada kao i drugi popularni alati crvenog tima kao što su Metasploit ili PowerShell Empyre, s opsežnom podrškom za skriptiranje, unaprijed učitani algoritmi napada, skeniranje ranjivosti, napredno bilježenje i još mnogo toga, kojima se pristupa putem naredbenog retka.

instagram viewer

Microsoft je intenzivno surađivao sa sigurnosnim stručnjacima i velikim organizacijama kako bi i Counterfit bolje razvio. Na Blog Microsoftove sigurnosti, Matilda Rhode, viša istraživačica kibernetičke sigurnosti, Airbus, rekla je:

AI se sve više koristi u industriji; Vitalno je gledati naprijed kako bismo osigurali ovu tehnologiju, posebno da bismo razumjeli gdje se napadi prostora prostora mogu realizirati u problematičnom prostoru. Izdanje alata otvorenog koda iz organizacije kao što je Microsoft za procjenu praktičara zaštite sigurnost AI sustava dobrodošla je i jasan pokazatelj da industrija uzima taj problem ozbiljno.

Možete pronaći open-source Microsoft Counterfit na njihovom službenom GitHubu.

Povezano: Poslove koje nikada niste znali obavljao je AI

Zašto je Counterfit koristan?

Čak i za tvrtku veličine Microsofta, ispunjavanje učinkovitih sigurnosnih procjena nije lako, pogotovo kada su te tvrtke ogromni čelnici Fortune 500, vlade, neprofitne organizacije i još mnogo toga. Prethodno Microsoftovo istraživanje otkrilo je da velik broj tvrtki nije u stanju točno testirati svoje AI sustave.

Otkrili smo da je 25 od 28 tvrtki navelo da nema prave alate za osiguranje svojih AI sustava i da zaštitari traže specifične smjernice u ovom prostoru.

Counterfit olakšava dovršavanje tih procjena, automatizirajući postupak analize i testiranja.

Povezano: Načini na koje možete koristiti AI tehnologiju za poboljšanje svog poslovanja

Nadalje, nedavno objavljeno Gartnerova studija usvajanje AI sigurnosti navedeno je kao jedna od najvažnijih sigurnosnih mjera koje poduzeće može poduzeti za poboljšanje zaštite. Ista studija primijetila je da će "do 2024. godine organizacije koje provode namjenske kontrole upravljanja rizikom AI uspješno izbjegavati negativne ishode umjetne inteligencije dvostruko češće od onih koji to ne čine."

Ukratko, Counterfit koji postaje alat za procjenu sigurnosti AI otvorenog koda trebao bi pomoći da svijet postane malo sigurnije mjesto.

E-mail
Ova 4 antivirusna alata koriste AI za zaštitu vašeg sustava

Treba li vaša sljedeća pretplata na antivirusne programe uključivati ​​umjetnu inteligenciju ili je to samo još jedna sigurnosna modna riječ?

Pročitajte Dalje

Povezane teme
  • Sigurnost
  • Tehničke vijesti
  • Otvoreni izvor
  • Kibernetička sigurnost
O autoru
Gavin Phillips (Objavljeno 840 članaka)

Gavin je mlađi urednik za Windows i objašnjene tehnologije, redoviti suradnik Stvarno korisnog podcasta i bio je urednik sestrinske web stranice MakeUseOf, usmjerene na kripto, Blocks Decoded. Ima BA (Hons) suvremeno pisanje s praksama digitalne umjetnosti pljačkane s brda Devona, kao i više od deset godina profesionalnog spisateljskog iskustva. Uživa u obilnim količinama čaja, društvenim igrama i nogometu.

Više od Gavina Phillipsa

Pretplatite se na naše obavijesti

Pridružite se našem biltenu za tehničke savjete, recenzije, besplatne e-knjige i ekskluzivne ponude!

Još jedan korak…!

Potvrdite svoju e-adresu u e-pošti koju smo vam upravo poslali.

.