Kako hakeri koriste generativnu umjetnu inteligenciju u svojim napadima i što možemo učiniti u vezi s tim

Generativna umjetna inteligencija (AI) u posljednje je vrijeme u središtu pozornosti. Chatbot ChatGPT koji pokreće AI i drugi sustavi s podrškom za obradu prirodnog jezika kao što je VALL-E donijeli su generativnu AI široj javnosti i oslobodili njegove prednosti i loše učinke.

Jedna od ključnih briga u vezi s generativnom umjetnom inteligencijom jest činjenica da se može koristiti za nadogradnju zlonamjernih pothvata i stvaranje sofisticiranijih kibernetičkih napada. Dakle, kako hakeri koriste generativnu umjetnu inteligenciju u svojim napadima i što to znači za budućnost kibernetičke sigurnosti?

Što je Generative AI i kako radi?

Kao što mu ime govori, generativna umjetna inteligencija je vrsta umjetne inteligencije koja je sposobna generirati novi sadržaj—slike, tekst, audio i sintetičke podatke.

Jedan poznati primjer je ChatGPT, chatbot koji pokreće AI s kojim možete voditi razgovore poput ljudi i dobiti neke vrhunske filmske preporuke—to jest, ako ne možete smisliti smisleniju misiju da pošaljete ChatGPT na.

Dopustite da vam damo jednu ili dvije ideje - mogli biste natjerajte ChatGPT da vam napiše sve te teške e-poruke, iskoristiti ChatGPT kao alat za prevođenje, pa čak pretvorite ChatGPT u svog zdravog pomoćnika za planiranje obroka. Sve u svemu, u nekoliko sekundi ovaj chatbot može osmisliti naizgled novi, uvjerljivi sadržaj i prikazati ga na prilično politički korektan način.

Međutim, generativna umjetna inteligencija još uvijek ne može biti kreativna na način na koji to može čovjek. To je zato što koristi nenadzirane i polu-nadzirane algoritme strojnog učenja za obradu jako puno podataka i generiranje prilagođenih izlaza.

Na primjer, ako ste htjeli naručiti Picassovu sliku od generativnog AI-a kao što je DALL-E 2, morat ćete upisati svoj opis u određenom polju—recimo "Picassova Guernica, ali s mačićima"—i zadržite se nekoliko sekundi. Tijekom tog vremena, AI će primijeniti sve specifične osobine umjetnikova stila koje je naučio prije, dodajte mačiće za dobru mjeru, i smislite nešto originalno—dobili smo tu sliku koju možete malo vidjeti iznad.

Kako hakeri koriste generativnu umjetnu inteligenciju u svojim napadima?

Loše dečke oduvijek su privlačili dobri algoritmi. Stoga ne čudi što iskorištavaju generativnu umjetnu inteligenciju kako bi pojačali svoje napade. Korištenjem ML metoda kao što su potkrepljeno učenje i generativne protivničke mreže, kibernetički kriminalci mogu osmisliti nove, sofisticiranije kibernetičke napade koji mogu probiti standardne cyber obrana.

Jedan primjer ove izopačenosti je OpenAI-jev “najmoderniji” chatbot, kao Kibernetički kriminalci koriste ChatGPT za pisanje zlonamjernog softvera. U početku se ChatGPT činio kao zabava i igra, ali sada je razotkriven kao jedna od glavnih prijetnji sigurnosti i privatnosti. Ako volite razgovarati s ChatGPT-om, pametno je pripaziti na stvari koje kibernetički kriminalci mogu učiniti s ChatGPT-om.

Ukratko, ChatGPT i drugi generativni AI alati olakšali su život kibernetičkim kriminalcima, a otežali sigurnosnim timovima. Neki od načina na koje akteri cyber prijetnji koriste AI u svojim napadima uključuju:

• Izrada boljeg, sofisticiranijeg zlonamjernog softvera: U rukama hakera, generativni AI može se koristiti za generiranje vrsta zlonamjernog softvera koje je teško detektirati i izvršavanje napada. U kombinaciji s AI modelima, zlonamjerni softver može prikriti svoju namjeru dok ne ispuni svoju lošu svrhu.
• Pisanje prilagođenih phishing e-poruka koje pokreće AI: Uz pomoć generativne umjetne inteligencije, phishing e-poruke više nemaju znakove prijevare—kao što su loš pravopis, loša gramatika i nedostatak konteksta. Osim toga, uz AI kao što je ChatGPT, akteri prijetnji mogu pokrenuti phishing napade neviđenom brzinom i razmjerom.
• Generiranje dubokih lažnih podataka: Budući da može stvoriti uvjerljive imitacije ljudskih aktivnosti—kao što su pisanje, govor i slike—generativna umjetna inteligencija može se koristiti u lažnim aktivnostima kao što su krađa identiteta, financijske prijevare i dezinformacija.
• Krekiranje CAPTCHA i pogađanje lozinki: CAPTCHA koju koriste stranice i mreže za pročešljavanje robota koji traže neovlašteni pristup, hakeri sada mogu zaobići CAPTCHA. Korištenjem ML-a mogu ispuniti i druge zadatke koji se ponavljaju kao što su pogađanje lozinki i napadi brutalnom silom.
• Sabotiranje ML-a u otkrivanju cyber prijetnji: Ako je sigurnosni sustav zatrpan s previše lažno pozitivnih rezultata, haker ga može iznenaditi pravim kibernetičkim napadom.

Kako se možemo boriti protiv generativne AI prijetnje?

Kako kibernetički napadi postaju sve sofisticiraniji, a njihove posljedice sve ozbiljnije, tradicionalni sigurnosni sustavi pretvorit će se u stvari prošlog doba. Uz mogućnost učenja iz prethodnih napada i prilagodbe, umjetna inteligencija je neprocjenjivo bogatstvo i za kibernetičke kriminalce i za njihove protivnike.

Korištenje umjetne inteligencije u kibernetičkoj sigurnosti ima neke ozbiljne prednosti kao što su brže otkrivanje prijetnji, identifikacija prijetnji i odgovor na prijetnje—pa se gašenje požara vatrom čini kao pravi odgovor. Prije nego što kibernetički kriminalci nauče kako zadati razorne udarce pojedincima i tvrtkama diljem svijeta u svijetu, stručnjaci za kibernetičku sigurnost moraju naučiti svoje sustave pokretane umjetnom inteligencijom da se zaštite od ovih napadi.

Međutim, nije sve na AI. Uostalom, također možemo ojačati vlastitu sigurnost i privatnost provjerenim metodama kao što su višefaktorska provjera autentičnosti (MFA), biometrijska tehnologija, korištenje upravitelja lozinkama, korištenje najbolje šifrirane alate za suradnju, i dobrim, starim zdravim razumom.

Borba protiv AI pomoću AI

Dakle, hoćemo li u bliskoj budućnosti svjedočiti AI kibersigurnosnim ratovima? Pa, nadamo se da neće. Međutim, kako umjetna inteligencija napreduje i postaje dostupna svima – podjednako kibernetičkim kriminalcima i stručnjacima za kibernetičku sigurnost – uloga umjetne inteligencije i strojnog pranja postat će sve veća u godinama koje dolaze.