OpenAI-jev novi ChatGPT chatbot koji pokreće AI kibernetički kriminalci koriste za pisanje zlonamjernog softvera i poboljšanje operacija.
Novi ChatBot koji pokreće AI koristi se za pisanje zlonamjernog softvera
Stručnjaci za kibernetičku sigurnost iz Check Point Researcha otkrili su hakere koji koriste ChatGPT chatbot za pisanje zlonamjernog koda i poboljšanje operacija kibernetičkog kriminala.
OpenAI je 30. studenog 2022. pokrenuo vlastiti chatbot poznat kao ChatGPT. Ovaj chatbot može se uključiti u razgovor s korisnicima, ali nije trebalo dugo nakon datuma lansiranja da kibernetički kriminalci počnu zlorabiti ovog bota.
U Check Point Istraživački post, napisano je da su istraživači pronašli temu pod nazivom "'ChatGPT – Prednosti zlonamjernog softvera'" na hakerskom forumu. Činilo se da autor "eksperimentira s ChatGPT-om kako bi ponovno stvorio vrste i tehnike zlonamjernog softvera opisano u istraživačkim publikacijama i zapisima o uobičajenom zlonamjernom softveru", i podijelio primjer njihov posao; kradljivac temeljen na Pythonu koji "pretražuje uobičajene tipove datoteka, kopira ih u nasumičnu mapu unutar mape Temp, arhivira ih u ZIP i učitava na tvrdo kodirani FTP poslužitelj."
Check Point Research upozorio je javnost na Twitteru, navodeći da "zlouporaba #ChatGPT više nije teoretska".
Istraživanje Check Pointa potvrdilo je autorove tvrdnje
Nakon procjene primjera skripte zlonamjernog softvera navedenog u postu na hakerskom forumu, Check Point Research utvrdio je da je legitiman.
Utvrđeno je da ovaj specifični soj zlonamjernog softvera može pretraživati dvanaest uobičajenih vrsta datoteka, uključujući PDF-ove, Microsoft Office dokumente i slike. Ako zlonamjerni softver otkrije potencijalno vrijedne datoteke, one se kopiraju i komprimiraju. Operateru zlonamjernog softvera zatim se šalju kopirane datoteke putem internetske veze.
Check Point Research također je primijetio da operater zlonamjernog softvera nije šifrirao kopirane datoteke niti ih poslao na siguran način, što znači da bi mogle pasti u ruke trećih strana.
ChatDPT se koristi za dodatne nedopuštene aktivnosti
Check Point Research također je naveo u gore spomenutoj objavi da akteri prijetnji mogu koristiti ChatGPT za druge kriminalne aktivnosti. Dodatnu raspravu, pod naslovom “Zlouporaba ChatGPT-a za stvaranje skripti za Dark Web Marketplaces.”, pronašao je Check Point Research, u kojem je autor pokazao kako je lako stvoriti Dark Web tržište, koristeći ChatGPT."
U temi je autor objavio kod koji može primati cijene kriptovalute uživo pomoću API-ja treće strane. To je onda doprinijelo kripto sustavi plaćanja koji se često koriste na mračnom webu.
Check Point Research zaključio je da je "još uvijek prerano odlučiti hoće li ChatGPT mogućnosti postati novi omiljeni alat ili ne za sudionike Dark Weba." Tvrtka će nastaviti pratiti nezakonitu upotrebu ChatGPT-a tijekom 2023. kako bi vidjela kako se stvari odvijaju van.
Kibernetički kriminalci mogli bi nastaviti koristiti umjetnu inteligenciju
Kako se umjetna inteligencija nastavlja razvijati, vrlo je vjerojatno da će akteri prijetnji nastaviti tražiti nove načine da je zlouporabe. Vrijeme će pokazati hoće li ChatGPT postati popularan među kibernetičkim kriminalcima ili će kolač preuzeti neki drugi alat temeljen na umjetnoj inteligenciji.
