Opasnosti AI: Kako će hakeri koristiti ChatGPT u sljedećih nekoliko godina
Ukratko
AI bi se mogao pretvoriti u generator zlonamjernog softvera koji se ne može kontrolirati
AI se može koristiti za stvaranje snažnog zlonamjernog softvera bez ljudske intervencije
Rizik od nekontroliranog phishinga umjetne inteligencije jer dobiva sve više snage
Brzi razvoj umjetne inteligencije (AI) jedno je od najtransformativnijih tehnoloških dostignuća u novijoj povijesti. Međutim, kako se umjetna inteligencija nastavlja razvijati i postaje sve sofisticiranija, postoji sve veći rizik da bi mogla postati nekontrolirana ili da će je koristiti hakeri.
S trenutnim stanjem AI tehnologije, sada je moguće stvoriti autonomni zlonamjerni softver koji može odabrati i djelovati na ciljeve bez ljudske intervencije. Također postoji rizik da bi se umjetna inteligencija mogla koristiti za jačanje sposobnosti kibernetičkih kriminalaca. AI se može koristiti za stvaranje snažnog zlonamjernog softvera koji je teško otkriti i obraniti se od njega. Malware s omogućenom umjetnom inteligencijom mogao bi se koristiti za pokretanje napada od kojih se ljudi ne mogu obraniti. Jeste li sigurni AI ili ChatGPT ne može proizvesti nešto štetno, s obzirom da već stvara programe, aplikacije, igre i skripte?
Potencijalni rizici koje predstavlja umjetna inteligencija nisu samo teoretski. One su stvarne i prisutne opasnosti s kojima se moramo pozabaviti prije nego što bude prekasno.
Kako stručnjaci u Finskoj vjeruju, napadači će uskoro početi koristiti AI za izvođenje smrtonosno učinkovitih phishing napada. WithSecure, Finska agencija za promet i komunikacije i Savezna agencija za upravljanje hitnim situacijama pripremili su prijaviti analiziranje trenutnih trendova i razvoja u AI, cyber napadima i gdje se to dvoje presijecaju.
Autori izvješća kažu da iako su napadi koji koriste umjetnu inteligenciju trenutno vrlo rijetki, provode se na način da ih istraživači i analitičari ne mogu promatrati. Međutim, u idućim godinama vrlo je vjerojatno da će napadači razviti AI algoritme koji mogu samostalno pronalaziti ranjivosti, planirati i provoditi zlonamjerne kampanje, zaobići sigurnosne sustave i prikupljati informacije s hakiranih uređaja.
WithSecure je predvidio da će hakeri koje sponzorira država biti prvi koji će koristiti umjetnu inteligenciju u kibernetičkim napadima, a tehnologija će na kraju pasti u ruke manjih skupina koje će je koristiti u većem opsegu. Kao rezultat toga, stručnjaci za informacijsku sigurnost moraju početi razvijati sustave koji mogu zaštititi od ovakvih napada.
Autori izvješća su izjavili da će kibernetički napadi pokretani umjetnom inteligencijom biti posebno učinkoviti kada je riječ o tehnikama lažnog predstavljanja, koje se često koriste u phishing i vishing napadima.
Hakeri će koristiti ChatGPT u društvenom inženjeringu kako bi dobili osjetljive podatke
Postoji rastući trend hakera koji koriste umjetnu inteligenciju za izvođenje svojih napada budući da im ova tehnologija pruža mogućnost automatiziranja svojih napada i učiniti ih učinkovitijima.
Jedan od najnovijih primjera za to je ChatGPT chatbot, koji hakeri koriste za izvođenje napada društvenim inženjeringom. Ovaj chatbot dizajniran je za oponašanje ljudskog razgovora i sposoban je voditi složene, realistične i koherentne razgovore. Postoji mogućnost zlouporabe ove tehnologije. Hakeri bi mogli koristiti chatbot za generiranje uvjerljivih razgovora kako bi prikupili osjetljive podatke, osobne podatke i lozinke od žrtava koje ništa ne sumnjaju.
Do sada se chatbot koristio za lažno predstavljanje predstavnika korisničke službe i izvođenje phishing napada. Samo je pitanje vremena kada ćemo vidjeti sofisticiranije napade koji se izvode ovom tehnologijom.
Ovo je ozbiljno pitanje koje treba riješiti. Ako ChatGPT nije pravilno osiguran, mogao bi se koristiti za iskorištavanje ljudi na vrlo sofisticiran način. Kako chatbotovi postaju sve napredniji, važno je biti svjestan rizika koje predstavljaju. Hakeri će nastaviti pronalaziti nove načine da ih iskoriste za izvođenje svojih napada. Obavezno ažurirajte svoj sigurnosni softver i budite oprezni s bilo kakvim razgovorima s nepoznatim osobama na mreži.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
