Nevarnosti umetne inteligence: kako bodo uporabljali hekerji ChatGPT v naslednjih nekaj letih
Na kratko
AI se lahko spremeni v neobvladljiv generator zlonamerne programske opreme
AI se lahko uporablja za ustvarjanje zmogljive zlonamerne programske opreme brez človeškega posredovanja
Tveganje nenadzorovanega lažnega predstavljanja z umetno inteligenco, ko pridobi več moči
Hiter razvoj umetne inteligence (AI) je eden najbolj transformativnih tehnoloških napredkov v novejši zgodovini. Ker pa se umetna inteligenca še naprej razvija in postaja vse bolj izpopolnjena, obstaja vse večje tveganje, da bo postala neobvladljiva ali pa jo bodo uporabili hekerji.
S trenutnim stanjem tehnologije umetne inteligence je zdaj mogoče ustvariti avtonomno zlonamerno programsko opremo, ki lahko izbere in napada tarče brez človeškega posredovanja. Obstaja tudi tveganje, da bi lahko umetno inteligenco uporabili za krepitev zmogljivosti kibernetskih kriminalcev. AI se lahko uporablja za ustvarjanje zmogljive zlonamerne programske opreme, ki jo je težko zaznati in se pred njo braniti. Zlonamerno programsko opremo, ki podpira AI, bi lahko uporabili za sprožitev napadov, pred katerimi se ljudje ne morejo ubraniti. Ste prepričani, da AI oz ChatGPT ne more ustvariti nečesa škodljivega, glede na to, da že ustvarja programe, aplikacije, igre in skripte?
Potencialna tveganja, ki jih predstavlja umetna inteligenca, niso le teoretična. So resnične in sedanje nevarnosti, ki jih moramo obravnavati, preden bo prepozno.
Kot verjamejo strokovnjaki na Finskem, bodo napadalci kmalu začeli uporabljati AI za izvajanje smrtonosno učinkovitih lažnih napadov. WithSecure, finska agencija za promet in komunikacije ter zvezna agencija za upravljanje v izrednih razmerah sta pripravili a poročilo analiziranje trenutnih trendov in razvoja na področju umetne inteligence, kibernetskih napadov in kje se oboje križa.
Avtorji poročila pravijo, da čeprav so napadi z uporabo umetne inteligence trenutno zelo redki, se izvajajo tako, da jih raziskovalci in analitiki ne morejo opazovati. Vendar pa je v naslednjih letih verjetno, da bodo napadalci razvili algoritme umetne inteligence, ki lahko neodvisno najdejo ranljivosti, načrtujejo in izvajajo zlonamerne akcije, zaobidejo varnostne sisteme in zbirajo informacije iz vdrtih naprav.
WithSecure je napovedal, da bodo hekerji, ki jih sponzorira država, prvi uporabili AI pri kibernetskih napadih, pri čemer bo tehnologija sčasoma padla v roke manjših skupin, ki jo bodo uporabljale v večjem obsegu. Zato morajo strokovnjaki za informacijsko varnost začeti razvijati sisteme, ki lahko ščitijo pred tovrstnimi napadi.
Avtorji poročila so izjavili, da bodo kibernetski napadi, ki jih poganja AI, še posebej učinkoviti, ko gre za tehnike lažnega predstavljanja, ki se pogosto uporabljajo pri napadih z lažnim predstavljanjem in vishingom.
Hekerji bodo uporabili ChatGPT v socialnem inženiringu za pridobivanje občutljivih podatkov
Narašča trend hekerjev, ki uporabljajo AI za izvajanje svojih napadov, saj jim ta tehnologija omogoča avtomatizacijo svojih napadov in jih naredi učinkovitejše.
Eden najnovejših primerov tega je ChatGPT chatbot, ki ga hekerji uporabljajo za izvajanje napadov socialnega inženiringa. Ta chatbot je zasnovan tako, da posnema človeški pogovor in je sposoben izvajati kompleksne, realistične in skladne pogovore. S to tehnologijo obstaja možnost zlorabe. Hekerji bi lahko uporabili chatbot za ustvarjanje prepričljivih pogovorov za zbiranje občutljivih podatkov, osebnih podatkov in gesel od nič hudega slutečih žrtev.
Klepetalni robot se je doslej uporabljal za lažno predstavljanje predstavnikov službe za stranke in izvajanje lažnih napadov. Samo vprašanje časa je, kdaj bomo videli bolj sofisticirane napade, ki se izvajajo s to tehnologijo.
To je resno vprašanje, ki ga je treba obravnavati. če ChatGPT ni ustrezno zavarovan, bi ga lahko uporabili za izkoriščanje ljudi na zelo prefinjen način. Ker chatboti postajajo naprednejši, je pomembno, da se zavedamo tveganj, ki jih predstavljajo. Hekerji bodo še naprej iskali nove načine, kako jih uporabiti za izvajanje svojih napadov. Poskrbite, da bo vaša varnostna programska oprema posodobljena in bodite previdni pri morebitnih pogovorih z neznanci na spletu.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
