Nebezpečenstvo AI: Ako hackeri využijú ChatGPT v najbližších rokoch
Stručne
AI sa môže zmeniť na nekontrolovateľný generátor škodlivého softvéru
Umelá inteligencia môže byť použitá na vytvorenie silného malvéru bez ľudského zásahu
Riziko nekontrolovateľného phishingu AI, pretože získava väčšiu silu
Rýchly rozvoj umelej inteligencie (AI) je jedným z najviac transformačných technologických pokrokov v nedávnej histórii. Ako sa však AI neustále vyvíja a stáva sa sofistikovanejšou, rastie riziko, že by sa mohla stať nekontrolovateľnou alebo že ju budú používať hackeri.
So súčasným stavom technológie AI je teraz možné vytvárať autonómny malvér, ktorý dokáže vybrať a zasiahnuť ciele bez ľudského zásahu. Existuje tiež riziko, že AI by mohla byť použitá na posilnenie schopností kyberzločincov. Umelá inteligencia môže byť použitá na vytvorenie silného malvéru, ktorý je ťažké odhaliť a brániť sa proti nemu. Malvér s podporou AI by sa dal použiť na spustenie útokov, ktorým sa ľudia nedokážu brániť. Si si istý AI resp ChatGPT nemôže produkovať niečo škodlivé vzhľadom na to, že už vytvára programy, aplikácie, hry a skripty?
Potenciálne riziká, ktoré AI predstavuje, nie sú len teoretické. Sú skutočné a predstavujú nebezpečenstvo, ktoré musíme riešiť, kým nebude príliš neskoro.
Ako sa odborníci vo Fínsku domnievajú, útočníci čoskoro začnú používať AI na uskutočňovanie smrteľne účinných phishingových útokov. WithSecure, Fínska agentúra pre dopravu a komunikáciu a Federálna agentúra pre núdzové situácie pripravili a správy analyzovať súčasné trendy a vývoj v oblasti AI, kybernetických útokov a kde sa tieto dva prelínajú.
Autori správy tvrdia, že hoci útoky využívajúce AI sú v súčasnosti veľmi zriedkavé, sú vedené tak, že ich výskumníci a analytici nemôžu pozorovať. V priebehu nasledujúcich rokov je však pravdepodobné, že útočníci vyvinú algoritmy AI, ktoré dokážu nezávisle nájsť zraniteľné miesta, plánovať a viesť škodlivé kampane, obchádzať bezpečnostné systémy a zbierať informácie z napadnutých zariadení.
WithSecure predpovedal, že štátom sponzorovaní hackeri budú prví, ktorí využijú AI pri kybernetických útokoch, pričom táto technológia sa nakoniec dostane do rúk menších skupín, ktoré ju budú využívať vo väčšom meradle. Špecialisti na informačnú bezpečnosť preto musia začať s vývojom systémov, ktoré dokážu chrániť pred týmto druhom útokov.
Autori správy uviedli, že kybernetické útoky poháňané AI budú obzvlášť účinné, pokiaľ ide o techniky napodobňovania identity, ktoré sa často používajú pri phishingových a vishingových útokoch.
Hackeri využijú ChatGPT v sociálnom inžinierstve získať citlivé údaje
Existuje rastúci trend hackerov, ktorí používajú AI na vykonávanie svojich útokov, pretože táto technológia im poskytuje možnosť automatizovať útoky a zefektívniť ich.
Jedným z najnovších príkladov je ChatGPT Chatbot, ktorý využívajú hackeri na vykonávanie útokov sociálneho inžinierstva. Tento chatbot je navrhnutý tak, aby napodobňoval ľudskú konverzáciu a je schopný viesť zložité, realistické a koherentné konverzácie. S touto technológiou existuje možnosť zneužitia. Hackeri by mohli chatbota použiť na generovanie presvedčivých konverzácií s cieľom zbierať citlivé údaje, osobné údaje a heslá od nič netušiacich obetí.
Chatbot sa doteraz používal na vydávanie sa za zástupcov zákazníckych služieb a na phishingové útoky. Je len otázkou času, kedy sa s touto technológiou dočkáme aj sofistikovanejších útokov.
Ide o vážny problém, ktorý treba riešiť. Ak ChatGPT nie je správne zabezpečená, mohla by byť použitá na vykorisťovanie ľudí veľmi sofistikovaným spôsobom. Keď sa chatboty stávajú vyspelejšími, je dôležité uvedomiť si riziká, ktoré predstavujú. Hackeri budú naďalej hľadať nové spôsoby, ako ich použiť na vykonávanie svojich útokov. Uistite sa, že máte svoj bezpečnostný softvér aktuálny a dávajte si pozor na akékoľvek rozhovory, ktoré vediete s cudzími ľuďmi online.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
