Farorna med AI: Hur hackare kommer att använda ChatGPT under de närmaste åren
I korthet
AI kan förvandlas till okontrollerbar skadlig programvara
AI kan användas för att skapa kraftfull skadlig programvara utan mänsklig inblandning
Risk för okontrollerbar AI-nätfiske när den får mer kraft
Den snabba utvecklingen av artificiell intelligens (AI) är en av de mest omvälvande tekniska framstegen under senare tid. Men eftersom AI fortsätter att utvecklas och bli mer sofistikerad, finns det en växande risk att den kan bli okontrollerbar eller kommer att användas av hackare.
Med det nuvarande tillståndet för AI-teknik är det nu möjligt att skapa autonom skadlig programvara som kan välja ut och engagera mål utan mänsklig inblandning. Det finns också en risk att AI kan användas för att stärka cyberbrottslingarnas förmåga. AI kan användas för att skapa kraftfull skadlig programvara som är svår att upptäcka och försvara sig mot. AI-aktiverad skadlig programvara kan användas för att starta attacker som är omöjliga för människor att försvara sig mot. Är du säker på AI eller ChatGPT inte kan producera något skadligt, med tanke på att det redan skapar program, appar, spel och skript?
De potentiella riskerna med AI är inte bara teoretiska. De är verkliga och nuvarande faror som vi måste ta itu med innan det är för sent.
Som experter i Finland tror kommer angripare snart att börja använda AI för att utföra dödligt effektiva nätfiskeattacker. WithSecure, Trafik- och kommunikationsverket och förbundsberedskapsverket har utarbetat en rapport analysera aktuella trender och utvecklingar inom AI, cyberattacker och var de två skär varandra.
Författarna till rapporten säger att även om attacker som använder AI för närvarande är mycket sällsynta, utförs de på ett sådant sätt att forskare och analytiker inte kan observera dem. Men inom de närmaste åren är det troligt att angripare kommer att utveckla AI-algoritmer som självständigt kan hitta sårbarheter, planera och genomföra skadliga kampanjer, kringgå säkerhetssystem och samla in information från hackade enheter.
WithSecure har förutspått att statligt sponsrade hackare kommer att vara de första att använda AI i cyberattacker, där tekniken så småningom faller i händerna på mindre grupper som kommer att använda den i större skala. Som ett resultat måste informationssäkerhetsspecialister börja utveckla system som kan skydda mot den här typen av attacker.
Rapportens författare har konstaterat att AI-drivna cyberattacker kommer att vara särskilt effektiva när det kommer till personifieringstekniker, som ofta används vid nätfiske och vishingattacker.
Hackare kommer att använda ChatGPT inom social ingenjörskonst för att få känslig data
Det har funnits en växande trend av hackare som använder AI för att utföra sina attacker eftersom denna teknik ger dem möjligheten att automatisera sina attacker och göra dem mer effektiva.
Ett av de senaste exemplen på detta är ChatGPT chatbot, som används av hackare för att utföra sociala ingenjörsattacker. Denna chatbot är designad för att imitera mänskliga konversationer och kan genomföra komplexa, realistiska och sammanhängande konversationer. Det finns en risk för missbruk med denna teknik. Hackare kan använda chatboten för att skapa övertygande konversationer för att samla in känsliga uppgifter, personliga uppgifter och lösenord från intet ont anande offer.
Hittills har chatboten använts för att imitera kundtjänstrepresentanter och utföra nätfiskeattacker. Det är bara en tidsfråga innan vi ser mer sofistikerade attacker utföras med denna teknik.
Detta är en allvarlig fråga som måste åtgärdas. Om ChatGPT inte är ordentligt säkrad, kan den användas för att utnyttja människor på ett mycket sofistikerat sätt. I takt med att chatbots blir mer avancerade är det viktigt att vara medveten om vilka risker de utgör. Hackare kommer att fortsätta hitta nya sätt att använda dem för att utföra sina attacker. Se till att hålla din säkerhetsprogramvara uppdaterad och var försiktig med alla konversationer du har med främlingar online.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
