Els perills de la IA: com utilitzaran els pirates informàtics ChatGPT en els propers anys
En breu
La IA podria convertir-se en un generador de programari maliciós incontrolable
La IA es pot utilitzar per crear programari maliciós potent sense intervenció humana
Risc de pesca d'IA incontrolable a mesura que guanya més poder
El ràpid desenvolupament de la intel·ligència artificial (IA) és un dels avenços tecnològics més transformadors de la història recent. Tanmateix, a mesura que la IA continua evolucionant i esdevenint més sofisticada, hi ha un risc creixent que pugui arribar a ser incontrolable o que sigui utilitzada pels pirates informàtics.
Amb l'estat actual de la tecnologia d'IA, ara és possible crear programari maliciós autònom que pugui seleccionar i comprometre objectius sense intervenció humana. També hi ha el risc que la IA es pugui utilitzar per reforçar les capacitats dels ciberdelinqüents. La IA es pot utilitzar per crear programari maliciós potent que és difícil de detectar i defensar-se. El programari maliciós habilitat per IA es podria utilitzar per llançar atacs contra els quals els humans són impossibles de defensar. Estàs segur d'IA o? ChatGPT no pot produir alguna cosa perjudicial, atès que ja crea programes, aplicacions, jocs i scripts?
Els riscos potencials que suposa la IA no són només teòrics. Són perills reals i actuals que hem d'abordar abans que sigui massa tard.
Tal com creuen els experts de Finlàndia, els atacants aviat començaran a utilitzar la IA per dur a terme atacs de pesca mortals eficaços. WithSecure, l'Agència de Transports i Comunicacions de Finlandia i l'Agència Federal de Gestió d'Emergències han preparat un reportar analitzant les tendències i desenvolupaments actuals en IA, ciberatacs i on es creuen els dos.
Els autors de l'informe diuen que, tot i que els atacs que utilitzen IA actualment són molt rars, es duen a terme de tal manera que els investigadors i analistes no els poden observar. Tanmateix, en els propers anys, és probable que els atacants desenvolupin algorismes d'IA que puguin trobar vulnerabilitats de manera independent, planificar i dur a terme campanyes malicioses, evitar els sistemes de seguretat i recopilar informació dels dispositius piratejats.
WithSecure ha pronosticat que els pirates informàtics patrocinats per l'estat seran els primers a utilitzar la IA en ciberatacs, amb la tecnologia que finalment caurà en mans de grups més petits que l'utilitzaran a més gran escala. Com a resultat, els especialistes en seguretat de la informació han de començar a desenvolupar sistemes que puguin protegir contra aquest tipus d'atacs.
Els autors de l'informe han afirmat que els ciberatacs impulsats per IA seran especialment efectius quan es tracti de tècniques de suplantació d'identitat, que s'utilitzen sovint en atacs de pesca i vishing.
Els pirates informàtics utilitzaran ChatGPT en enginyeria social per obtenir dades sensibles
Hi ha hagut una tendència creixent de pirates informàtics que utilitzen IA per dur a terme els seus atacs, ja que aquesta tecnologia els proporciona la capacitat d'automatitzar els seus atacs i fer-los més efectius.
Un dels últims exemples d'això és el ChatGPT xat de xat, que està sent utilitzat pels pirates informàtics per dur a terme atacs d'enginyeria social. Aquest chatbot està dissenyat per imitar la conversa humana i és capaç de dur a terme converses complexes, realistes i coherents. Hi ha un potencial d'abús amb aquesta tecnologia. Els pirates informàtics podrien utilitzar el chatbot per generar converses convincents per recollir dades sensibles, dades personals i contrasenyes de víctimes desprevinguts.
Fins ara, el chatbot s'ha utilitzat per suplantar els representants d'atenció al client i dur a terme atacs de pesca. Només és qüestió de temps que veiem atacs més sofisticats que es duen a terme amb aquesta tecnologia.
Aquest és un problema greu que cal tractar. Si ChatGPT no està degudament assegurat, es podria utilitzar per explotar persones d'una manera molt sofisticada. A mesura que els chatbots es van fent més avançats, és important ser conscient dels riscos que comporten. Els pirates informàtics seguiran trobant noves maneres d'utilitzar-los per dur a terme els seus atacs. Assegureu-vos de mantenir el programari de seguretat actualitzat i desconfieu de les converses que tingueu amb desconeguts en línia.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articlesDamir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.