Bahaya AI: Bagaimana penggodam akan menggunakan ChatGPT dalam beberapa tahun akan datang
Secara ringkas
AI boleh bertukar menjadi penjana perisian hasad yang tidak terkawal
AI boleh digunakan untuk mencipta perisian hasad yang berkuasa tanpa campur tangan manusia
Risiko pancingan data AI yang tidak terkawal kerana ia memperoleh lebih kuasa
Perkembangan pesat kecerdasan buatan (AI) adalah salah satu kemajuan teknologi yang paling transformatif dalam sejarah terkini. Walau bagaimanapun, apabila AI terus berkembang dan menjadi lebih canggih, terdapat risiko yang semakin meningkat bahawa ia boleh menjadi tidak terkawal atau akan digunakan oleh penggodam.
Dengan keadaan semasa teknologi AI, kini mungkin untuk mencipta perisian hasad autonomi yang boleh memilih dan melibatkan sasaran tanpa campur tangan manusia. Terdapat juga risiko bahawa AI boleh digunakan untuk meningkatkan keupayaan penjenayah siber. AI boleh digunakan untuk mencipta perisian hasad berkuasa yang sukar dikesan dan dipertahankan. Malware yang didayakan AI boleh digunakan untuk melancarkan serangan yang mustahil untuk dipertahankan oleh manusia. Adakah anda pasti AI atau ChatGPT tidak boleh menghasilkan sesuatu yang berbahaya, memandangkan ia sudah mencipta program, apl, permainan dan skrip?
Potensi risiko yang ditimbulkan oleh AI bukan sekadar teori. Ia adalah bahaya nyata dan hadir yang mesti kita tangani sebelum terlambat.
Seperti yang dipercayai oleh pakar di Finland, penyerang akan mula menggunakan AI untuk melakukan serangan pancingan data yang mematikan. WithSecure, Agensi Pengangkutan dan Komunikasi Finland, dan Agensi Pengurusan Kecemasan Persekutuan telah menyediakan a melaporkan menganalisis trend dan perkembangan semasa dalam AI, serangan siber, dan tempat kedua-duanya bersilang.
Penulis laporan mengatakan bahawa walaupun serangan yang menggunakan AI pada masa ini sangat jarang berlaku, ia dilakukan sedemikian rupa sehingga penyelidik dan penganalisis tidak dapat memerhatikannya. Walau bagaimanapun, dalam tahun-tahun akan datang, kemungkinan penyerang akan membangunkan algoritma AI yang boleh mencari kelemahan secara bebas, merancang dan menjalankan kempen berniat jahat, memintas sistem keselamatan dan mengumpul maklumat daripada peranti yang digodam.
WithSecure telah meramalkan bahawa penggodam tajaan kerajaan akan menjadi yang pertama menggunakan AI dalam serangan siber, dengan teknologi itu akhirnya jatuh ke tangan kumpulan yang lebih kecil yang akan menggunakannya pada skala yang lebih besar. Akibatnya, pakar keselamatan maklumat perlu mula membangunkan sistem yang boleh melindungi daripada jenis serangan ini.
Pengarang laporan telah menyatakan bahawa serangan siber yang dikuasakan AI akan sangat berkesan apabila melibatkan teknik penyamaran, yang sering digunakan dalam serangan phishing dan vishing.
Penggodam akan menggunakan ChatGPT dalam kejuruteraan sosial untuk mendapatkan data sensitif
Terdapat trend penggodam yang semakin meningkat menggunakan AI untuk menjalankan serangan mereka kerana teknologi ini memberikan mereka keupayaan untuk mengautomasikan serangan mereka dan menjadikannya lebih berkesan.
Salah satu contoh terbaru ini ialah ChatGPT chatbot, yang digunakan oleh penggodam untuk melakukan serangan kejuruteraan sosial. Chatbot ini direka bentuk untuk meniru perbualan manusia dan mampu menjalankan perbualan yang kompleks, realistik dan koheren. Terdapat potensi penyalahgunaan dengan teknologi ini. Penggodam boleh menggunakan chatbot untuk menjana perbualan yang meyakinkan untuk mengumpul data sensitif, butiran peribadi dan kata laluan daripada mangsa yang tidak disyaki.
Setakat ini, chatbot telah digunakan untuk menyamar sebagai wakil perkhidmatan pelanggan dan melakukan serangan pancingan data. Hanya menunggu masa sebelum kita melihat serangan yang lebih canggih dilakukan dengan teknologi ini.
Ini adalah isu serius yang perlu ditangani. Jika ChatGPT tidak dijamin dengan betul, ia boleh digunakan untuk mengeksploitasi orang dengan cara yang sangat canggih. Apabila chatbots menjadi lebih maju, adalah penting untuk mengetahui risiko yang ditimbulkannya. Penggodam akan terus mencari cara baharu untuk menggunakannya untuk melancarkan serangan mereka. Pastikan untuk memastikan perisian keselamatan anda dikemas kini dan berhati-hati dengan sebarang perbualan yang anda ada dengan orang yang tidak dikenali dalam talian.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
