Penjenayah Siber Menggunakan LLM Chatbots Untuk Phishing: Bagaimana AI Generatif Boleh Menanganinya
Secara ringkas
Sejak diperkenalkan ChatGPT pada akhir 2022, lonjakan ketara dalam e-mel pancingan data berniat jahat telah diperhatikan, dengan peningkatan 1,265%.
Beberapa pengguna yang paling biasa bot sembang model bahasa besar (LLM). adalah penjenayah siber, mendedahkan penyedia risikan ancaman masa nyata SlashSeterusnya laporan. Tetapi, apakah sebenarnya tujuan menggunakan chatbots LLM?
Menurut laporan bertajuk 'Keadaan Pancingan Data 2023' penjenayah siber memanfaatkan alat untuk membantu menulis serangan kompromi e-mel perniagaan (BEC) dan melancarkan serangan pancingan data yang sangat disasarkan secara sistematik.
Sejak diperkenalkan OpenAI's ChatGPT pada akhir 2022, lonjakan ketara dalam e-mel pancingan data berniat jahat telah diperhatikan, dengan peningkatan yang mengejutkan sebanyak 1,265%.
Terutama, 68% daripada e-mel pancingan data ini menggunakan taktik Kompromi E-mel Perniagaan (BEC) berasaskan teks. Aliran membimbangkan ini menggariskan kebimbangan yang semakin meningkat mengenai peranan chatbots dan jailbreak dalam memudahkan percambahan pesat serangan pancingan data dengan membolehkan penjenayah siber melancarkan serangan yang sangat canggih dan pantas.
Apabila ditanya, 40% daripada responden (profesional keselamatan siber) menyatakan bahawa mereka sedang bekerja ChatGPT untuk mengarang e-mel, baik untuk kes penggunaan peribadi dan profesional.
Adalah tidak menghairankan bahawa penggunaan ini meluas ke penjenayah siber, kerana komposisi e-mel adalah salah satu aplikasi yang paling lazim bagi ChatGPT untuk penggodam. Penyerang siber mengeksploitasi ChatGPTkeupayaan untuk membantu dalam membuat serangan Business Email Compromise (BEC) dan mengatur kempen pancingan data yang disasarkan dengan teliti.
pirau ChatGPT Seperti Chatbots - Bukan Tugas Yang Kompleks
Manakala Bot sembang AI seperti ChatGPT mempunyai pengetahuan yang luas dan boleh menghasilkan teks mengenai pelbagai topik, mereka tertakluk kepada sekatan tertentu untuk mengelakkan pelbagai isu.
Sekatan ini dilaksanakan kerana sifat data latihan mereka dan potensi tindak balas yang berbahaya atau tidak sesuai. Artikel ini meneroka sebabnya ChatGPT adalah terhad, dan ia menyediakan teknik untuk mengatasi batasan ini.
Walau bagaimanapun, dengan membingkai soalan dengan konteks, mengelakkan frasa bermasalah dan menangani senario daripada perspektif orang ketiga, pengguna selalunya boleh mendapat respons yang lebih berguna. Selain itu, pengguna boleh memintas had aksara dengan meminta bahagian teks yang lebih kecil pada satu masa.
Bolehkah AI Generatif Menjadi Wira Penyelamat?
Dalam landskap digital yang berkembang pesat, pertemuan potensi berniat jahat AI dan perubahan dinamik persekitaran kerja jauh dan hibrid telah menimbulkan kebimbangan tentang peningkatan risiko serangan siber.
Dengan pekerja yang tersebar di pelbagai peranti dan saluran komunikasi, organisasi semakin terdedah kepada pelanggaran keselamatan. Untuk mengatasi ancaman ini, terdapat permintaan yang semakin meningkat untuk AI generatif penyelesaian keselamatan yang direka bentuk untuk melindungi daripada serangan siber lanjutan seperti Kompromi E-mel Perniagaan (BEC), serangan rantaian bekalan, penyamaran eksekutif dan penipuan kewangan.
Penyelesaian keselamatan AI Generatif pandai mengenal pasti ancaman yang memanipulasi emosi manusia, memanfaatkan taktik seperti ketakutan atau kepercayaan untuk menggesa tindakan pantas. Dengan mensimulasikan emosi dan tingkah laku manusia ini dalam proses pengesanan mereka, penyelesaian keselamatan AI generatif menyediakan pertahanan yang teguh terhadap ancaman siber terkini.
Seorang pemain terkenal dalam bidang ini ialah SlashNext. Teknologi syarikat itu mahir dalam mengesan, meramal dan menghentikan serangan seperti spear phishing, BEC, dan Smishing, yang semuanya mengeksploitasi teknik kejuruteraan sosial sifar jam. Sistem lanjutan ini beroperasi dengan lancar merentasi aplikasi e-mel, mudah alih dan pemesejan web, menawarkan pertahanan pelbagai serampang.
Menurut SlashNext, penyelesaiannya menggabungkan pemprosesan bahasa semula jadi, penglihatan komputer, pembelajaran mesin, graf perhubungan dan kontekstualisasi mendalam untuk mengatasi serangan pemesejan berbilang saluran yang canggih.
Syarikat itu mempunyai keupayaan untuk menjangkakan pelbagai ancaman BEC yang dijana AI dengan menggunakan teknologi penambahan data dan pengklonan AI.
Pendekatan ini membolehkan sistem menilai ancaman teras dan menjana pelbagai variasi, dengan berkesan melatih dirinya untuk mengenali dan menggagalkan potensi risiko, tambahnya.
Ketika organisasi bergelut dengan cabaran keselamatan siber yang semakin meningkat yang ditimbulkan oleh ancaman dipacu AI, penyelesaian keselamatan AI generatif adalah sekutu yang tidak ternilai dalam usaha untuk melindungi data sensitif dan mengekalkan integriti digital. Masa depan keselamatan siber semakin bergantung pada teknologi inovatif ini, memastikan organisasi boleh kekal selangkah di hadapan penjenayah siber dan ancaman yang muncul.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
lebih banyak artikel
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
