Penjahat Dunia Maya Menggunakan Chatbots LLM Untuk Phishing: Bagaimana AI Generatif Dapat Menangkalnya
Singkatnya
Sejak diperkenalkannya ChatGPT pada akhir tahun 2022, terjadi peningkatan signifikan dalam email phishing berbahaya, dengan peningkatan sebesar 1,265%.
Beberapa pengguna paling umum chatbot model bahasa besar (LLM). adalah penjahat dunia maya, ungkap penyedia intelijen ancaman real-time Garis miringBerikutnya laporan. Tapi, apa sebenarnya tujuan menggunakan chatbot LLM?
Menurut laporan berjudul 'Keadaan Phishing 2023' Penjahat dunia maya memanfaatkan alat ini untuk membantu menulis serangan kompromi email bisnis (BEC) dan secara sistematis meluncurkan serangan phishing yang sangat bertarget.
Sejak diperkenalkannya OpenAI'S ChatGPT pada akhir tahun 2022, terjadi peningkatan signifikan dalam email phishing berbahaya, dengan peningkatan yang mengejutkan sebesar 1,265%.
Khususnya, 68% dari email phishing ini menggunakan taktik Business Email Compromise (BEC) berbasis teks. Tren yang mengkhawatirkan ini menggarisbawahi meningkatnya kekhawatiran mengenai peran chatbot dan jailbreak dalam memfasilitasi penyebaran serangan phishing yang cepat dengan memungkinkan penjahat dunia maya melancarkan serangan yang sangat canggih dan cepat.
Ketika ditanya, 40% responden (profesional keamanan siber) menyatakan bahwa mereka saat ini memiliki pekerjaan ChatGPT untuk menulis email, baik untuk kasus penggunaan pribadi dan profesional.
Tidak mengherankan jika pemanfaatan ini meluas hingga ke penjahat cyber, karena komposisi email adalah salah satu aplikasi yang paling umum ChatGPT untuk peretas. Penyerang dunia maya mengeksploitasi ChatGPTkemampuan untuk membantu menyusun serangan Business Email Compromise (BEC) dan mengatur kampanye phishing yang ditargetkan dengan cermat.
bypassing ChatGPT Seperti Chatbot – Bukan Tugas yang Kompleks
Sementara Obrolan AI 'like' ChatGPT memiliki pengetahuan yang luas dan dapat menghasilkan teks tentang berbagai topik, mereka tunduk pada batasan tertentu untuk mencegah berbagai masalah.
Pembatasan ini diterapkan karena sifat data pelatihannya dan potensi respons yang merugikan atau tidak pantas. Artikel ini membahas alasannya ChatGPT dibatasi, dan menyediakan teknik untuk mengatasi keterbatasan ini.
Namun, dengan menyusun pertanyaan berdasarkan konteks, menghindari frasa bermasalah, dan menangani skenario dari sudut pandang orang ketiga, pengguna sering kali bisa mendapatkan respons yang lebih bermanfaat. Selain itu, pengguna dapat melewati batas karakter dengan meminta porsi teks yang lebih kecil dalam satu waktu.
Bisakah AI Generatif Menjadi Pahlawan Penyelamat?
Dalam lanskap digital yang berkembang pesat, perpaduan potensi jahat AI dan perubahan dinamika lingkungan kerja jarak jauh dan hybrid telah menimbulkan kekhawatiran mengenai meningkatnya risiko serangan siber.
Dengan karyawan yang tersebar di berbagai perangkat dan saluran komunikasi, organisasi semakin rentan terhadap pelanggaran keamanan. Untuk mengatasi ancaman ini, terdapat peningkatan permintaan akan hal ini AI generatif solusi keamanan yang dirancang untuk melindungi dari serangan siber tingkat lanjut seperti Business Email Compromise (BEC), serangan rantai pasokan, peniruan identitas eksekutif, dan penipuan keuangan.
Solusi keamanan AI generatif mampu mengidentifikasi ancaman yang memanipulasi emosi manusia, memanfaatkan taktik seperti ketakutan atau kepercayaan untuk mendorong tindakan cepat. Dengan menyimulasikan emosi dan perilaku manusia dalam proses pendeteksiannya, solusi keamanan AI generatif memberikan pertahanan yang kuat terhadap ancaman siber terkini.
Salah satu pemain terkenal di bidang ini adalah SlashNext. Teknologi perusahaan ini mahir dalam mendeteksi, memprediksi, dan menghentikan serangan seperti spear phishing, BEC, dan Smishing, yang semuanya mengeksploitasi teknik rekayasa sosial zero-hour. Sistem canggih ini beroperasi dengan lancar di seluruh aplikasi email, seluler, dan perpesanan web, menawarkan pertahanan multi-cabang.
Menurut SlashNext, solusinya menggabungkan pemrosesan bahasa alami, visi komputer, pembelajaran mesin, grafik hubungan, dan kontekstualisasi mendalam untuk melawan serangan pesan multi-saluran yang canggih.
Perusahaan memiliki kemampuan untuk mengantisipasi beragam ancaman BEC yang ditimbulkan oleh AI dengan menggunakan teknologi augmentasi dan kloning data AI.
Pendekatan ini memungkinkan sistem untuk menilai ancaman inti dan menghasilkan berbagai variasi, sehingga secara efektif melatih sistem untuk mengenali dan menggagalkan potensi risiko, tambahnya.
Saat organisasi bergulat dengan tantangan keamanan siber yang semakin besar akibat ancaman yang didorong oleh AI, solusi keamanan AI generatif merupakan sekutu yang sangat berharga dalam upaya melindungi data sensitif dan menjaga integritas digital. Masa depan keamanan siber semakin bergantung pada teknologi inovatif ini, yang memastikan bahwa organisasi dapat tetap selangkah lebih maju dari penjahat siber dan ancaman yang muncul.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
lebih artikel
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
