نوامبر 03، 2023

مجرمان سایبری از چت ربات های LLM برای فیشینگ استفاده می کنند: هوش مصنوعی چگونه می تواند با آن مقابله کند

تاریخ انتشار: 03 نوامبر 2023 ساعت 7:42 صبح بروزرسانی: 03 نوامبر 2023 ساعت 7:43 ق.ظ.

ویرایش و بررسی شده: 03 نوامبر 2023 ساعت 7:42 صبح

به طور خلاصه

از زمان معرفی ChatGPT در اواخر سال 2022، افزایش قابل توجهی در ایمیل های فیشینگ مخرب مشاهده شد که 1,265 درصد افزایش یافت.

برخی از رایج ترین کاربران از چت ربات های مدل زبان بزرگ (LLM). مجرمان سایبری هستند، نشان می دهد که ارائه دهنده اطلاعات تهدید در زمان واقعی است SlashNext گزارش. اما، دقیقاً هدف از استفاده از چت ربات های LLM چیست؟

بر اساس گزارشی با عنوان "وضعیت فیشینگ 2023مجرمان سایبری از این ابزار برای کمک به نوشتن حملات در معرض خطر ایمیل تجاری (BEC) و راه اندازی سیستماتیک حملات فیشینگ بسیار هدفمند استفاده می کنند.

از زمان معرفی OpenAI" ChatGPT در اواخر سال 2022، افزایش قابل توجهی در ایمیل‌های فیشینگ مخرب مشاهده شد، با افزایش 1,265 درصدی.

قابل ذکر است، 68 درصد از این ایمیل‌های فیشینگ از تاکتیک‌های سازش ایمیل تجاری (BEC) مبتنی بر متن استفاده می‌کنند. این روند هشدار دهنده بر نگرانی‌های فزاینده در مورد نقش چت‌بات‌ها و جیلبریک‌ها در تسهیل گسترش سریع حملات فیشینگ از طریق فعال کردن مجرمان سایبری برای راه‌اندازی حملات بسیار پیچیده و سریع تأکید می‌کند.

هنگامی که از آنها پرسیده شد، 40 درصد از پاسخ دهندگان (متخصصان امنیت سایبری) اظهار داشتند که در حال حاضر مشغول به کار هستند. ChatGPT برای نوشتن ایمیل، هم برای موارد استفاده شخصی و هم حرفه ای.

جای تعجب نیست که این استفاده به آن گسترش یابد مجرمان سایبری، زیرا ترکیب ایمیل یکی از رایج ترین کاربردهای آن است ChatGPT برای هکرها مهاجمان سایبری سوء استفاده می کنند ChatGPTقابلیت‌های این شرکت برای کمک به ایجاد حملات مخرب ایمیل تجاری (BEC) و سازماندهی کمپین‌های فیشینگ هدف‌مند دقیق.

دور زدن ChatGPT مانند چت بات ها - یک کار پیچیده نیست

در حالی که ربات های چت هوش مصنوعی پسندیدن ChatGPT دانش گسترده ای دارند و می توانند متنی را در مورد طیف گسترده ای از موضوعات تولید کنند، آنها در معرض محدودیت های خاصی برای جلوگیری از مسائل مختلف هستند.

این محدودیت‌ها به دلیل ماهیت داده‌های آموزشی و احتمال پاسخ‌های مضر یا نامناسب وجود دارد. این مقاله به بررسی چرایی آن می پردازد ChatGPT محدود شده است و تکنیک هایی را برای دور زدن این محدودیت ها ارائه می دهد.

با این حال، با چارچوب بندی سوالات با زمینه، اجتناب از عبارات مشکل ساز، و پرداختن به سناریوها از دیدگاه سوم شخص، کاربران اغلب می توانند پاسخ های مفیدتری دریافت کنند. علاوه بر این، کاربران می توانند با درخواست بخش های کوچکتر متن در یک زمان، محدودیت های کاراکتر را دور بزنند.

آیا هوش مصنوعی مولد می تواند قهرمان نجات باشد؟

در یک چشم‌انداز دیجیتالی که به سرعت در حال تحول است، تلاقی پتانسیل‌های مخرب هوش مصنوعی و پویایی در حال تغییر محیط‌های کاری دوردست و ترکیبی، نگرانی‌هایی را در مورد افزایش خطر حملات سایبری ایجاد کرده است.

با پراکندگی کارکنان در چندین دستگاه و کانال های ارتباطی، سازمان ها به طور فزاینده ای در برابر نقض های امنیتی آسیب پذیر هستند. برای مقابله با این تهدید، تقاضای فزاینده ای وجود دارد هوش مصنوعی مولد راه حل های امنیتی طراحی شده برای محافظت در برابر حملات سایبری پیشرفته مانند سازش ایمیل تجاری (BEC)، حملات زنجیره تامین، جعل هویت مدیران و کلاهبرداری های مالی.

راه‌حل‌های امنیتی مولد هوش مصنوعی در شناسایی تهدیدهایی که احساسات انسان را دستکاری می‌کنند، استفاده از تاکتیک‌هایی مانند ترس یا اعتماد برای انجام اقدامات سریع خوب هستند. با شبیه‌سازی این احساسات و رفتارهای انسانی در فرآیند شناسایی، راه‌حل‌های امنیتی مولد هوش مصنوعی دفاعی قوی در برابر آخرین تهدیدات سایبری ارائه می‌کنند.

یکی از بازیکنان قابل توجه در این زمینه SlashNext است. فناوری این شرکت در شناسایی، پیش‌بینی و توقف حملاتی مانند spear phishing، BEC و Smishing ماهر است که همگی از تکنیک‌های مهندسی اجتماعی ساعت صفر بهره‌برداری می‌کنند. این سیستم پیشرفته به‌طور یکپارچه در برنامه‌های ایمیل، تلفن همراه و پیام‌رسانی وب کار می‌کند و دفاعی چند جانبه ارائه می‌دهد.

به گفته SlashNext، راه‌حل‌های آن ترکیبی از پردازش زبان طبیعی، بینایی کامپیوتر، یادگیری ماشین، نمودارهای رابطه و زمینه‌سازی عمیق برای مقابله با حملات پیچیده پیام‌رسانی چند کاناله است.

این شرکت توانایی پیش‌بینی طیف گسترده‌ای از تهدیدات BEC تولید شده توسط هوش مصنوعی را با استفاده از فناوری‌های تقویت و شبیه‌سازی داده‌های هوش مصنوعی دارد.

این رویکرد به سیستم اجازه می دهد تا تهدیدات اصلی را ارزیابی کند و تغییرات متعددی را ایجاد کند و به طور موثر خود را برای شناسایی و خنثی کردن خطرات احتمالی آموزش دهد.

از آنجایی که سازمان ها با چالش های امنیت سایبری رو به رشد ناشی از تهدیدات مبتنی بر هوش مصنوعی دست و پنجه نرم می کنند، راه حل های امنیتی مولد هوش مصنوعی متحدان ارزشمندی در تلاش برای محافظت از داده های حساس و حفظ یکپارچگی دیجیتال هستند. آینده امنیت سایبری به طور فزاینده‌ای به این فناوری‌های نوآورانه متکی است و تضمین می‌کند که سازمان‌ها می‌توانند یک قدم جلوتر از مجرمان سایبری و تهدیدهای نوظهور باشند.

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.

مقالات بیشتر

کومار گاندارو