November 03, 2023

อาชญากรไซเบอร์ใช้ LLM Chatbots เพื่อฟิชชิ่ง: Generative AI สามารถตอบโต้ได้อย่างไร

by กุมาร คานธารฟ

เผยแพร่: 03 พฤศจิกายน 2023 เวลา 7:42 น. อัปเดต: 03 พฤศจิกายน 2023 เวลา 7:43 น.

by วิคเตอร์ ดี

แก้ไขและตรวจสอบข้อเท็จจริง: 03 พฤศจิกายน 2023 เวลา 7:42 น

ในบทสรุป

ตั้งแต่การแนะนำของ ChatGPT ในช่วงปลายปี 2022 มีการตรวจพบอีเมลฟิชชิ่งที่เป็นอันตรายเพิ่มขึ้นอย่างมาก โดยเพิ่มขึ้น 1,265%

ผู้ใช้ทั่วไปบางส่วนของ แชทบอทโมเดลภาษาขนาดใหญ่ (LLM) เป็นอาชญากรไซเบอร์ เผยผู้ให้บริการข่าวกรองภัยคุกคามแบบเรียลไทม์ เฉือนต่อไป รายงาน. แต่จุดประสงค์ของการใช้แชทบอท LLM คืออะไร?

ตามรายงานเรื่อง 'สถานะของฟิชชิ่ง 2023อาชญากรไซเบอร์ใช้ประโยชน์จากเครื่องมือนี้เพื่อช่วยเขียนการโจมตีด้วยการประนีประนอมทางอีเมลธุรกิจ (BEC) และเปิดการโจมตีแบบฟิชชิ่งที่ตรงเป้าหมายอย่างเป็นระบบ

ตั้งแต่การแนะนำของ OpenAI's ChatGPT ในช่วงปลายปี 2022 มีการตรวจพบอีเมลฟิชชิ่งที่เป็นอันตรายเพิ่มขึ้นอย่างมาก โดยเพิ่มขึ้นถึง 1,265%

โดยเฉพาะอย่างยิ่ง 68% ของอีเมลฟิชชิ่งเหล่านี้ใช้กลยุทธ์ Business Email Compromise (BEC) แบบข้อความ แนวโน้มที่น่าตกใจนี้ตอกย้ำความกังวลที่เพิ่มขึ้นเกี่ยวกับบทบาทของแชทบอทและการเจลเบรกในการอำนวยความสะดวกในการโจมตีแบบฟิชชิ่งที่แพร่กระจายอย่างรวดเร็ว โดยทำให้อาชญากรไซเบอร์สามารถเปิดการโจมตีที่ซับซ้อนและรวดเร็วได้

เมื่อถูกถาม 40% ของผู้ตอบแบบสอบถาม (ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์) ระบุว่าพวกเขากำลังจ้างงานอยู่ในปัจจุบัน ChatGPT สำหรับการเขียนอีเมลทั้งเพื่อการใช้งานส่วนตัวและทางวิชาชีพ

ไม่น่าแปลกใจเลยที่การใช้งานนี้ขยายไปถึง อาชญากรไซเบอร์เนื่องจากการเขียนอีเมลเป็นหนึ่งในแอปพลิเคชันที่แพร่หลายมากที่สุด ChatGPT สำหรับแฮกเกอร์ ผู้โจมตีทางไซเบอร์แสวงหาผลประโยชน์ ChatGPTความสามารถของ Business Email Compromise (BEC) เพื่อช่วยในการสร้างการโจมตีแบบ Business Email Compromise (BEC) และการจัดการแคมเปญฟิชชิ่งที่กำหนดเป้าหมายอย่างพิถีพิถัน

การแยก ChatGPT เช่นเดียวกับแชทบอท – ไม่ใช่งานที่ซับซ้อน

ในขณะที่ AI แชทบอท กดไลก์ ChatGPT มีความรู้กว้างขวางและสามารถสร้างข้อความในหัวข้อต่างๆ ได้หลากหลาย โดยมีข้อจำกัดบางประการเพื่อป้องกันปัญหาต่างๆ

ข้อจำกัดเหล่านี้เกิดขึ้นเนื่องจากลักษณะของข้อมูลการฝึกอบรมและศักยภาพในการตอบสนองที่เป็นอันตรายหรือไม่เหมาะสม บทความนี้จะสำรวจว่าทำไม ChatGPT ถูกจำกัด และมีเทคนิคในการแก้ไขข้อจำกัดเหล่านี้

อย่างไรก็ตาม โดยการตีกรอบคำถามด้วยบริบท การหลีกเลี่ยงวลีที่เป็นปัญหา และการจัดการสถานการณ์จากมุมมองของบุคคลที่สาม ผู้ใช้มักจะได้รับคำตอบที่เป็นประโยชน์มากขึ้น นอกจากนี้ ผู้ใช้สามารถข้ามขีดจำกัดอักขระได้ด้วยการขอข้อความส่วนเล็กๆ ในแต่ละครั้ง

Generative AI สามารถเป็นฮีโร่กู้ภัยได้หรือไม่?

ในโลกดิจิทัลที่มีการพัฒนาอย่างรวดเร็ว การรวมตัวกันของศักยภาพที่เป็นอันตรายของ AI และการเปลี่ยนแปลงของสภาพแวดล้อมการทำงานระยะไกลและไฮบริด ทำให้เกิดความกังวลเกี่ยวกับความเสี่ยงที่เพิ่มขึ้นของการโจมตีทางไซเบอร์

เนื่องจากพนักงานกระจายตัวไปตามอุปกรณ์และช่องทางการสื่อสารที่หลากหลาย องค์กรต่างๆ จึงเสี่ยงต่อการละเมิดความปลอดภัยมากขึ้น เพื่อตอบโต้ภัยคุกคามนี้ จึงมีความต้องการเพิ่มมากขึ้น AI กำเนิด โซลูชันการรักษาความปลอดภัยที่ออกแบบมาเพื่อป้องกันการโจมตีทางไซเบอร์ขั้นสูง เช่น Business Email Compromise (BEC) การโจมตีในห่วงโซ่อุปทาน การแอบอ้างเป็นผู้บริหาร และการฉ้อโกงทางการเงิน

โซลูชันการรักษาความปลอดภัย AI เจนเนอเรชั่นสามารถระบุภัยคุกคามที่บงการอารมณ์ของมนุษย์ได้ดี โดยใช้ประโยชน์จากกลยุทธ์ เช่น ความกลัวหรือความไว้วางใจ เพื่อกระตุ้นให้ดำเนินการอย่างรวดเร็ว ด้วยการจำลองอารมณ์และพฤติกรรมของมนุษย์เหล่านี้ในกระบวนการตรวจจับ โซลูชันการรักษาความปลอดภัย AI เจนเนอเรชั่น จึงให้การป้องกันที่แข็งแกร่งต่อภัยคุกคามทางไซเบอร์ล่าสุด

ผู้เล่นที่โดดเด่นคนหนึ่งในสาขานี้คือ SlashNext เทคโนโลยีของบริษัทเชี่ยวชาญในการตรวจจับ คาดการณ์ และระงับการโจมตี เช่น ฟิชชิ่งแบบหอก BEC และ Smishing ซึ่งทั้งหมดนี้ใช้ประโยชน์จากเทคนิควิศวกรรมสังคมแบบ Zero-hour ระบบขั้นสูงนี้ทำงานได้อย่างราบรื่นผ่านแอปพลิเคชันการรับส่งข้อความทางอีเมล มือถือ และเว็บ โดยให้การป้องกันแบบหลายทาง

จากข้อมูลของ SlashNext โซลูชันของบริษัทผสมผสานการประมวลผลภาษาธรรมชาติ คอมพิวเตอร์วิทัศน์ การเรียนรู้ของเครื่อง กราฟความสัมพันธ์ และการสร้างบริบทเชิงลึก เพื่อต่อต้านการโจมตีข้อความหลายช่องทางที่ซับซ้อน

บริษัทมีความสามารถในการคาดการณ์ภัยคุกคาม BEC ที่สร้างโดย AI มากมาย โดยการใช้เทคโนโลยีการเพิ่มข้อมูล AI และการโคลนนิ่ง

แนวทางนี้ช่วยให้ระบบสามารถประเมินภัยคุกคามหลักและสร้างรูปแบบต่างๆ มากมาย พร้อมฝึกฝนตัวเองอย่างมีประสิทธิภาพให้รับรู้และป้องกันความเสี่ยงที่อาจเกิดขึ้น

ในขณะที่องค์กรต่างๆ ต่อสู้กับความท้าทายด้านความปลอดภัยทางไซเบอร์ที่เพิ่มขึ้นเรื่อยๆ ซึ่งเกิดจากภัยคุกคามที่ขับเคลื่อนด้วย AI โซลูชันการรักษาความปลอดภัย AI เจนเนอเรชั่นจึงเป็นพันธมิตรที่ทรงคุณค่าในภารกิจเพื่อปกป้องข้อมูลที่ละเอียดอ่อนและรักษาความสมบูรณ์ทางดิจิทัล อนาคตของการรักษาความปลอดภัยทางไซเบอร์นั้นขึ้นอยู่กับเทคโนโลยีที่เป็นนวัตกรรมเหล่านี้มากขึ้น ทำให้มั่นใจได้ว่าองค์กรต่างๆ จะสามารถก้าวนำหน้าอาชญากรไซเบอร์และภัยคุกคามที่เกิดขึ้นใหม่ได้หนึ่งก้าว

คีย์เวิร์ด:

ข้อจำกัดความรับผิดชอบ

สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า

เกี่ยวกับผู้เขียน

Kumar เป็นนักข่าวเทคโนโลยีที่มีประสบการณ์ โดยมีความเชี่ยวชาญเฉพาะด้านในการผสมผสานแบบไดนามิกของ AI/ML เทคโนโลยีการตลาด และสาขาเกิดใหม่ เช่น คริปโต บล็อกเชน และ NFTส. ด้วยประสบการณ์กว่า 3 ปีในอุตสาหกรรมนี้ Kumar ได้สร้างผลงานที่ได้รับการพิสูจน์แล้วในด้านการสร้างสรรค์เรื่องราวที่น่าสนใจ การสัมภาษณ์เชิงลึก และการนำเสนอข้อมูลเชิงลึกที่ครอบคลุม ความเชี่ยวชาญของ Kumar อยู่ที่การผลิตเนื้อหาที่มีผลกระทบสูง รวมถึงบทความ รายงาน และสิ่งพิมพ์วิจัยสำหรับแพลตฟอร์มอุตสาหกรรมที่โดดเด่น ด้วยชุดทักษะเฉพาะตัวที่ผสมผสานความรู้ทางเทคนิคและการเล่าเรื่อง Kumar มีความเป็นเลิศในการสื่อสารแนวคิดทางเทคโนโลยีที่ซับซ้อนไปยังผู้ชมที่หลากหลายในลักษณะที่ชัดเจนและมีส่วนร่วม

บทความอื่น ๆ

กุมาร คานธารฟ