網路犯罪分子使用 LLM 聊天機器人進行網路釣魚：生成式人工智慧如何應對
簡單來說
自推出以來 ChatGPT 2022 年底，惡意網路釣魚電子郵件大幅增加，增幅達 1,265%。
一些最常見的用戶 大型語言模型 (LLM) 聊天機器人 是網路犯罪分子，揭露即時威脅情報提供者 下一個斜線 報告。 但是，使用 LLM 聊天機器人的目的到底是什麼呢？
根據題為“2023 年網路釣魚狀況網路犯罪分子正在利用該工具來幫助編寫商業電子郵件洩漏 (BEC) 攻擊，並系統地發動高度針對性的網路釣魚攻擊。
自推出以來 OpenAI“ ChatGPT 2022 年底，惡意網路釣魚電子郵件大幅增加，增幅高達 1,265%。
值得注意的是，這些網路釣魚電子郵件中有 68% 採用基於文字的商業電子郵件洩漏 (BEC) 策略。 這一令人震驚的趨勢凸顯了人們對聊天機器人和越獄在促進網路釣魚攻擊快速擴散方面所扮演的角色的日益擔憂，因為聊天機器人和越獄使網路犯罪分子能夠發動高度複雜和迅速的攻擊，從而促進網路釣魚攻擊的快速擴散。
當被問及時，40% 的受訪者（網路安全專業人員）表示他們目前僱用 ChatGPT 用於撰寫電子郵件，適用於個人和專業用例。
毫不奇怪，這種利用擴展到 網絡罪犯，因為電子郵件撰寫是最受歡迎的應用程式之一 ChatGPT 對於駭客來說。 網路攻擊者利用 ChatGPT能夠協助發動商業電子郵件外洩 (BEC) 攻擊和精心策劃有針對性的網路釣魚活動。
通過傳遞 ChatGPT 像聊天機器人 – 不是一個複雜的任務
而 人工智能聊天機器人 点讚 ChatGPT 擁有廣泛的知識並可以產生廣泛主題的文本，但它們受到一定的限制以防止各種問題。
這些限制的存在是由於其訓練資料的性質以及有害或不適當反應的可能性。 本文探討了原因 ChatGPT 受到限制，並且它提供了解決這些限制的技術。
然而，透過結合上下文構建問題、避免使用有問題的短語以及從第三人稱視角解決場景，用戶通常可以獲得更有幫助的答案。 此外，用戶可以透過一次請求較小部分的文字來繞過字元限制。
生成式人工智慧能成為救援英雄嗎？
在快速發展的數位環境中，人工智慧的惡意潛力與遠端和混合工作環境不斷變化的動態相結合，引發了人們對網路攻擊風險不斷升級的擔憂。
由於員工分散在多種設備和通訊管道中，組織越來越容易受到安全漏洞的影響。 為了應對這項威脅，人們對 生成AI 旨在防範進階網路攻擊的安全解決方案，例如商業電子郵件外洩 (BEC)、供應鏈攻擊、高階主管冒充和財務詐欺。
生成式人工智慧安全解決方案擅長識別操縱人類情緒的威脅，利用恐懼或信任等策略來促使迅速採取行動。 透過在偵測過程中模擬人類的情感和行為，生成式人工智慧安全解決方案可以針對最新的網路威脅提供強大的防禦。
SlashNext 是這一領域的一位著名參與者。 該公司的技術擅長偵測、預測和阻止魚叉式網路釣魚、BEC 和詐騙等攻擊，所有這些攻擊都利用零時社會工程技術。 此先進系統可跨電子郵件、行動和網路訊息應用程式無縫運行，提供多管齊下的防禦。
據 SlashNext 稱，其解決方案結合了自然語言處理、電腦視覺、機器學習、關係圖和深度情境化，以應對複雜的多通道訊息攻擊。
該公司有能力透過採用人工智慧資料增強和克隆技術來預測人工智慧產生的各種 BEC 威脅。
它補充說，這種方法允許系統評估核心威脅並產生大量變化，有效地訓練自己以識別和阻止潛在風險。
隨著組織努力應對人工智慧驅動的威脅帶來的日益增長的網路安全挑戰，生成式人工智慧安全解決方案是保護敏感資料和維護數位完整性的寶貴盟友。 網路安全的未來越來越依賴這些創新技術，確保組織能夠領先網路犯罪分子和新出現的威脅一步。
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Kumar 是一位經驗豐富的科技記者，專門研究人工智慧/機器學習、行銷技術以及加密貨幣、區塊鏈和人工智慧等新興領域的動態交叉領域。 NFTs。 Kumar 擁有超過 3 年的行業經驗，在撰寫引人入勝的敘述、進行富有洞察力的採訪和提供全面的見解方面建立了良好的記錄。 Kumar 的專長在於製作高影響力的內容，包括為著名產業平台製作文章、報告和研究出版物。 庫馬爾擁有結合技術知識和講故事的獨特技能，擅長以清晰且引人入勝的方式向不同的受眾傳達複雜的技術概念。
更多文章
Kumar 是一位經驗豐富的科技記者，專門研究人工智慧/機器學習、行銷技術以及加密貨幣、區塊鏈和人工智慧等新興領域的動態交叉領域。 NFTs。 Kumar 擁有超過 3 年的行業經驗，在撰寫引人入勝的敘述、進行富有洞察力的採訪和提供全面的見解方面建立了良好的記錄。 Kumar 的專長在於製作高影響力的內容，包括為著名產業平台製作文章、報告和研究出版物。 庫馬爾擁有結合技術知識和講故事的獨特技能，擅長以清晰且引人入勝的方式向不同的受眾傳達複雜的技術概念。
