网络犯罪分子使用 LLM 聊天机器人进行网络钓鱼：生成式人工智能如何应对
简单来说
自推出以来 ChatGPT 2022 年底，恶意网络钓鱼电子邮件大幅增加，增幅达 1,265%。
一些最常见的用户 大型语言模型 (LLM) 聊天机器人 是网络犯罪分子，揭露实时威胁情报提供商 下一个斜线 报告。 但是，使用 LLM 聊天机器人的目的到底是什么？
根据题为“2023 年网络钓鱼状况网络犯罪分子正在利用该工具帮助编写商业电子邮件泄露 (BEC) 攻击，并系统地发起高度针对性的网络钓鱼攻击。
自推出以来 OpenAI“ ChatGPT 2022 年底，恶意网络钓鱼电子邮件大幅增加，增幅高达 1,265%。
值得注意的是，这些网络钓鱼电子邮件中有 68% 采用基于文本的商业电子邮件泄露 (BEC) 策略。 这一令人震惊的趋势凸显了人们对聊天机器人和越狱在促进网络钓鱼攻击快速扩散方面所扮演的角色的日益担忧，因为聊天机器人和越狱使网络犯罪分子能够发起高度复杂和迅速的攻击，从而促进网络钓鱼攻击的快速扩散。
当被问及时，40% 的受访者（网络安全专业人员）表示他们目前雇用 ChatGPT 用于撰写电子邮件，适用于个人和专业用例。
毫不奇怪，这种利用扩展到 网络罪犯，因为电子邮件撰写是最流行的应用之一 ChatGPT 对于黑客来说。 网络攻击者利用 ChatGPT能够帮助发起商业电子邮件泄露 (BEC) 攻击和精心策划有针对性的网络钓鱼活动。
通过传递 ChatGPT 像聊天机器人一样 – 不是一个复杂的任务
而 人工智能聊天机器人 喜欢 ChatGPT 拥有广泛的知识并可以生成广泛主题的文本，但它们受到某些限制以防止出现各种问题。
这些限制的存在是由于其训练数据的性质以及有害或不适当反应的可能性。 本文探讨了原因 ChatGPT 受到限制，并且它提供了解决这些限制的技术。
然而，通过结合上下文构建问题、避免使用有问题的短语以及从第三人称视角解决场景，用户通常可以获得更有帮助的答复。 此外，用户可以通过一次请求较小部分的文本来绕过字符限制。
生成式人工智能能成为救援英雄吗？
在快速发展的数字环境中，人工智能的恶意潜力与远程和混合工作环境不断变化的动态相结合，引发了人们对网络攻击风险不断升级的担忧。
由于员工分散在多种设备和通信渠道中，组织越来越容易受到安全漏洞的影响。 为了应对这一威胁，人们对 生成式人工智能 旨在防范高级网络攻击的安全解决方案，例如商业电子邮件泄露 (BEC)、供应链攻击、高管冒充和财务欺诈。
生成式人工智能安全解决方案擅长识别操纵人类情绪的威胁，利用恐惧或信任等策略来促使迅速采取行动。 通过在检测过程中模拟人类的情感和行为，生成式人工智能安全解决方案可以针对最新的网络威胁提供强大的防御。
SlashNext 是这一领域的一位著名参与者。 该公司的技术擅长检测、预测和阻止鱼叉式网络钓鱼、BEC 和诈骗等攻击，所有这些攻击都利用零时社会工程技术。 该先进系统可跨电子邮件、移动和网络消息应用程序无缝运行，提供多管齐下的防御。
据 SlashNext 称，其解决方案结合了自然语言处理、计算机视觉、机器学习、关系图和深度上下文化，以应对复杂的多渠道消息攻击。
该公司有能力通过采用人工智能数据增强和克隆技术来预测人工智能生成的各种 BEC 威胁。
它补充说，这种方法允许系统评估核心威胁并产生大量变化，有效地训练自身以识别和阻止潜在风险。
随着组织努力应对人工智能驱动的威胁带来的日益增长的网络安全挑战，生成式人工智能安全解决方案是保护敏感数据和维护数字完整性的宝贵盟友。 网络安全的未来越来越依赖这些创新技术，确保组织能够领先网络犯罪分子和新出现的威胁一步。
免责声明
在与行 信托项目指南，请注意，本页提供的信息无意且不应被解释为法律、税务、投资、财务或任何其他形式的建议。 重要的是，仅投资您可以承受损失的金额，并在有任何疑问时寻求独立的财务建议。 如需了解更多信息，我们建议您参阅条款和条件以及发行人或广告商提供的帮助和支持页面。 MetaversePost 致力于提供准确、公正的报告，但市场状况如有变更，恕不另行通知。
关于作者
Kumar 是一位经验丰富的科技记者，专注于人工智能/机器学习、营销技术以及加密货币、区块链和人工智能等新兴领域的动态交叉领域。 NFTs。 Kumar 拥有超过 3 年的行业经验，在撰写引人入胜的叙述、进行富有洞察力的采访和提供全面的见解方面建立了良好的记录。 Kumar 的专长在于制作高影响力的内容，包括为著名行业平台制作文章、报告和研究出版物。 库马尔拥有结合技术知识和讲故事的独特技能，擅长以清晰且引人入胜的方式向不同的受众传达复杂的技术概念。
更多文章
Kumar 是一位经验丰富的科技记者，专注于人工智能/机器学习、营销技术以及加密货币、区块链和人工智能等新兴领域的动态交叉领域。 NFTs。 Kumar 拥有超过 3 年的行业经验，在撰写引人入胜的叙述、进行富有洞察力的采访和提供全面的见解方面建立了良好的记录。 Kumar 的专长在于制作高影响力的内容，包括为著名行业平台制作文章、报告和研究出版物。 库马尔拥有结合技术知识和讲故事的独特技能，擅长以清晰且引人入胜的方式向不同的受众传达复杂的技术概念。
