LLM チャットボットをフィッシングに使用するサイバー犯罪者: 生成 AI でどのように対抗できるか
簡単に言えば
の導入以来 ChatGPT 2022 年後半には、悪意のあるフィッシング メールの大幅な急増が観察され、1,265% 増加しました。
最も一般的なユーザーの一部は、 大規模言語モデル (LLM) チャットボット はサイバー犯罪者、リアルタイム脅威インテリジェンスプロバイダーを明らかに スラッシュネクスト 報告。 しかし、LLM チャットボットを使用する目的は正確には何でしょうか?
「」と題された報告書によると、2023 年のフィッシングの現状サイバー犯罪者はこのツールを活用してビジネスメール侵害 (BEC) 攻撃を作成し、高度に標的を絞ったフィッシング攻撃を組織的に開始しています。
の導入以来 OpenAIさん ChatGPT 2022 年後半には、悪意のあるフィッシングメールの大幅な急増が観察され、1,265% という驚異的な増加となっています。
特に、これらのフィッシングメールの 68% はテキストベースのビジネス電子メール侵害 (BEC) 戦術を採用しています。 この憂慮すべき傾向は、サイバー犯罪者が高度に洗練された迅速な攻撃を開始できるようにすることで、フィッシング攻撃の急速な蔓延を促進するチャットボットやジェイルブレイクの役割についての懸念の高まりを浮き彫りにしています。
質問したところ、回答者の 40% (サイバーセキュリティ専門家) が、現在従業員を雇用していると回答しました。 ChatGPT 個人用と仕事用の両方の電子メール作成に。
この利用が次のような分野にまで及ぶことは驚くべきことではありません。 サイバー犯罪者、電子メール作成は最も一般的なアプリケーションの XNUMX つであるため、 ChatGPT ハッカー向け。 サイバー攻撃者による悪用 ChatGPTビジネス電子メール侵害 (BEC) 攻撃の作成と、綿密にターゲットを絞ったフィッシング キャンペーンの調整を支援する の機能。
バイパス ChatGPT チャットボットのように – 複雑なタスクではない
一方、 AIチャットボット ような ChatGPT 広範な知識を持ち、幅広いトピックに関するテキストを生成できますが、さまざまな問題を防ぐために一定の制限が課されます。
これらの制限は、トレーニング データの性質と有害または不適切な応答の可能性を考慮して設けられています。 この記事ではその理由を探ります ChatGPT は制限されており、これらの制限を回避する手法を提供します。
ただし、文脈に沿って質問を構成し、問題のあるフレーズを避け、第三者の視点からシナリオに対処することで、ユーザーは多くの場合、より有益な回答を得ることができます。 さらに、ユーザーは一度にテキストのより少ない部分を要求することで、文字数制限を回避できます。
生成 AI は救助のヒーローになれるでしょうか?
急速に進化するデジタル環境において、AI の悪意のある可能性とリモートおよびハイブリッド作業環境の変化する力学の融合により、サイバー攻撃のリスクの増大に関する懸念が生じています。
従業員が複数のデバイスや通信チャネルに分散しているため、組織はセキュリティ侵害に対してますます脆弱になっています。 この脅威に対抗するために、需要が高まっています。 generative AI ビジネス電子メール侵害 (BEC)、サプライ チェーン攻撃、経営幹部のなりすまし、金融詐欺などの高度なサイバー攻撃から保護するように設計されたセキュリティ ソリューション。
生成 AI セキュリティ ソリューションは、人間の感情を操作する脅威の特定に優れており、恐怖や信頼などの戦術を活用して迅速な行動を促します。 生成 AI セキュリティ ソリューションは、検出プロセスにおいて人間の感情や行動をシミュレートすることで、最新のサイバー脅威に対する堅牢な防御を提供します。
この分野で注目すべきプレーヤーの XNUMX つは SlashNext です。 同社のテクノロジーは、ゼロアワー ソーシャル エンジニアリング技術を悪用したスピア フィッシング、BEC、スミッシングなどの攻撃の検出、予測、阻止に優れています。 この高度なシステムは、電子メール、モバイル、Web メッセージング アプリケーション全体でシームレスに動作し、多面的な防御を提供します。
SlashNext によると、同社のソリューションは、自然言語処理、コンピューター ビジョン、機械学習、関係グラフ、ディープ コンテキスト化を組み合わせて、高度なマルチチャネル メッセージング攻撃に対抗します。
同社は、AI データ拡張およびクローン作成テクノロジーを採用することで、AI によって生成されるさまざまな BEC 脅威を予測する能力を備えています。
このアプローチにより、システムは核となる脅威を評価して多数のバリエーションを生成し、潜在的なリスクを認識して阻止するようにシステム自体を効果的に訓練できると付け加えた。
AI による脅威によってもたらされる、増え続けるサイバーセキュリティの課題に組織が取り組んでいる中、生成型 AI セキュリティ ソリューションは、機密データを保護し、デジタル整合性を維持するための貴重な味方です。 サイバーセキュリティの将来は、これらの革新的なテクノロジーへの依存度がますます高まっており、組織がサイバー犯罪や新たな脅威に対して一歩先を行くことができるようになります。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
より多くの記事
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
