피싱에 LLM 챗봇을 사용하는 사이버 범죄자: 생성 AI가 이에 대응하는 방법
요컨대
도입 이후 ChatGPT 2022년 말에는 악성 피싱 이메일이 1,265% 증가하는 등 상당한 급증이 관찰되었습니다.
가장 일반적인 사용자 중 일부는 LLM(대형 언어 모델) 챗봇 사이버 범죄자이며 실시간 위협 인텔리전스 제공업체를 밝힙니다. 슬래시 다음 보고서. 그렇다면 LLM 챗봇을 사용하는 목적은 정확히 무엇입니까?
'라는 제목의 보고서에 따르면2023년 피싱 현황사이버 범죄자들은 이 도구를 활용하여 BEC(Business Email Compromise) 공격을 작성하고 고도로 표적화된 피싱 공격을 체계적으로 실행하고 있습니다.
도입 이후 OpenAI의 ChatGPT 2022년 말에는 악성 피싱 이메일이 1,265%나 급증하는 등 상당한 급증이 관찰되었습니다.
특히 이러한 피싱 이메일 중 68%는 텍스트 기반 BEC(Business Email Compromise) 전술을 사용합니다. 이러한 놀라운 추세는 사이버 범죄자가 매우 정교하고 신속한 공격을 개시할 수 있게 함으로써 피싱 공격의 급속한 확산을 촉진하는 챗봇과 탈옥의 역할에 대한 우려가 커지고 있음을 강조합니다.
질문에 응답자(사이버 보안 전문가) 중 40%가 현재 고용 상태라고 답했습니다. ChatGPT 개인 및 직업적 사용 사례 모두를 위한 이메일 작성에 사용됩니다.
이러한 활용이 다음으로까지 확장된다는 것은 놀라운 일이 아닙니다. 사이버 범죄자, 이메일 작성은 가장 널리 사용되는 애플리케이션 중 하나이기 때문에 ChatGPT 해커를 위해. 사이버 공격자는 악용 ChatGPTBEC(Business Email Compromise) 공격을 만들고 정밀하게 표적화된 피싱 캠페인을 조율하는 데 도움을 주는 의 기능입니다.
우회 ChatGPT 챗봇처럼 – 복잡한 작업이 아닙니다
DaVinci에는 AI 챗봇 처럼 ChatGPT 광범위한 지식을 보유하고 광범위한 주제에 대한 텍스트를 생성할 수 있지만 다양한 문제를 방지하기 위해 특정 제한이 적용됩니다.
이러한 제한은 교육 데이터의 특성과 해롭거나 부적절한 대응의 가능성으로 인해 적용됩니다. 이 기사에서는 이유를 살펴봅니다. ChatGPT 제한되어 있으며 이러한 제한 사항을 해결하는 기술을 제공합니다.
그러나 상황에 맞게 질문을 구성하고, 문제가 있는 문구를 피하고, 제XNUMX자의 관점에서 시나리오를 다루면 사용자가 더 유용한 답변을 얻을 수 있는 경우가 많습니다. 또한 사용자는 한 번에 더 작은 부분의 텍스트를 요청하여 문자 제한을 우회할 수 있습니다.
제너레이티브 AI가 구조 영웅이 될 수 있을까?
빠르게 진화하는 디지털 환경에서 AI의 악의적인 잠재력과 원격 및 하이브리드 작업 환경의 변화하는 역학이 결합되면서 사이버 공격의 위험이 증가한다는 우려가 제기되었습니다.
직원이 여러 장치와 통신 채널에 분산되어 있기 때문에 조직은 보안 위반에 점점 더 취약해지고 있습니다. 이러한 위협에 대응하기 위한 수요가 증가하고 있습니다. 생성 적 AI BEC(Business Email Compromise), 공급망 공격, 경영진 사칭, 금융 사기 등 지능형 사이버 공격으로부터 보호하도록 설계된 보안 솔루션입니다.
생성적 AI 보안 솔루션은 인간의 감정을 조작하는 위협을 식별하고 두려움이나 신뢰와 같은 전술을 활용하여 신속한 조치를 취하는 데 능숙합니다. 생성적 AI 보안 솔루션은 탐지 프로세스에서 이러한 인간의 감정과 행동을 시뮬레이션함으로써 최신 사이버 위협에 대한 강력한 방어 기능을 제공합니다.
이 분야에서 주목할만한 선수 중 하나는 SlashNext입니다. 이 회사의 기술은 제로아워 사회 공학 기술을 악용하는 스피어 피싱, BEC, 스미싱과 같은 공격을 탐지, 예측 및 차단하는 데 능숙합니다. 이 고급 시스템은 이메일, 모바일 및 웹 메시징 애플리케이션 전반에서 원활하게 작동하여 다각적인 방어 기능을 제공합니다.
SlashNext에 따르면 해당 솔루션은 자연어 처리, 컴퓨터 비전, 기계 학습, 관계 그래프 및 심층 상황화를 결합하여 정교한 다중 채널 메시징 공격에 대응합니다.
이 회사는 AI 데이터 증강 및 복제 기술을 사용하여 AI가 생성하는 광범위한 BEC 위협을 예측할 수 있는 능력을 갖추고 있습니다.
이 접근 방식을 통해 시스템은 핵심 위협을 평가하고 다양한 변형을 생성하여 잠재적인 위험을 인식하고 방지하도록 자체적으로 효과적으로 훈련할 수 있다고 덧붙였습니다.
조직이 AI 기반 위협으로 인해 점점 커지는 사이버 보안 문제를 해결하기 위해 고군분투하는 가운데, 생성적 AI 보안 솔루션은 민감한 데이터를 보호하고 디지털 무결성을 유지하는 데 있어 귀중한 동맹입니다. 사이버 보안의 미래는 조직이 사이버 범죄와 새로운 위협보다 한 발 앞서 나갈 수 있도록 보장하는 이러한 혁신적인 기술에 점점 더 의존하고 있습니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
