Tội phạm mạng sử dụng Chatbot LLM để lừa đảo: AI sáng tạo có thể chống lại nó như thế nào
Tóm lại
Kể từ khi giới thiệu ChatGPT vào cuối năm 2022, số lượng email lừa đảo độc hại đã gia tăng đáng kể, với mức tăng 1,265%.
Một số người dùng phổ biến nhất của chatbot mô hình ngôn ngữ lớn (LLM) là tội phạm mạng, tiết lộ nhà cung cấp thông tin về mối đe dọa theo thời gian thực dấu gạch chéotiếp theo báo cáo. Nhưng, mục đích chính xác của việc sử dụng chatbot LLM là gì?
Theo báo cáo có tiêu đề 'Tình trạng lừa đảo năm 2023' Tội phạm mạng đang tận dụng công cụ này để giúp thực hiện các cuộc tấn công xâm phạm email doanh nghiệp (BEC) và khởi động một cách có hệ thống các cuộc tấn công lừa đảo có mục tiêu cao.
Kể từ khi giới thiệu OpenAI'S ChatGPT vào cuối năm 2022, số lượng email lừa đảo độc hại đã gia tăng đáng kể, với mức tăng đáng kinh ngạc là 1,265%.
Đáng chú ý, 68% trong số các email lừa đảo này sử dụng chiến thuật Lừa đảo Email Doanh nghiệp (BEC) dựa trên văn bản. Xu hướng đáng báo động này nhấn mạnh sự lo ngại ngày càng tăng về vai trò của chatbot và các cuộc bẻ khóa trong việc tạo điều kiện cho các cuộc tấn công lừa đảo gia tăng nhanh chóng bằng cách cho phép tội phạm mạng thực hiện các cuộc tấn công rất tinh vi và nhanh chóng.
Khi được hỏi, 40% số người được hỏi (chuyên gia an ninh mạng) cho biết họ hiện đang tuyển dụng ChatGPT để soạn email, cho cả trường hợp sử dụng cá nhân và chuyên nghiệp.
Không có gì đáng ngạc nhiên khi việc sử dụng này mở rộng đến tội phạm mạng, vì soạn email là một trong những ứng dụng phổ biến nhất của ChatGPT dành cho hacker. Những kẻ tấn công mạng khai thác ChatGPTkhả năng của nó để hỗ trợ thực hiện các cuộc tấn công Lừa đảo qua email doanh nghiệp (BEC) và điều phối các chiến dịch lừa đảo được nhắm mục tiêu tỉ mỉ.
Bỏ qua ChatGPT Giống như Chatbot – Không phải là một nhiệm vụ phức tạp
Trong khi Chatbot AI Lượt thích ChatGPT sở hữu kiến thức sâu rộng và có thể tạo văn bản về nhiều chủ đề khác nhau, họ phải tuân theo những hạn chế nhất định để ngăn chặn các vấn đề khác nhau.
Những hạn chế này được áp dụng do tính chất của dữ liệu đào tạo của họ và khả năng gây ra phản hồi có hại hoặc không phù hợp. Bài viết này tìm hiểu lý do tại sao ChatGPT bị hạn chế và nó cung cấp các kỹ thuật để khắc phục những hạn chế này.
Tuy nhiên, bằng cách đặt câu hỏi theo ngữ cảnh, tránh các cụm từ có vấn đề và giải quyết các tình huống từ góc nhìn của người thứ ba, người dùng thường có thể nhận được nhiều câu trả lời hữu ích hơn. Ngoài ra, người dùng có thể bỏ qua giới hạn ký tự bằng cách yêu cầu các phần văn bản nhỏ hơn mỗi lần.
AI sáng tạo có thể trở thành anh hùng giải cứu không?
Trong bối cảnh kỹ thuật số đang phát triển nhanh chóng, sự kết hợp giữa tiềm năng độc hại của AI và động lực thay đổi của môi trường làm việc từ xa và kết hợp đã làm dấy lên mối lo ngại về nguy cơ tấn công mạng ngày càng gia tăng.
Với việc nhân viên bị phân tán trên nhiều thiết bị và kênh liên lạc, các tổ chức ngày càng dễ bị vi phạm an ninh. Để chống lại mối đe dọa này, nhu cầu ngày càng tăng về trí tuệ nhân tạo các giải pháp bảo mật được thiết kế để bảo vệ chống lại các cuộc tấn công mạng nâng cao như Lừa đảo qua email doanh nghiệp (BEC), tấn công chuỗi cung ứng, mạo danh giám đốc điều hành và gian lận tài chính.
Các giải pháp bảo mật AI sáng tạo rất tốt trong việc xác định các mối đe dọa thao túng cảm xúc của con người, tận dụng các chiến thuật như sợ hãi hoặc tin tưởng để thúc đẩy hành động nhanh chóng. Bằng cách mô phỏng những cảm xúc và hành vi này của con người trong quá trình phát hiện, các giải pháp bảo mật AI tổng quát mang đến khả năng bảo vệ mạnh mẽ trước các mối đe dọa mạng mới nhất.
Một người chơi đáng chú ý trong lĩnh vực này là SlashNext. Công nghệ của công ty rất thành thạo trong việc phát hiện, dự đoán và ngăn chặn các cuộc tấn công như lừa đảo trực tuyến, BEC và Smishing, tất cả đều khai thác các kỹ thuật kỹ thuật xã hội XNUMX giờ. Hệ thống tiên tiến này hoạt động liền mạch trên các ứng dụng email, di động và nhắn tin trên web, mang đến khả năng phòng thủ đa hướng.
Theo SlashNext, các giải pháp của nó kết hợp xử lý ngôn ngữ tự nhiên, thị giác máy tính, học máy, biểu đồ mối quan hệ và bối cảnh hóa sâu để chống lại các cuộc tấn công nhắn tin đa kênh tinh vi.
Công ty có khả năng dự đoán một loạt các mối đe dọa BEC do AI tạo ra bằng cách sử dụng các công nghệ nhân bản và tăng cường dữ liệu AI.
Cách tiếp cận này cho phép hệ thống đánh giá các mối đe dọa cốt lõi và tạo ra nhiều biến thể, tự đào tạo một cách hiệu quả để nhận biết và ngăn chặn các rủi ro tiềm ẩn.
Khi các tổ chức phải vật lộn với những thách thức an ninh mạng ngày càng gia tăng do các mối đe dọa do AI gây ra, các giải pháp bảo mật AI tổng quát là những đồng minh vô giá trong nỗ lực bảo vệ dữ liệu nhạy cảm và duy trì tính toàn vẹn kỹ thuật số. Tương lai của an ninh mạng ngày càng phụ thuộc vào những công nghệ tiên tiến này, đảm bảo rằng các tổ chức có thể đi trước tội phạm mạng và các mối đe dọa mới nổi một bước.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
Xem thêm bài viết
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
