Hộp đen AI: Nó là gì và hoạt động như thế nào
Tóm lại
Hộp đen AI là các hệ thống hoạt động mà người dùng không biết, chẳng hạn như học máy, bao gồm một thuật toán, dữ liệu huấn luyện và một mô hình.
Hộp đen rất quan trọng đối với bảo mật phần mềm, vì chúng có thể được sử dụng để thiết kế ngược phần mềm và khám phá các lỗi để khai thác, đồng thời có thể được sử dụng bởi người kiểm tra phần mềm và tin tặc để tìm ra điểm yếu.
Đối với nhiều người, thuật ngữ “hộp đen” dùng để chỉ các thiết bị ghi âm trong máy bay có giá trị cho việc khám nghiệm tử thi nếu điều không tưởng xảy ra. Đối với những người khác, đó là một nhà hát nhỏ, được trang bị tối thiểu. Tuy nhiên, hộp đen cũng rất quan trọng đối với trí tuệ nhân tạo.
hộp đen AI là những hệ thống hoạt động mà người dùng không hề hay biết. Bạn có thể cung cấp cho chúng đầu vào và nhận đầu ra, nhưng bạn không thể kiểm tra mã của hệ thống hoặc logic được sử dụng để tạo đầu ra.
học máy là loại trí tuệ nhân tạo chiếm ưu thế. Nó bao gồm một thuật toán hoặc một tập hợp các thuật toán, dữ liệu huấn luyện và một mô hình.
- Một thuật toán là một chuỗi các thủ tục. Sau khi được đào tạo, một thuật toán có thể nhận ra các mẫu đã biết.
- Đào tạo dữ liệu là tập dữ liệu được sử dụng để đào tạo mô hình AI.
- Về bản chất, thuật toán học máy là một quy trình được thiết kế để học từ một số lượng lớn các ví dụ và tạo ra một mô hình học máy. Một mô hình học máy là những gì mọi người sử dụng sau khi nó được tạo ra.
Một thuật toán nhận dạng hình ảnh có thể được lập trình để khám phá xu hướng hình ảnh và dữ liệu đào tạo có thể đại diện cho ảnh của những chú chó. Bạn sẽ cung cấp cho nó một hình ảnh làm đầu vào và lấy nó làm đầu ra cho dù và ở đâu trong hình ảnh, một tập hợp pixel xuất hiện để đại diện cho một con chó.
Vì các thuật toán học máy được công khai nên việc ẩn hộp đen sẽ kém hiệu quả hơn. Vì các kỹ sư AI thường che giấu tài sản trí tuệ của họ trong các hộp đen nên họ thường đặt mô hình vào một hộp đen. Một cách khác các nhà phát triển phần mềm giấu dữ liệu bằng cách che khuất dữ liệu được sử dụng để huấn luyện mô hình – nói cách khác, đặt dữ liệu huấn luyện vào một hộp đen.
Thật khó để hiểu các thuật toán hộp đen hoạt động như thế nào, nhưng điều đó không hoàn toàn rõ ràng.
Hộp thủy tinh đề cập đến một hệ thống có thuật toán, dữ liệu đào tạo và mô hình có thể truy cập công khai, trong khi hộp đen đề cập đến hệ thống có thuật toán, dữ liệu đào tạo và mô hình được che giấu. Thuật ngữ hộp đen thường được sử dụng khi các nhà nghiên cứu mô tả ngay cả những khía cạnh này của hệ thống AI là màu đen.
Thiếu kiến thức về cách các thuật toán học máy, đặc biệt là thuật toán học sâu, chức năng. Các nhà nghiên cứu đang phát triển các thuật toán, mặc dù không nhất thiết phải là hộp kính, nhưng con người có thể hiểu rõ hơn.
Tại sao hộp đen AI lại quan trọng?
Không phải lúc nào cũng nên tin tưởng vào các mô hình và thuật toán học máy hộp đen. Điều gì sẽ xảy ra nếu một mô hình học máy xác định xem bạn có đủ điều kiện vay vốn kinh doanh từ ngân hàng từ chối bạn hay không? Bạn muốn biết để có thể khiếu nại quyết định tốt hơn hoặc thay đổi hoàn cảnh của mình để tăng cơ hội nhận được khoản vay vào lần tiếp theo.
Giữ phần mềm trong hộp đen được cho là có thể ngăn chặn tin tặc kiểm tra phần mềm và do đó, làm cho phần mềm trở nên an toàn. Tuy nhiên, tin tặc có thể kỹ sư đảo ngược phần mềm – nghĩa là nghiên cứu cách thức hoạt động chặt chẽ của một phần mềm – và khám phá các lỗ hổng để khai thác. Hộp đen cũng có ý nghĩa quan trọng đối với bảo mật hệ thống phần mềm.
Người kiểm tra phần mềm và tin tặc có thiện chí có thể nhìn vào bên trong hộp kính được sử dụng để kiểm tra phần mềm để tìm điểm yếu, do đó cắt giảm các cuộc tấn công mạng.
Đọc thêm bài viết liên quan:
- NFT Hộp bí ẩn: Chúng là gì & Mua ở đâu
- Hơn 15 khóa học AI tốt nhất để học năm 2023: Miễn phí và trả phí
- Top 15 GPT-4 và GPT-3 Chatbots: Nói chuyện với AI, đặt câu hỏi
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
