Giám đốc điều hành Gramener Anand S cảnh báo về rủi ro khi tin tưởng mù quáng vào LLM, những người ủng hộ kiến thức kiểu mẫu
Tóm lại
Trong một cuộc trò chuyện với Metaverse Post – Anand S, Giám đốc điều hành của Gramener nhấn mạnh những cạm bẫy tiềm ẩn của việc phụ thuộc quá nhiều vào LLM.
Với hàng trăm công cụ AI và ML đang bão hòa thị trường, tiềm năng đổi mới là vô hạn. Nhiều công ty khởi nghiệp đang nổi lên để giải quyết các thách thức của ngành, trong khi sự xuất hiện liên tục của các Mô hình Ngôn ngữ Lớn nâng cao mỗi tuần sẽ khuếch đại sức mạnh biến đổi của trí tuệ nhân tạo. Sự hội tụ công nghệ này đang định hình lại các ngành công nghiệp với khả năng vô tận.
Tuy nhiên, việc phát hành và sử dụng rộng rãi các mô hình ngôn ngữ mạnh mẽ như Gemini đặt ra những cân nhắc quan trọng về mặt đạo đức và thực tế, đồng thời yêu cầu chúng ta xem xét một câu hỏi – Liệu con người chúng ta có thể tin tưởng một cách mù quáng vào những mô hình như vậy không?
Trong một cuộc trò chuyện với Metaverse Post — Anand S, Giám đốc điều hành của công ty B2B SaaS có trụ sở tại Hoa Kỳ máy ép ngữa nhấn mạnh những cạm bẫy tiềm ẩn của việc phụ thuộc quá nhiều vào LLM như ChatGPT, cảnh báo rằng xu hướng này có thể sẽ tiếp tục tồn tại với những người mẫu mới nổi như Gemini.
“Ngay cả với dữ liệu đào tạo phù hợp, con người vẫn có thể mắc lỗi khi đi ra ngoài lĩnh vực chuyên môn của họ. Do đó, một mô hình ngôn ngữ lớn có tính ngoại suy hay nó đang nhớ lại những gì nó đã học được? Có một sự khác biệt rất lớn và nó đáng để thử nghiệm. Chúng tôi xây dựng sự tự tin thông qua trực giác bằng những tương tác lặp đi lặp lại với mọi người,” Anand nói. “Chúng tôi biết mình cần thăm dò để điều tra một người lạ và đó có lẽ là cách chúng tôi cũng nên tương tác với các mô hình ngôn ngữ lớn.”
Ví dụ, trong vụ kiện giới hạn của công ty Varghese và Southern Airlines, một luật sư đã trích dẫn giả thuyết ChatGPT-các trường hợp được tạo ra, dẫn đến việc thẩm phán trừng phạt luật sư, nhấn mạnh những rủi ro của việc sử dụng không có tính phê phán. Anand nhấn mạnh sự cần thiết phải thận trọng và xem xét kỹ lưỡng khi tận dụng các mô hình ngôn ngữ như vậy.
Hơn nữa, lĩnh vực này đòi hỏi một cơ chế phản hồi mạnh mẽ. ChatGPT khuyến khích phản hồi của người dùng thông qua nút thích/không thích đơn giản, cùng với tính năng nhập văn bản. Cách tiếp cận này thu thập những hiểu biết có giá trị về những gì hoạt động tốt và những gì không. Hệ thống phản hồi này có thể sẽ trở nên phổ biến hơn với việc sử dụng mô hình ngôn ngữ lớn, giúp cải thiện hiệu suất của họ.
Anand nói: “Việc giám sát từng đầu ra của LLM là không kinh tế lắm, nhưng việc có thể đánh dấu các lỗi tiềm ẩn là một đòn bẩy mạnh mẽ”. Metaverse Post.
“Điều thú vị là bản thân các mô hình ngôn ngữ lớn lại khá giỏi trong việc đánh giá các mô hình ngôn ngữ lớn khác. Vì vậy, thay vì chỉ sử dụng con người để giám sát đầu ra, chúng tôi có thể sử dụng kết hợp LLM và con người, cuối cùng LLM sẽ đảm nhận phần lớn vai trò của con người khi chúng phát triển,” ông nói thêm.
Kiến thức mẫu là con đường phía trước
Trong lĩnh vực LLM, một nguyên tắc quan trọng xuất hiện – càng tương tác nhiều thì sự hiểu biết càng sâu sắc. Khái niệm đơn giản này nhấn mạnh mối quan hệ giữa sự tham gia của người dùng và sự hiểu biết về các khả năng LLM, cuối cùng thúc đẩy việc sử dụng ngày càng tăng.
“Đó cũng là việc hiểu một LLM cụ thể nào tốt cho việc gì. Ví dụ: Tôi sẽ không sử dụng DALL-E để tạo biểu tượng vì nó tạo văn bản không hiệu quả. Nhưng nó làm rất tốt việc tạo ra các ý tưởng logo và thiết kế logo. Đây là một ví dụ về khả năng hiểu biết về mô hình được hình thành bằng cách sử dụng nhiều lần và do đó mang lại cho tôi defiAnand nói: “Tôi đã xác định được những lĩnh vực tin cậy mà trong đó tôi có thể sử dụng mô hình một cách hiệu quả hơn”.
Trong nỗ lực tích hợp cân bằng các mô hình ngôn ngữ như Gemini vào bối cảnh công nghệ của chúng ta, Anand đề xuất một số chiến lược. Thứ nhất, ông ủng hộ việc tương tác hàng ngày với các mô hình ngôn ngữ lớn, nuôi dưỡng thói quen hình thành theo thời gian. Tương tự như vậy, việc đảm bảo quyền truy cập phổ cập vào các công cụ này là rất quan trọng, đồng thời kêu gọi khuyến khích nhiều hơn trong việc sử dụng cá nhân. Anand lưu ý xu hướng hiện tại của các tổ chức chặn ChatGPT trên máy tính xách tay làm việc, nhấn mạnh sự cần thiết của giao tiếp hỗ trợ.
Ông đề xuất triển khai các cơ chế tổ chức để cung cấp quyền truy cập và khuyến khích thử nghiệm Mô hình ngôn ngữ (LLM) trong một môi trường.
“Cuối cùng, khi mọi người làm quen, họ sẽ hiểu nên tin tưởng vào cái gì, khi nào nên sử dụng và sử dụng nó như thế nào. Tăng cường sử dụng và khuyến khích tăng cường sử dụng là những chiến lược và sáng kiến giáo dục quan trọng nhất mà bất kỳ ai cũng có thể áp dụng,” Anand nói. Metaverse Post.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
Xem thêm bài viết
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
