Deci và Qualcomm hợp tác để dân chủ hóa AI sáng tạo trong các ngành công nghiệp
Tóm lại
Deci đã công bố hợp tác với Qualcomm Technologies để phát triển các mô hình AI tổng hợp tiên tiến cho Qualcomm Cloud AI 100.
Công ty giải pháp AI Deci đã công bố hợp tác với Qualcomm Technologies để phát triển các giải pháp tiên tiến trí tuệ nhân tạo mô hình cho Qualcomm Cloud AI 100. Sự hợp tác này nhằm mục đích giúp AI dễ tiếp cận hơn với nhiều ứng dụng hơn và dân chủ hóa sức mạnh của AI tổng hợp cho các nhà phát triển.
Bằng cách điều chỉnh các mô hình dành riêng cho giải pháp Qualcomm Cloud AI 100, các công ty mong muốn mở khóa khả năng xử lý AI theo thời gian thực, tiết kiệm chi phí. Cloud AI 100 là giải pháp của Qualcomm được xây dựng để tối ưu hóa hiệu suất cho hoạt động suy luận AI tổng hợp bao gồm mô hình ngôn ngữ lớn (LLM).
Yonatan Geifman, Giám đốc điều hành và đồng sáng lập của Deci nói: “Một số thách thức chính trong bối cảnh AI hiện đại liên quan đến khả năng tính toán sẵn có để xử lý các mô hình khổng lồ này và chi phí lớn để vận hành chúng”. Metaverse Post. “Bằng cách tận dụng các mô hình của Deci, người dùng Qualcomm có thể tận dụng tối đa khoản đầu tư vào phần cứng của mình bằng các mô hình đảm bảo mức sử dụng phần cứng tối đa đồng thời mang lại tốc độ và độ chính xác cao.”
Deci sẽ hợp tác với Qualcomm Technologies để ra mắt hai mẫu máy là DeciCoder-6B và DeciDiffusion 2.0.
Theo thông báo, DeciCoder-6B là mô hình 6 tỷ tham số để tạo mã hỗ trợ tám ngôn ngữ lập trình và hoạt động tốt hơn các mô hình đã thiết lập trong khi vẫn duy trì bộ nhớ và hiệu quả tính toán.
Mặt khác, DeciDiffusion 2.0 là mô hình truyền bá văn bản thành hình ảnh với 732 triệu tham số, đặt ra các tiêu chuẩn mới bằng cách cung cấp hình ảnh chất lượng cao với tốc độ và hiệu quả cao hơn.
Điều gì làm nên sự khác biệt của mô hình AI của Deci
Khi đang sử dụng LLM trong các ứng dụng trong thế giới thực, điều quan trọng là phải tổ chức dữ liệu một cách hiệu quả trên các máy chủ đưa ra dự đoán. Mục đích chính là xử lý càng nhiều yêu cầu của người dùng cùng lúc càng tốt. Việc tìm kiếm sự cân bằng phù hợp giữa lượng dữ liệu được xử lý cùng một lúc (kích thước lô) và thời gian cần thiết để nhận được phản hồi (độ trễ) phụ thuộc vào hai điều quan trọng: thiết kế của mô hình và khả năng của phần cứng được sử dụng để đưa ra dự đoán.
“DeciCoder-6B có số lượng tham số nhỏ hơn so với các phiên bản của nó, dẫn đến giảm dung lượng bộ nhớ và giải phóng thêm 2GB bộ nhớ so với các mô hình CodeGen 2.5 7B và 7 tỷ tham số. Mô hình này vượt trội về bộ nhớ và hiệu quả tính toán, cho phép mở rộng quy mô xử lý hàng loạt một cách hiệu quả mà không tiêu tốn nhiều bộ nhớ hoặc tăng độ trễ đáng kể,” Giám đốc điều hành của Deci, Yonatan Geifman cho biết.
Ông giải thích thêm, “DeciDiffusion 2.0 mang lại hình ảnh chất lượng cao với số lần lặp ít hơn 40% và sử dụng thành phần U-Net nhỏ hơn và nhanh hơn so với Stable Diffusion 1.5. Nó có thể tạo ra hình ảnh chất lượng cao với ít dấu thời gian khuếch tán hơn trong quá trình suy luận.”
Mô hình này cắt giảm một cách hiệu quả số bước cần thiết để tạo ra hình ảnh chất lượng từ 16 xuống chỉ còn 10.
Công nghệ tìm kiếm kiến trúc thần kinh của Deci – AutoNAC – đã đóng một vai trò quan trọng trong tính hiệu quả và khả năng mở rộng của các mô hình. Nó tự động hóa quá trình tìm kiếm theo cách tính toán hiệu quả, khác biệt với các phương pháp truyền thống. Công nghệ này cho phép Deci phát hành một loạt mô hình tiên tiến trong một khoảng thời gian ngắn, với mức chi tiêu cho điện toán phục vụ đào tạo thấp hơn so với các nhà phát triển mô hình ngôn ngữ lớn khác.
DeciCoder-6B: Độ chính xác phù hợp cho sự xuất sắc trong công nghiệp
Khả năng hỗ trợ tám ngôn ngữ lập trình của DeciCoder-6B giúp nó trở thành mô hình phù hợp cho nhiều ứng dụng. Geifman đã chia sẻ một số cách đa dạng mà mô hình có thể được tận dụng.
“Trong lĩnh vực phát triển phần mềm, nó có thể hỗ trợ tạo mã và hoàn thiện mã, giảm đáng kể thời gian phát triển và nâng cao năng suất. Hơn nữa, DeciCoder-6B có thể được sử dụng để dạy lập trình, phục vụ nhiều ngôn ngữ và mức độ khó khác nhau. Học sinh có thể sử dụng nó để kiểm tra bài tập của mình và như một hướng dẫn giải pháp,” Geifman của Deci nói. Metaverse Post.
Ông cho biết thêm: “Ngoài ra, trong lĩnh vực an ninh mạng, mô hình có thể được tinh chỉnh để hỗ trợ viết và phân tích các tập lệnh để quét lỗ hổng, với khả năng tự động kiểm tra bảo mật trên nhiều môi trường lập trình khác nhau”.
Sự hợp tác giữa Deci và Qualcomm Công nghệ đánh dấu một bước quan trọng hướng tới dân chủ hóa sức mạnh của Generative AI. Với các mô hình được tối ưu hóa, công nghệ hiệu quả và cam kết cởi mở, mối quan hệ hợp tác này nhằm mục đích trao quyền cho các nhà phát triển và các ngành công nghiệp trên toàn thế giới bằng các giải pháp AI dễ tiếp cận và tiết kiệm chi phí.
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
Xem thêm bài viết
Kumar là một Nhà báo Công nghệ giàu kinh nghiệm với chuyên môn về các lĩnh vực giao thoa năng động giữa AI/ML, công nghệ tiếp thị và các lĩnh vực mới nổi như tiền điện tử, chuỗi khối và NFTS. Với hơn 3 năm kinh nghiệm trong ngành, Kumar đã lập được thành tích đã được chứng minh trong việc tạo ra những câu chuyện hấp dẫn, thực hiện các cuộc phỏng vấn sâu sắc và đưa ra những hiểu biết toàn diện. Chuyên môn của Kumar nằm ở việc sản xuất nội dung có tác động cao, bao gồm các bài báo, báo cáo và ấn phẩm nghiên cứu cho các nền tảng công nghiệp nổi bật. Với bộ kỹ năng độc đáo kết hợp giữa kiến thức kỹ thuật và cách kể chuyện, Kumar vượt trội trong việc truyền đạt các khái niệm công nghệ phức tạp tới nhiều đối tượng khác nhau một cách rõ ràng và hấp dẫn.
