Greg Osuri, Giám đốc điều hành của Akash Network, tuyên bố: ‘Ngành công nghệ sẽ hướng tới việc giảm sự phụ thuộc vào GPU vào năm 2024’
Tóm lại
Giám đốc điều hành của Overclock Labs và Akash Network, Greg Osuri khẳng định việc sử dụng các GPU nhỏ hơn sẽ định hình lại bối cảnh công nghệ vào năm 2024 và tạo ra các hiệu ứng gợn sóng.
Khi những công ty lớn trong ngành công nghệ tiếp tục thống trị thị trường với GPU mạnh mẽ, một sự thay đổi đáng chú ý theo hướng ít hơn chip mạnh mẽ dự kiến vào năm 2024. Động thái này, do nhu cầu về các giải pháp thay thế, dự kiến sẽ định hình lại cục diện, cho phép các công ty nhỏ hơn và các công ty khởi nghiệp đóng góp đáng kể vào quá trình phát triển đang diễn ra. bùng nổ AI.
Nhu cầu tính toán hiệu năng cao, đặc biệt là đào tạo các mô hình ngôn ngữ lớn, đã vượt quá khả năng của các nhà cung cấp truyền thống như AWS, Microsoft Azure và Google Cloud. Các doanh nghiệp nhỏ hơn gặp khó khăn trong việc đủ khả năng và dự trữ các tài nguyên hiệu suất cao này, dẫn đến mối quan tâm ngày càng tăng đối với các mạng phân tán và không cần cấp phép.
Trong một cuộc trò chuyện với Metaverse Post — Greg Osuri, Giám đốc điều hành của Overclock Labs và Mạng Akash, làm sáng tỏ các yếu tố thúc đẩy và những tác động tiềm tàng đằng sau xu hướng biến đổi này.
Nền tảng đám mây phi tập trung Akash Network gần đây đã công bố một bản nâng cấp đáng kể lên đám mây với Mainnet 8. Bản nâng cấp mới giới thiệu các cải tiến chính nhằm đơn giản hóa truy cập GPU và nâng cao trải nghiệm triển khai.
Greg Osuri xác định việc tối ưu hóa các yêu cầu về tập dữ liệu là yếu tố chính trong việc sử dụng các GPU nhỏ hơn.
Thích ứng Cấp thấp (LoRA) nổi lên như một kỹ thuật quan trọng trong sự thay đổi này. Việc sửa đổi chiến lược này tập trung vào các trọng số tới hạn, giảm số lượng tham số cần thiết và duy trì kiến thức được đào tạo trước ban đầu trong mô hình.
Greg Osuri của Akash Network cho biết: “Những người đang tìm kiếm giải pháp thay thế trong bối cảnh GPU bị siết chặt sẽ đạt được tiến bộ bằng cách sử dụng các yêu cầu tập dữ liệu ít chuyên sâu hơn, triển khai các kỹ thuật hiệu quả hơn như Thích ứng cấp thấp (LoRA) để đào tạo các mô hình ngôn ngữ và phân phối khối lượng công việc theo cách song song”. Metaverse Post. “Điều này liên quan đến việc triển khai các cụm chip cấp thấp hơn để hoàn thành các nhiệm vụ tương đương với số lượng A100 nhỏ hơn và H100S. Một kỷ nguyên mới của điện toán đám mây sẽ xuất hiện, một kỷ nguyên trong đó quyền lực được phân cấp và không nằm trong tay chỉ một số ít.”
Ông nói rằng việc song song hóa khối lượng công việc thông qua các cụm chip nhỏ hơn là một chiến lược khác. So với việc sử dụng GPU truyền thống, các cụm cung cấp khả năng mở rộng tốt hơn, tiết kiệm chi phí và khả năng phân bổ khối lượng công việc. Tuy nhiên, những thách thức bao gồm độ trễ truyền dữ liệu, vấn đề đồng bộ hóa, giới hạn khả năng mở rộng và chi phí liên lạc.
“Dữ liệu càng lớn thì chi phí liên lạc giữa các máy không được sắp xếp càng khó khăn và tốn kém hơn, vì vậy có thể sẽ cần các phương pháp/kỹ thuật hiệu quả hơn để vượt qua các rào cản giao tiếp tốn kém và đầy thách thức. Greg Osuri cho biết cần có sự kết hợp giữa phần cứng và phần mềm để triển khai thành công.
Sự gia tăng của các mạng phân tán và không cần cấp phép đang nổi lên như một yếu tố hỗ trợ quan trọng, trao quyền cho các tổ chức khai thác tiềm năng của các GPU nhỏ hơn và tăng mức sử dụng chip tổng thể.
Greg Osuri giải thích: “Để đạt được sự tối ưu hóa, các tổ chức nên xem xét các kích thước lô nhỏ hơn yêu cầu ít bộ nhớ GPU hơn, đào tạo trên một tập hợp con dữ liệu để gỡ lỗi, sử dụng các mô hình được đào tạo trước vì chúng yêu cầu ít tài nguyên tính toán hơn và phân phối đào tạo trên nhiều GPU”. “Điều này cho phép các công ty nhỏ hơn và các công ty khởi nghiệp đổi mới và đóng góp thực sự cho sự bùng nổ AI mà không cần phụ thuộc hoàn toàn vào các GPU mạnh nhất.”
Mạng phân tán có thể củng cố bối cảnh công nghệ
Greg Osuri của Akash Network hình dung rằng việc sử dụng GPU nhỏ hơn sẽ thúc đẩy một môi trường đa dạng và cạnh tranh hơn, giảm thiểu những lo ngại liên quan đến việc những gã khổng lồ công nghệ thống trị thị trường. phong cảnh AI. Ông nói rằng phương pháp này cung cấp giải pháp tiết kiệm chi phí, ưu tiên nhà phát triển để truy cập nhiều loại GPU, cho phép những người chơi nhỏ hơn cạnh tranh bình đẳng.
“Các giải pháp phi tập trung, sáng tạo đang tiếp tục xuất hiện, giải quyết nhu cầu gia tăng, đảm bảo quyền truy cập GPU công bằng và thúc đẩy đổi mới trong điện toán đám mây và đào tạo mô hình AI. Bằng cách cấp quyền truy cập không cần cấp phép vào các tài nguyên điện toán – bao gồm Nvidia A100 và H100 – từ nhiều nhà cung cấp, từ độc lập đến siêu quy mô, các nền tảng điện toán này được định vị độc đáo để giảm thiểu sự kém hiệu quả,” ông nói.
Các công ty nhỏ hơn và các công ty khởi nghiệp dự kiến sẽ tận dụng sự chuyển đổi sang các GPU nhỏ hơn để có những đóng góp có ý nghĩa cho nền kinh tế. miền AI. Các ví dụ, chẳng hạn như việc Thumper.ai sử dụng cụm 32 Nvidia A100, nêu bật việc tối ưu hóa sức mạnh tính toán chưa được sử dụng đúng mức để có tốc độ triển khai nhanh hơn.
“Bằng cách cung cấp cách tiếp cận tiết kiệm chi phí, ưu tiên nhà phát triển để truy cập nhiều loại GPU, từ chip trung tâm dữ liệu hiệu suất cao đến mô hình tiêu dùng, những người chơi nhỏ hơn sẽ có thể truy cập vào cùng một máy tính như các công ty lâu đời hơn có tính linh hoạt trong hoạt động của họ. chi tiêu,” Greg Osuri nói thêm.
Nhìn vào những tác động rộng hơn, ông Osuri thấy trước một sự thay đổi mô hình tiềm năng trong ngành công nghệ. Sự chuyển đổi sang các GPU kém mạnh mẽ hơn và tính toán phi tập trung có thể dẫn đến sự phát triển các ứng dụng và trường hợp sử dụng mới, vượt ra ngoài AI sang các lĩnh vực công nghệ khác.
Greg Osuri của Akash Network cho biết: “Tính linh hoạt vốn có của mạng phân tán có thể cho phép các nhà phát triển và nhà nghiên cứu độc lập thử nghiệm các ứng dụng hoàn toàn mới và mở ra những cách mới để phát triển kiến trúc ứng dụng mở hoàn toàn”. Metaverse Post. “Hiệu ứng gợn sóng này có thể dẫn đến sự phát triển của nhiều ứng dụng và dịch vụ phi tập trung hơn trong các ngành, chia sẻ rộng rãi hơn các tài nguyên và kiến thức tính toán, sự “trở lại” của Crypto và blockchainvà tích hợp với các công nghệ hiện có.”
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Victor là Biên tập viên/Nhà văn Quản lý Công nghệ tại Metaverse Post và bao gồm trí tuệ nhân tạo, tiền điện tử, khoa học dữ liệu, siêu dữ liệu và an ninh mạng trong lĩnh vực doanh nghiệp. Ông tự hào có nửa thập kỷ kinh nghiệm về truyền thông và AI khi làm việc tại các cơ quan truyền thông nổi tiếng như VentureBeat, DatatechVibe và Analytics India Magazine. Là Cố vấn Truyền thông tại các trường đại học danh tiếng bao gồm Oxford và USC, đồng thời có bằng Thạc sĩ về khoa học và phân tích dữ liệu, Victor cam kết sâu sắc trong việc theo kịp các xu hướng mới nổi. Ông cung cấp cho độc giả những câu chuyện mới nhất và sâu sắc nhất từ Công nghệ và Web3 phong cảnh.
Xem thêm bài viết
Victor là Biên tập viên/Nhà văn Quản lý Công nghệ tại Metaverse Post và bao gồm trí tuệ nhân tạo, tiền điện tử, khoa học dữ liệu, siêu dữ liệu và an ninh mạng trong lĩnh vực doanh nghiệp. Ông tự hào có nửa thập kỷ kinh nghiệm về truyền thông và AI khi làm việc tại các cơ quan truyền thông nổi tiếng như VentureBeat, DatatechVibe và Analytics India Magazine. Là Cố vấn Truyền thông tại các trường đại học danh tiếng bao gồm Oxford và USC, đồng thời có bằng Thạc sĩ về khoa học và phân tích dữ liệu, Victor cam kết sâu sắc trong việc theo kịp các xu hướng mới nổi. Ông cung cấp cho độc giả những câu chuyện mới nhất và sâu sắc nhất từ Công nghệ và Web3 phong cảnh.
