‘Industri Teknologi Akan Bergerak Menuju Pengurangan Ketergantungan pada GPU pada tahun 2024,’ klaim Greg Osuri, CEO Akash Network
Singkatnya
CEO Overclock Labs dan Akash Network, Greg Osuri menegaskan penggunaan GPU yang lebih rendah akan membentuk kembali lanskap teknologi pada tahun 2024 dan membuka efek riak.
Ketika pemain utama di industri teknologi terus mendominasi pasar GPU yang kuat, pergeseran penting ke arah yang lebih sedikit chip yang kuat diperkirakan akan terjadi pada tahun 2024. Langkah ini, yang didorong oleh perlunya alternatif, diperkirakan akan mengubah lanskap, memungkinkan perusahaan-perusahaan kecil dan startup untuk berkontribusi secara signifikan terhadap krisis yang sedang berlangsung. ledakan AI.
Permintaan akan komputasi berkinerja tinggi, terutama untuk melatih model bahasa berukuran besar, telah melampaui kemampuan penyedia tradisional seperti AWS, Microsoft Azure dan Google Cloud. Perusahaan kecil merasa kesulitan untuk membeli dan mencadangkan sumber daya berkinerja tinggi ini, sehingga menyebabkan semakin besarnya minat terhadap jaringan terdistribusi dan tanpa izin.
Dalam percakapan dengan Metaverse Post — Greg Osuri, CEO Overclock Labs dan Jaringan Akash, menjelaskan faktor-faktor pendorong dan potensi implikasi di balik tren transformatif ini.
Platform cloud terdesentralisasi Akash Network baru-baru ini mengumumkan peningkatan signifikan ke cloud dengan Mainnet 8. Peningkatan baru ini memperkenalkan peningkatan utama yang bertujuan untuk menyederhanakan akses GPU dan meningkatkan pengalaman penerapan.
Greg Osuri mengidentifikasi pengoptimalan persyaratan kumpulan data sebagai elemen kunci dalam menggunakan GPU yang lebih rendah.
Adaptasi Tingkat Rendah (LoRA) muncul sebagai teknik penting dalam peralihan ini. Modifikasi strategis ini berfokus pada bobot kritis, mengurangi jumlah parameter yang diperlukan, dan mempertahankan pengetahuan asli yang telah dilatih sebelumnya dalam model.
“Mereka yang mencari alternatif di tengah tekanan GPU akan membuat kemajuan dengan menggunakan persyaratan kumpulan data yang tidak terlalu intensif, menerapkan teknik yang lebih efisien seperti Adaptasi Tingkat Rendah (LoRA) untuk melatih model bahasa, dan mendistribusikan beban kerja secara paralel,” kata Greg Osuri dari Akash Network. Metaverse Post. “Hal ini melibatkan penggelaran cluster chip tingkat rendah untuk menyelesaikan tugas-tugas yang setara dengan sejumlah kecil A100 dan H100S. Era baru komputasi awan akan muncul, di mana kekuasaan terdesentralisasi dan tidak hanya berada di tangan segelintir orang.”
Dia mengatakan bahwa memparalelkan beban kerja melalui kelompok chip yang lebih kecil adalah strategi lain. Dibandingkan dengan pemanfaatan GPU tradisional, cluster menawarkan skalabilitas, efektivitas biaya, dan kemampuan beban kerja terdistribusi yang lebih baik. Namun tantangannya mencakup latensi transfer data, masalah sinkronisasi, batas skalabilitas dan biaya komunikasi.
“Semakin besar datanya, semakin mahal dan sulit biaya komunikasi antar mesin yang tidak ditempatkan, sehingga metode/teknik yang lebih efisien mungkin diperlukan untuk mengatasi hambatan komunikasi yang mahal dan menantang. Kombinasi perangkat keras dan perangkat lunak diperlukan agar implementasi berhasil,” kata Greg Osuri.
Munculnya jaringan terdistribusi dan tanpa izin kini menjadi faktor penting yang memberdayakan organisasi untuk memanfaatkan potensi GPU yang lebih kecil dan meningkatkan pemanfaatan chip secara keseluruhan.
“Untuk mencapai pengoptimalan, organisasi harus mempertimbangkan ukuran batch yang lebih kecil yang memerlukan lebih sedikit memori GPU, melatih subset data untuk melakukan debug, menggunakan model yang telah dilatih sebelumnya karena model tersebut memerlukan lebih sedikit sumber daya komputasi, dan mendistribusikan pelatihan ke beberapa GPU,” jelas Greg Osuri. “Hal ini memungkinkan perusahaan-perusahaan kecil dan startup untuk berinovasi dan memberikan kontribusi nyata terhadap booming AI tanpa sepenuhnya bergantung pada GPU yang paling kuat.”
Jaringan Terdistribusi Dapat Mendukung Lanskap Teknologi
Greg Osuri dari Akash Network membayangkan bahwa menggunakan GPU yang lebih kecil akan menciptakan lingkungan yang lebih beragam dan kompetitif, mengurangi kekhawatiran terkait dengan raksasa teknologi yang mendominasi dunia. lanskap AI. Ia mengatakan bahwa pendekatan ini memberikan solusi yang hemat biaya dan mengutamakan pengembang untuk mengakses beragam GPU, sehingga memungkinkan pemain kecil untuk bersaing secara setara.
“Solusi inovatif dan terdesentralisasi terus bermunculan untuk mengatasi lonjakan permintaan, memastikan akses GPU yang adil, dan mendorong inovasi dalam komputasi awan dan pelatihan model AI. Dengan memberikan akses tanpa izin ke sumber daya komputasi – termasuk Nvidia A100s dan H100s – dari berbagai penyedia, mulai dari independen hingga hyperscale, platform komputasi ini diposisikan secara unik untuk memitigasi inefisiensi,” katanya.
Perusahaan kecil dan startup diharapkan dapat memanfaatkan peralihan ke GPU yang lebih rendah untuk memberikan kontribusi yang berarti bagi perusahaan domain AI. Contohnya, seperti pemanfaatan cluster 32 Nvidia A100 oleh Thumper.ai, menyoroti optimalisasi daya komputasi yang kurang dimanfaatkan untuk tingkat penerapan yang lebih cepat.
“Dengan menawarkan pendekatan yang hemat biaya dan mengutamakan pengembang untuk mengakses beragam GPU, mulai dari chip pusat data berkinerja tinggi hingga model konsumen, pemain kecil akan dapat mengakses komputasi yang sama seperti perusahaan yang lebih mapan dan memiliki fleksibilitas dalam operasional mereka. pengeluaran,” tambah Greg Osuri.
Melihat implikasi yang lebih luas, Osuri memperkirakan adanya potensi perubahan paradigma dalam industri teknologi. Peralihan ke arah GPU yang kurang bertenaga dan komputasi terdesentralisasi dapat mengarah pada pengembangan aplikasi dan kasus penggunaan baru, yang tidak hanya mencakup AI, tetapi juga ke dalam domain teknologi lainnya.
“Fleksibilitas yang melekat pada jaringan terdistribusi dapat memungkinkan pengembang dan peneliti independen untuk bereksperimen dengan aplikasi yang benar-benar baru dan membuka cara baru untuk mengembangkan arsitektur aplikasi yang sangat terbuka,” kata Greg Osuri dari Akash Network. Metaverse Post. “Efek riak ini dapat mengarah pada pengembangan aplikasi dan layanan yang lebih terdesentralisasi di seluruh industri, pembagian sumber daya komputasi dan pengetahuan yang lebih luas, dan “kembalinya” teknologi ke dalam sistem. kripto dan blockchain, dan integrasi dengan teknologi yang ada.”
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Victor adalah Editor/Penulis Pelaksana Teknologi di Metaverse Post dan mencakup kecerdasan buatan, kripto, ilmu data, metaverse, dan keamanan siber dalam ranah perusahaan. Dia memiliki pengalaman media dan AI selama setengah dekade bekerja di outlet media terkenal seperti VentureBeat, DatatechVibe, dan Majalah Analytics India. Menjadi Mentor Media di universitas bergengsi termasuk Oxford dan USC dan dengan gelar Master di bidang ilmu data dan analitik, Victor sangat berkomitmen untuk terus mengikuti tren yang sedang berkembang. Dia menawarkan kepada pembaca narasi terbaru dan paling mendalam dari Tech and Web3 pemandangan.
lebih artikel
Victor adalah Editor/Penulis Pelaksana Teknologi di Metaverse Post dan mencakup kecerdasan buatan, kripto, ilmu data, metaverse, dan keamanan siber dalam ranah perusahaan. Dia memiliki pengalaman media dan AI selama setengah dekade bekerja di outlet media terkenal seperti VentureBeat, DatatechVibe, dan Majalah Analytics India. Menjadi Mentor Media di universitas bergengsi termasuk Oxford dan USC dan dengan gelar Master di bidang ilmu data dan analitik, Victor sangat berkomitmen untuk terus mengikuti tren yang sedang berkembang. Dia menawarkan kepada pembaca narasi terbaru dan paling mendalam dari Tech and Web3 pemandangan.
