'Industri Teknologi Akan Bergerak Ke Arah Pengurangan Pergantungan pada GPU pada 2024,' dakwa Greg Osuri, Ketua Pegawai Eksekutif Akash Network
Secara ringkas
Ketua Pegawai Eksekutif Overclock Labs dan Akash Network, Greg Osuri menegaskan penggunaan GPU yang lebih rendah akan membentuk semula landskap teknologi pada tahun 2024 dan membuka kunci kesan riak.
Memandangkan pemain utama dalam industri teknologi terus menguasai pasaran dengan GPU yang berkuasa, anjakan ketara ke arah kurang cip berkuasa dijangkakan pada tahun 2024. Langkah itu, didorong oleh keperluan untuk alternatif, dijangka membentuk semula landskap, membolehkan syarikat kecil dan syarikat permulaan menyumbang dengan ketara kepada usaha berterusan AI ledakan.
Permintaan untuk pengiraan berprestasi tinggi, terutamanya untuk melatih model bahasa yang besar, telah mengatasi keupayaan pembekal tradisional seperti AWS, Microsoft Azure dan Awan Google. Perusahaan yang lebih kecil mendapati sukar untuk membeli dan menempah sumber berprestasi tinggi ini, yang membawa kepada minat yang semakin meningkat dalam rangkaian yang diedarkan dan tanpa kebenaran.
Dalam perbualan dengan Metaverse Post — Greg Osuri, Ketua Pegawai Eksekutif Overclock Labs dan Rangkaian Akash, memberi penerangan tentang faktor pemacu dan potensi implikasi di sebalik trend transformatif ini.
Platform awan terdesentralisasi Akash Network baru-baru ini mengumumkan peningkatan ketara kepada awan dengan Mainnet 8. Peningkatan baharu ini memperkenalkan peningkatan utama yang bertujuan untuk memudahkan Akses GPU dan meningkatkan pengalaman penggunaan.
Greg Osuri mengenal pasti pengoptimuman keperluan set data sebagai elemen utama dalam menerima GPU yang lebih rendah.
Penyesuaian Peringkat Rendah (LoRA) muncul sebagai teknik penting dalam anjakan ini. Pengubahsuaian strategik ini memfokuskan pada pemberat kritikal, mengurangkan bilangan parameter yang diperlukan dan mengekalkan pengetahuan asal yang telah dilatih dalam model.
"Mereka yang mencari alternatif di tengah-tengah tekanan GPU akan membuat kemajuan dengan menggunakan keperluan set data yang kurang intensif, menggunakan teknik yang lebih cekap seperti Penyesuaian Peringkat Rendah (LoRA) untuk melatih model bahasa, dan mengagihkan beban kerja secara selari," kata Greg Osuri dari Akash Network. Metaverse Post. “Ini melibatkan penggunaan kluster cip peringkat rendah untuk menyelesaikan tugas yang setara dengan bilangan A100 yang lebih kecil dan H100s. Satu era baru pengkomputeran awan akan muncul, era di mana kuasa tidak berpusat dan bukan di tangan segelintir sahaja.”
Dia mengatakan bahawa menyelaraskan beban kerja melalui kelompok cip yang lebih rendah adalah strategi lain. Berbanding dengan penggunaan GPU tradisional, kluster menawarkan kebolehskalaan yang lebih baik, keberkesanan kos dan keupayaan beban kerja teragih. Cabaran, bagaimanapun, termasuk kependaman pemindahan data, isu penyegerakan, had kebolehskalaan dan kos komunikasi.
“Semakin besar data, semakin mahal dan kos komunikasi yang sukar adalah antara mesin yang tidak digabungkan, jadi kaedah/teknik yang lebih cekap mungkin diperlukan untuk mengatasi halangan komunikasi yang mahal dan mencabar. Gabungan perkakasan dan perisian diperlukan untuk pelaksanaan yang berjaya,” kata Greg Osuri.
Peningkatan rangkaian teragih dan tanpa kebenaran muncul sebagai pemboleh yang penting, memperkasakan organisasi untuk memanfaatkan potensi GPU yang lebih rendah dan meningkatkan penggunaan cip keseluruhan.
"Untuk mencapai pengoptimuman, organisasi harus mempertimbangkan saiz kelompok yang lebih kecil yang memerlukan kurang memori GPU, melatih subset data untuk nyahpepijat, menggunakan model pra-latihan kerana ia memerlukan kurang sumber pengiraan dan mengedarkan latihan merentas berbilang GPU," jelas Greg Osuri. "Ini membolehkan syarikat dan syarikat pemula yang lebih kecil untuk berinovasi dan membuat sumbangan sebenar kepada ledakan AI tanpa bergantung sepenuhnya pada GPU yang paling berkuasa."
Rangkaian Teragih Boleh Meningkatkan Landskap Teknologi
Greg Osuri Akash Network membayangkan bahawa menerima GPU yang lebih rendah akan memupuk persekitaran yang lebih pelbagai dan berdaya saing, mengurangkan kebimbangan yang berkaitan dengan gergasi teknologi yang menguasai landskap AI. Beliau berkata bahawa pendekatan ini menyediakan penyelesaian yang menjimatkan kos, diutamakan oleh pembangun untuk mengakses pelbagai jenis GPU, membolehkan pemain yang lebih kecil bersaing pada kedudukan yang sama.
“Penyelesaian yang inovatif dan terdesentralisasi terus muncul, menangani lonjakan permintaan, memastikan akses GPU yang saksama, dan memupuk inovasi dalam pengkomputeran awan dan latihan model AI. Dengan memberikan akses tanpa kebenaran kepada sumber pengiraan – termasuk Nvidia A100s dan H100s – daripada pelbagai pembekal, daripada bebas kepada skala besar, platform pengkomputeran ini diletakkan secara unik untuk mengurangkan ketidakcekapan,” katanya.
Syarikat dan syarikat permulaan yang lebih kecil dijangka memanfaatkan peralihan ke arah GPU yang lebih rendah untuk membuat sumbangan bermakna kepada domain AI. Contoh, seperti penggunaan Thumper.ai bagi sekumpulan 32 Nvidia A100, menyerlahkan pengoptimuman kuasa pengkomputeran yang kurang digunakan untuk kadar penggunaan yang lebih pantas.
“Dengan menawarkan pendekatan kos efektif, diutamakan pembangun untuk mengakses pelbagai GPU, daripada cip pusat data berprestasi tinggi kepada model pengguna, pemain yang lebih kecil akan dapat mengakses pengiraan yang sama seperti syarikat yang lebih mantap yang mempunyai fleksibiliti dalam operasi mereka. perbelanjaan,” tambah Greg Osuri.
Melihat kepada implikasi yang lebih luas, Encik Osuri meramalkan potensi anjakan paradigma dalam industri teknologi. Peralihan ke arah GPU yang kurang berkuasa dan pengkomputeran terdesentralisasi boleh membawa kepada pembangunan aplikasi baharu dan kes penggunaan, melangkaui AI ke dalam domain teknologi lain.
"Fleksibiliti yang wujud bagi rangkaian teragih boleh membolehkan pembangun dan penyelidik bebas untuk bereksperimen dengan aplikasi baharu sepenuhnya dan membuka kunci cara baharu untuk membangunkan seni bina aplikasi terbuka secara radikal," kata Greg Osuri dari Akash Network. Metaverse Post. "Kesan riak ini boleh membawa kepada pembangunan aplikasi dan perkhidmatan yang lebih terdesentralisasi merentas industri, perkongsian sumber dan pengetahuan pengiraan yang lebih luas, "kemunculan semula" Crypto dan juga blockchain, dan penyepaduan dengan teknologi sedia ada.”
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Victor ialah Editor/Penulis Teknologi Pengurusan di Metaverse Post dan meliputi kecerdasan buatan, kripto, sains data, metaverse dan keselamatan siber dalam alam perusahaan. Beliau mempunyai setengah dekad pengalaman media dan AI bekerja di saluran media terkenal seperti VentureBeat, DatatechVibe dan Analytics India Magazine. Menjadi Mentor Media di universiti berprestij termasuk Oxford dan USC serta dengan ijazah Sarjana dalam sains data dan analitik, Victor amat komited untuk mengikuti trend yang sedang berkembang. Dia menawarkan pembaca naratif terkini dan paling mendalam daripada Tech dan Web3 landskap.
lebih banyak artikel
Victor ialah Editor/Penulis Teknologi Pengurusan di Metaverse Post dan meliputi kecerdasan buatan, kripto, sains data, metaverse dan keselamatan siber dalam alam perusahaan. Beliau mempunyai setengah dekad pengalaman media dan AI bekerja di saluran media terkenal seperti VentureBeat, DatatechVibe dan Analytics India Magazine. Menjadi Mentor Media di universiti berprestij termasuk Oxford dan USC serta dengan ijazah Sarjana dalam sains data dan analitik, Victor amat komited untuk mengikuti trend yang sedang berkembang. Dia menawarkan pembaca naratif terkini dan paling mendalam daripada Tech dan Web3 landskap.
