'Ang Industriya ng Teknolohiya ay Lilipat Patungo sa Pinababang Pag-asa sa mga GPU sa 2024,' sabi ni Greg Osuri, CEO ng Akash Network
Sa madaling sabi
CEO ng Overclock Labs at Akash Network, iginiit ni Greg Osuri na ang pagyakap sa mas mababang mga GPU ay bubuo muli ng tech landscape sa 2024 at magbubukas ng mga ripple effect.
Habang ang mga pangunahing manlalaro sa industriya ng tech ay patuloy na nangingibabaw sa merkado makapangyarihang mga GPU, isang kapansin-pansing pagbabago patungo sa mas kaunti malakas na chips Inaasahan sa 2024. Ang hakbang, na hinihimok ng pangangailangan para sa mga alternatibo, ay inaasahang magbabago sa landscape, na magbibigay-daan sa mas maliliit na kumpanya at mga startup na mag-ambag nang malaki sa patuloy na AI boom.
Ang pangangailangan para sa high-performance compute, lalo na para sa pagsasanay ng malalaking modelo ng wika, ay nalampasan ang mga kakayahan ng mga tradisyunal na provider tulad ng AWS, Microsoft Azure at Google Cloud. Nahihirapan ang maliliit na negosyo na kayang bayaran at ireserba ang mga mapagkukunang ito na may mataas na pagganap, na humahantong sa lumalaking interes sa mga network na ipinamahagi at walang pahintulot.
Sa isang pakikipag-usap sa Metaverse Post — Greg Osuri, CEO ng Overclock Labs at Akash Network, nagbibigay-liwanag sa mga salik sa pagmamaneho at mga potensyal na implikasyon sa likod ng pagbabagong ito.
Ang desentralisadong cloud platform na Akash Network ay nag-anunsyo kamakailan ng makabuluhang pag-upgrade sa cloud gamit ang Mainnet 8. Ang bagong upgrade ay nagpakilala ng mga pangunahing pagpapahusay na naglalayong gawing simple Access sa GPU at pataasin ang karanasan sa pag-deploy.
Tinukoy ni Greg Osuri ang pag-optimize ng mga kinakailangan sa set ng data bilang isang pangunahing elemento sa pagtanggap ng mas mababang mga GPU.
Ang Low-Rank Adaptation (LoRA) ay lumalabas bilang isang mahalagang pamamaraan sa pagbabagong ito. Nakatuon ang madiskarteng pagbabagong ito sa mga kritikal na timbang, binabawasan ang bilang ng mga parameter na kailangan, at pinapanatili ang orihinal na pre-trained na kaalaman sa modelo.
"Ang mga naghahanap ng mga alternatibo sa gitna ng GPU squeeze ay uunlad sa pamamagitan ng paggamit ng hindi gaanong intensibong mga kinakailangan sa set ng data, pag-deploy ng mas mahusay na mga diskarte tulad ng Low-Rank Adaptation (LoRA) upang sanayin ang mga modelo ng wika, at pamamahagi ng mga workload sa parallel na paraan," sabi ni Greg Osuri ng Akash Network. Metaverse Post. "Kabilang dito ang pag-deploy ng mga cluster ng lower-tier chips para magawa ang mga gawaing katumbas ng mas maliit na bilang ng A100s at H100s. Ang isang bagong panahon ng cloud computing ay lilitaw, isa kung saan ang kapangyarihan ay desentralisado at hindi sa mga kamay ng iilan lamang."
Sinabi niya na ang pag-parallelize ng mga workload sa pamamagitan ng mga kumpol ng mas mababang mga chip ay isa pang diskarte. Kung ikukumpara sa tradisyonal na paggamit ng GPU, ang mga cluster ay nag-aalok ng mas mahusay na scalability, cost-effectiveness at distributed workload capabilities. Gayunpaman, ang mga hamon ay kinabibilangan ng latency ng paglilipat ng data, mga isyu sa pag-synchronize, mga limitasyon sa scalability at mga gastos sa komunikasyon.
“Kung mas malaki ang data, mas mahal at mahirap ang mga gastos sa komunikasyon sa pagitan ng mga hindi pinagsama-samang makina, kaya malamang na kakailanganin ang mas mahusay na mga pamamaraan/teknika upang malampasan ang mahal at mapaghamong mga hadlang sa komunikasyon. Ang kumbinasyon ng hardware at software ay kailangan para sa matagumpay na pagpapatupad,” sabi ni Greg Osuri.
Ang pagtaas ng mga distributed at walang pahintulot na network ay umuusbong bilang isang mahalagang enabler, na nagbibigay ng kapangyarihan sa mga organisasyon na gamitin ang potensyal ng mas mababang mga GPU at pataasin ang pangkalahatang paggamit ng chip.
"Upang makamit ang pag-optimize, dapat isaalang-alang ng mga organisasyon ang mas maliliit na laki ng batch na nangangailangan ng mas kaunting memorya ng GPU, magsanay sa isang subset ng data para mag-debug, gumamit ng mga pre-trained na modelo dahil nangangailangan sila ng mas kaunting computational resources, at mamahagi ng pagsasanay sa maraming GPU," paliwanag ni Greg Osuri. "Pinapayagan nito ang mas maliliit na kumpanya at mga startup na mag-innovate at gumawa ng mga tunay na kontribusyon sa AI boom nang walang kumpletong pag-asa sa pinakamakapangyarihang mga GPU."
Maaaring Palakasin ng mga Distributed Network ang Tech Landscape
Inaakala ni Greg Osuri ng Akash Network na ang pagtanggap ng mas mababang mga GPU ay magpapaunlad ng mas magkakaibang at mapagkumpitensyang kapaligiran, na nagpapagaan ng mga alalahanin na may kaugnayan sa mga higanteng teknolohiya na nangingibabaw sa AI landscape. Sinabi niya na ang diskarteng ito ay nagbibigay ng cost-effective, developer-first na solusyon para sa pag-access ng malawak na hanay ng mga GPU, na nagpapahintulot sa mas maliliit na manlalaro na makipagkumpitensya sa pantay na katayuan.
“Patuloy na lumilitaw ang mga makabago at desentralisadong solusyon, tinutugunan ang pagtaas ng demand, tinitiyak ang pantay na pag-access sa GPU, at pagpapaunlad ng pagbabago sa cloud computing at AI model training. Sa pamamagitan ng pagbibigay ng walang pahintulot na access sa mga mapagkukunan ng pag-compute – kabilang ang Nvidia A100s at H100s – mula sa isang hanay ng mga provider, mula sa independyente hanggang sa hyperscale, ang mga computing platform na ito ay natatanging nakaposisyon upang mabawasan ang mga inefficiencies,” sabi niya.
Ang mas maliliit na kumpanya at mga startup ay inaasahang makikinabang sa paglipat patungo sa mas mababang mga GPU upang makagawa ng makabuluhang kontribusyon sa AI domain. Ang mga halimbawa, gaya ng paggamit ng Thumper.ai ng isang kumpol ng 32 Nvidia A100s, ay binibigyang-diin ang pag-optimize ng hindi nagamit na kapangyarihan sa pag-compute para sa mas mabilis na mga rate ng pag-deploy.
“Sa pamamagitan ng pag-aalok ng cost-effective, developer-first approach sa pag-access ng malawak na hanay ng mga GPU, mula sa high-performance datacenter chips hanggang sa mga consumer model, ang mas maliliit na manlalaro ay maa-access ang parehong compute tulad ng mas matatag na kumpanya na may flexibility sa kanilang pagpapatakbo. paggasta,” dagdag ni Greg Osuri.
Sa pagtingin sa mas malawak na mga implikasyon, nakikita ni G. Osuri ang isang potensyal na pagbabago ng paradigm sa industriya ng tech. Ang paglipat patungo sa hindi gaanong makapangyarihang mga GPU at desentralisadong computing ay maaaring humantong sa pagbuo ng mga bagong application at mga kaso ng paggamit, na lumalampas sa AI sa iba pang mga teknolohikal na domain.
"Ang likas na kakayahang umangkop ng isang distributed network ay maaaring magbigay-daan sa mga independiyenteng developer at mananaliksik na mag-eksperimento sa ganap na bagong mga application at mag-unlock ng mga bagong paraan upang bumuo ng radikal na bukas na mga arkitektura ng application," sabi ni Greg Osuri ng Akash Network. Metaverse Post. "Ang ripple effect na ito ay maaaring humantong sa pagbuo ng mas desentralisadong mga aplikasyon at serbisyo sa mga industriya, mas malawak na pagbabahagi ng mga mapagkukunan at kaalaman sa computational, ang "pagbabalik" ng crypto at ang blockchain, at pagsasama sa mga kasalukuyang teknolohiya.”
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Victor ay isang Managing Tech Editor/Writer sa Metaverse Post at sumasaklaw sa artificial intelligence, crypto, data science, metaverse at cybersecurity sa loob ng enterprise realm. Ipinagmamalaki niya ang kalahating dekada ng karanasan sa media at AI na nagtatrabaho sa mga kilalang media outlet gaya ng VentureBeat, DatatechVibe at Analytics India Magazine. Bilang isang Media Mentor sa mga prestihiyosong unibersidad kabilang ang Oxford at USC at may Master's degree sa data science at analytics, si Victor ay lubos na nakatuon sa pananatiling abreast sa mga umuusbong na uso. Nag-aalok siya sa mga mambabasa ng pinakabago at pinakamahuhusay na mga salaysay mula sa Tech at Web3 tanawin.
Mas marami pang artikulo
Si Victor ay isang Managing Tech Editor/Writer sa Metaverse Post at sumasaklaw sa artificial intelligence, crypto, data science, metaverse at cybersecurity sa loob ng enterprise realm. Ipinagmamalaki niya ang kalahating dekada ng karanasan sa media at AI na nagtatrabaho sa mga kilalang media outlet gaya ng VentureBeat, DatatechVibe at Analytics India Magazine. Bilang isang Media Mentor sa mga prestihiyosong unibersidad kabilang ang Oxford at USC at may Master's degree sa data science at analytics, si Victor ay lubos na nakatuon sa pananatiling abreast sa mga umuusbong na uso. Nag-aalok siya sa mga mambabasa ng pinakabago at pinakamahuhusay na mga salaysay mula sa Tech at Web3 tanawin.
