Cloudflare, NVIDIA GPU'larını Edge'de Kullanacak, Microsoft ve Hugging Face ile İş Ortaklığı Yapacak
Kısaca
Cloudflare, müşterilere yerel bilgi işlem gücüne erişim sağlamak için NVIDIA GPU'ları kullanacağını duyurdu.
Şirket ayrıca Microsoft ve Hugging Face ile bulut ortaklıkları üzerinden yapay zekayı da duyurdu
Cloudflare bugün, NVIDIA TensorRT-LLM ve NVIDIA Triton Inference sunucusu da dahil olmak üzere NVIDIA'nın tam yığın çıkarım yazılımını içeren NVIDIA GPU'larını uçta dağıtacağını duyurdu.
Şirket, büyük dil modelleri de dahil olmak üzere yapay zeka uygulamalarının performansını hızlandırmayı hedefliyor. Bugünden itibaren tüm Cloudflare müşterileri, yapay zeka uygulamaları ve hizmetleri sunmak için yerel bilgi işlem gücüne erişebilecek. Ek olarak şirket, ilk kez geniş ölçekte kullandıkça öde bilgi işlem gücü sunacak ve işletmelerin büyük miktarda ön yatırım yapma ihtiyacını ortadan kaldıracak.
Yapay zeka uygulamalarının geliştirilmesiyle GPU'lara olan talebin artmasıyla birlikte Cloudflare, üretken yapay zeka çıkarımını küresel olarak erişilebilir hale getirmeyi hedefliyor.
Cloudflare, küresel uç ağındaki NVIDIA GPU'lar aracılığıyla artık son kullanıcılara düşük gecikme süreli üretken yapay zeka deneyimleri sunacak. Şirket, bu GPU'ların 100 yılı sonuna kadar 2023'den fazla şehirde ve 2024 yılı sonuna kadar da kendi ağı genelinde çıkarım görevleri için erişilebilir olacağını söyledi.
Cloudflare'in kurucu ortağı ve CEO'su Matthew Prince, "Yapıyı 2023'ün sonuna kadar tamamlamak için ihtiyacımız olan tüm GPU'ları zaten güvence altına aldık ve bundan sonra da GPU'ları korumaya devam edebileceğimize güveniyoruz" dedi. Metaverse Post.
Ayrıca Cloudflare, GPU dağıtımının müşterilere, verilerinin yakınında bulunan bilgi işlem gücüne erişim sağlayacağını söyledi. Bu yakınlık, veri işlemenin bölgesel ve küresel düzenlemelerle uyumlu olmasını sağlar.
Prince, "Çıkarımın nerede yürütüleceği üzerinde kontrole sahip olmak, kullanıcı isteklerinin her zaman GDPR gibi düzenlemelere uygun olmasını sağlamak ve verilerin yerel ayarlarda kalmasını sağlamak için veri egemenliğine yardımcı olabilir" dedi.
Microsoft ile Yapay Zeka Ortaklığı
Cloudflare ayrıca bugün Microsoft ile ortaklığını duyurdu. NVIDIA GPU'ların dağıtımı, müşterilerin verilerini hesaplama gücüne yaklaştırmak için tasarlanırken, Microsoft ile olan ortaklığı, konum esnekliği sağlayarak yapay zeka operasyonlarını kolaylaştırmayı amaçlıyor.
Cloudflare, bu işbirliğinin işletmelerin AI modellerini cihazları, ağ uçlarını ve bulut ortamlarını kapsayan bir süreklilik boyunca dağıtmasına olanak tanıyacağını ve hem merkezi hem de dağıtılmış bilgi işlem modellerini optimize edeceğini söyledi.
Kullanılması ONNX Çalışma Zamanı Cloudflare ve Microsoft, bu üç katmanda yapay zeka modellerinin bu mimari içerisinde en verimli olduğu yerde çalışmasını sağlamayı amaçlıyor.
Yapay zeka modeli eğitimi, önemli miktarda hesaplama ve depolama kaynağı gerektirir ve yakınlıkları nedeniyle merkezi bulut platformlarını tercih eder. Bunun aksine, eğitim merkezi kalırken, çıkarım görevleri cihazlar ve uç ağlar dahil olmak üzere daha dağıtılmış konumlara doğru kayacaktır.
Şirket; bağlantı, gecikme, uyumluluk ve daha fazlası gibi faktörlere bağlı olarak trafiği farklı ortamlara yönlendirmek için altyapı sağlayabileceğini iddia ediyor.
Sonuç olarak işletmeler, yapay zeka görevleri için konumu optimize edebilecek ve yapay zeka çıkarımını, istenen sonuçlara ulaşmaya en uygun yerde uygulayabilecek. Örneğin, bir güvenlik kamera sistemi, nesne tespiti için uç ağlardan yararlanabilir ve verilerin işlenmek üzere merkezi bir sunucuya gönderilmesiyle ilişkili gecikme olmaksızın cihaz sınırlamalarının üstesinden gelebilir.
Ek olarak kuruluşlar, modelleri üç konumda (cihazlar, uç ağlar ve bulut) çalıştırarak ve kullanılabilirlik, kullanım durumu ve gecikme gereksinimleri gibi faktörlere göre ayarlamalar veya geri dönüşler yaparak değişen ihtiyaçlara uyum sağlayabilecek. Bu uyarlanabilirlik, yapay zeka operasyonlarının gelişen koşullara duyarlı ve etkili kalmasını sağlar.
Ayrıca Cloudflare, işletmelerin Microsoft Azure Machine Learning aracılığıyla kolayca dağıtılabilir modellere ve makine öğrenimi araçlarına erişmesine olanak tanıyan kolaylaştırılmış bir dağıtım süreci sunacağını söyledi. İşçi Yapay Zekası.
Microsoft Veri, Yapay Zeka ve Gelişen Teknolojiler Genel Müdürü Rashmi Misra, "Şirketler, ihtiyaçlarını karşılamak için üretken yapay zekanın gücünden benzersiz yöntemlerle yararlanmanın en iyi yolunu keşfettikçe, yapay zeka modellerini her yerde çalıştırabilme yeteneği çok önemli" dedi.
Hugging Face'in İlk Sunucusuz GPU Ortağı
Microsoft ile işbirliğinin duyurulmasının yanı sıra Cloudflare, Hugging Face ile bir ortaklığı da duyurdu. Ortaklık sayesinde Cloudflare, Hugging Face modellerini dağıtan ilk sunucusuz GPU ortağı olacak.
Bu, geliştiricilerin altyapı yönetimi olmadan veya kullanılmayan bilgi işlem kapasitesi için ödeme yapmadan yapay zekayı dünya çapında dağıtmalarını sağlamayı amaçlamaktadır.
"Küçük şirketler yeni yapay zeka uygulamaları oluşturmaya çalışırken çeşitli zorluklarla karşılaşıyor. Bu zorluklardan biri de dünya genelinde GPU'ların azlığıdır" dedi Cloudfare CEO'su Matthew Prince.
“Her büyüklükteki şirketi desteklemek ve tam olarak kullandıkları kadar ödeme yapmalarına olanak sağlamak için sunucusuz, çok kiracılı bir modelin gerekli olduğunu düşünüyoruz. Büyük şirketlerin GPU rezerve etmesini ve yapay zeka çıkarım pazarını tekeline almasını istemiyoruz.”
Şirket, Hugging Face'in en popüler modellerinin Cloudflare'in model kataloğuna entegre edileceğini ve küresel ağı için optimize edileceğini söyledi. Bu entegrasyon, en popüler modelleri dünya çapındaki geliştiriciler için erişilebilir hale getirir.
Geliştiriciler ayrıca Workers AI'yi doğrudan Hugging Face'ten tek bir tıklamayla dağıtabilecekler. Bu kolaylaştırılmış süreç, geliştiricilerin kodlamaya ve yapay zeka uygulaması geliştirmeye odaklanmasını sağlar.
Hugging Face CEO'su Clem Delangue şunları söyledi: "Hugging Face ve Cloudflare, en son yapay zeka yeniliklerini yapay zeka geliştiricileri için mümkün olduğunca erişilebilir ve uygun fiyatlı hale getirmeye odaklanıyor." “Geliştiricilerin AI uygulamalarını sıfırdan globale ölçeklendirmelerine yardımcı olmak için Cloudflare ile ortaklaşa sunucusuz GPU hizmetleri sunmaktan heyecan duyuyoruz; geleceği tahmin et uygulamalarının ihtiyaçlarını karşılayın; yalnızca modelinizi seçin ve devreye alın."
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
Daha fazla haber
Cindy bir gazetecidir. Metaverse Postile ilgili konuları kapsayan web3, NFT, metaverse ve AI ile yapılan görüşmelere odaklanarak Web3 endüstri oyuncuları. 30'dan fazla C düzeyindeki yöneticiyle konuştu ve onların değerli görüşlerini okuyuculara aktardı. Aslen Singapurlu olan Cindy şu anda Gürcistan'ın Tiflis şehrinde yaşıyor. Güney Avustralya Üniversitesi'nden İletişim ve Medya Çalışmaları alanında lisans derecesine sahiptir ve gazetecilik ve yazarlık alanında on yıllık deneyime sahiptir. Onunla iletişime geçin [e-posta korumalı] basın açıklamaları, duyurular ve röportaj imkanları ile.
