Partnerzy Deci i Qualcomm na rzecz demokratyzacji generatywnej sztucznej inteligencji w różnych branżach
W skrócie
Deci ogłosił współpracę z Qualcomm Technologies w celu opracowania zaawansowanych modeli generatywnej sztucznej inteligencji dla Qualcomm Cloud AI 100.
Firma Deci zajmująca się rozwiązaniami AI ogłosiła współpracę z Qualcomm Technologies w celu opracowania zaawansowanych rozwiązań generatywna sztuczna inteligencja modele dla Qualcomm Cloud AI 100. Współpraca ma na celu zwiększenie dostępności sztucznej inteligencji dla szerszego zakresu zastosowań i demokratyzację mocy generatywnej sztucznej inteligencji dla programistów.
Dostosowując modele specjalnie do rozwiązania Qualcomm Cloud AI 100, firmy zamierzają odblokować opłacalne przetwarzanie AI w czasie rzeczywistym. Cloud AI 100 to rozwiązanie Qualcomm stworzone w celu optymalizacji wydajności na potrzeby generatywnego wnioskowania AI, w tym duże modele językowe (LLM).
„Niektóre z głównych wyzwań w obecnym krajobrazie generatywnej sztucznej inteligencji dotyczą dostępności mocy obliczeniowej do przetwarzania tych ogromnych modeli oraz ogromnych kosztów ich uruchomienia” – powiedział Yonatan Geifman, dyrektor generalny i współzałożyciel Deci Metaverse Post. „Wykorzystując modele Deci, użytkownicy Qualcomm mogą w pełni wykorzystać inwestycje w sprzęt dzięki modelom, które zapewniają maksymalne wykorzystanie sprzętu, zapewniając jednocześnie dużą prędkość i dokładność”.
Deci będzie współpracować z Qualcomm Technologies przy wprowadzeniu na rynek dwóch modeli, a mianowicie DeciCoder-6B i DeciDiffusion 2.0.
Zgodnie z zapowiedzią DeciCoder-6B to model o 6 miliardach parametrów do generowania kodu, obsługujący osiem języków programowania i przewyższający ustalone modele przy jednoczesnym zachowaniu pamięci i wydajności obliczeniowej.
Z drugiej strony DeciDiffusion 2.0 to model dyfuzji tekstu na obraz zawierający 732 miliony parametrów, który wyznacza nowe standardy, dostarczając obrazy wysokiej jakości ze zwiększoną szybkością i wydajnością.
Co wyróżnia modele AI Deci
Podczas używania LLM w rzeczywistych aplikacjach kluczowe znaczenie ma sprawne organizowanie danych na serwerach, które dokonują prognoz. Głównym celem jest obsługa jak największej liczby żądań użytkowników jednocześnie. Znalezienie właściwej równowagi pomiędzy ilością danych przetwarzanych jednocześnie (wielkość partii) a czasem potrzebnym na uzyskanie odpowiedzi (opóźnienie) zależy od dwóch kluczowych rzeczy: konstrukcji modelu i możliwości sprzętu używanego do prognozowania.
„DeciCoder-6B ma mniejszą liczbę parametrów niż jego odpowiedniki, co skutkuje zmniejszonym zużyciem pamięci i zwolnieniem dodatkowych 2 GB pamięci w porównaniu do modeli CodeGen 2.5 7B i 7 miliardów parametrów. Model wyróżnia się wydajnością pamięci i obliczeń, umożliwiając efektywne skalowanie przetwarzania wsadowego bez znacznego zużycia pamięci lub zauważalnego wzrostu opóźnień” – powiedział dyrektor generalny Deci, Yonatan Geifman.
Wyjaśnił dalej: „DeciDiffusion 2.0 zapewnia wysokiej jakości obrazy przy o 40% mniejszej liczbie iteracji i wykorzystuje mniejszy i szybszy komponent U-Net w porównaniu do Stable Diffusion 1.5. Może generować obrazy o wysokiej jakości przy mniejszej liczbie etapów dyfuzji podczas procesu wnioskowania”.
Model skutecznie zmniejsza liczbę kroków potrzebnych do wygenerowania obrazu wysokiej jakości z 16 do zaledwie 10.
Technologia wyszukiwania architektury neuronowej firmy Deci – AutoNAC – odegrała kluczową rolę w wydajności i skalowalności modeli. To automaty proces wyszukiwania w sposób wydajny obliczeniowo, co odróżnia go od metod tradycyjnych. Technologia ta umożliwiła firmie Deci wypuszczenie serii najnowocześniejszych modeli w krótkim czasie, przy niższych wydatkach na komputery do celów szkoleniowych w porównaniu z innymi twórcami dużych modeli językowych.
DeciCoder-6B: Precyzja dostosowana do doskonałości przemysłowej
Zdolność DeciCoder-6B do obsługi ośmiu języków programowania sprawia, że jest to model uniwersalny do szerokiego zakresu zastosowań. Geifman podzielił się różnymi sposobami wykorzystania tego modelu.
„W dziedzinie tworzenia oprogramowania może pomóc w generowaniu i uzupełnianiu kodu, znacznie skracając czas tworzenia oprogramowania i zwiększając produktywność. Co więcej, DeciCoder-6B może być używany do nauczania programowania, obsługując różne języki i poziomy trudności. Uczniowie mogą go używać do sprawdzania swojej pracy i jako podręcznik rozwiązań” – powiedział Geifman z Deci Metaverse Post.
„Dodatkowo w obszarze cyberbezpieczeństwa model można dostosować, aby pomóc w pisaniu i analizowaniu skryptów do skanowania pod kątem luk w zabezpieczeniach, z możliwością automatyzacji kontroli bezpieczeństwa w różnych środowiskach programistycznych” – dodał.
Współpraca Deciego i Qualcomm Technologies stanowią znaczący krok w kierunku demokratyzacji mocy generatywnej sztucznej inteligencji. Dzięki zoptymalizowanym modelom, wydajnej technologii i zaangażowaniu w otwartość partnerstwo ma na celu zapewnienie programistom i branżom na całym świecie dostępnych i opłacalnych rozwiązań AI.
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
Więcej artykułów
Kumar jest doświadczonym dziennikarzem technicznym ze specjalizacją w dynamicznych skrzyżowaniach AI/ML, technologii marketingowej i nowych dziedzin, takich jak kryptowaluty, blockchain i NFTS. Dzięki ponad 3-letniemu doświadczeniu w branży Kumar zdobył udokumentowane doświadczenie w tworzeniu fascynujących narracji, przeprowadzaniu wnikliwych wywiadów i dostarczaniu kompleksowych spostrzeżeń. Doświadczenie Kumara polega na tworzeniu treści o dużym wpływie, w tym artykułów, raportów i publikacji badawczych dla czołowych platform branżowych. Dzięki unikalnemu zestawowi umiejętności, który łączy wiedzę techniczną i opowiadanie historii, Kumar przoduje w przekazywaniu złożonych koncepcji technologicznych różnym odbiorcom w jasny i wciągający sposób.
