Tether Data prezentuje platformę wnioskowania i dostrajania LLM QVAC Fabric dla nowoczesnych modeli AI
W skrócie
Firma Tether Data wprowadziła na rynek platformę QVAC Fabric LLM, która umożliwia wnioskowanie LLM i precyzyjne dostrajanie urządzeń konsumenckich oraz sprzętu różnych dostawców, wspierając zdecentralizowany, zorientowany na prywatność i skalowalny rozwój sztucznej inteligencji.
Firma Departamentu Usług Finansowych TetherFirma Tether Data, koncentrując się na promowaniu wolności, przejrzystości i innowacji poprzez technologię, ogłosiła wprowadzenie na rynek QVAC Fabric LLM – kompleksowego środowiska uruchomieniowego do wnioskowania w dużych modelach językowych (LLM) oraz frameworka do precyzyjnego dostrajania. Ten nowy system umożliwia użytkownikom uruchamianie, trenowanie i dostosowywanie dużych modeli językowych bezpośrednio na standardowym sprzęcie, w tym konsumenckich kartach graficznych, laptopach, a nawet smartfonach, eliminując dotychczasową zależność od zaawansowanych serwerów w chmurze lub specjalistycznych konfiguracji NVIDIA.
QVAC Fabric LLM redefines oferuje wysokowydajne wnioskowanie LLM i dostrajanie, które tradycyjnie były dostępne tylko dla organizacji z kosztowną infrastrukturą. Jest to pierwszy zunifikowany, przenośny i wysoce skalowalny system umożliwiający pełne wnioskowanie LLM, adaptację LoRA i dostrajanie instrukcji w mobilnych systemach operacyjnych (iOS i Android), a także we wszystkich popularnych środowiskach laptopów, komputerów stacjonarnych i serwerów (Windows, macOS, Linux). Pozwala to programistom i organizacjom na niezależne tworzenie, wdrażanie, uruchamianie i personalizację sztucznej inteligencji, bez konieczności korzystania z chmury, uzależnienia od dostawcy i ryzyka utraty poufnych danych z urządzenia.
Godną uwagi innowacją w tej wersji jest możliwość precyzyjnego dostrajania modeli na mobilnych procesorach graficznych, takich jak Qualcomm Adreno i ARM Mali. To pierwsze gotowe do produkcji środowisko umożliwiające nowoczesne szkolenie LLM na sprzęcie klasy smartfonów. Ten postęp umożliwia spersonalizowaną sztuczną inteligencję, która może uczyć się bezpośrednio od użytkowników na ich urządzeniach, zachowując prywatność, działając w trybie offline i obsługując nową generację odpornych aplikacji AI na urządzeniach.
QVAC Fabric LLM rozszerza również llamaekosystem .cpp poprzez dodanie obsługi dostrajania dla współczesnych modeli, takich jak LLama3, Qwen3 i Gemma3, które wcześniej nie były obsługiwane. Modele te można teraz precyzyjnie dostroić za pomocą spójnego, prostego procesu roboczego na wszystkich platformach sprzętowych.
Umożliwiając szkolenie na szerokiej gamie procesorów graficznych (GPU), w tym AMD, Intel, NVIDIA, Apple Silicon i mobilnych, QVAC Fabric LLM podważa długo utrzymujące się przekonanie, że zaawansowany rozwój sztucznej inteligencji wymaga specjalistycznego sprzętu od jednego dostawcy. Konsumenckie procesory graficzne (GPU) są teraz odpowiednie do realizacji istotnych zadań związanych ze sztuczną inteligencją, a urządzenia mobilne stają się pełnoprawnymi platformami szkoleniowymi, poszerzając tym samym możliwości rozwoju sztucznej inteligencji.
Dla przedsiębiorstw platforma oferuje strategiczne korzyści. Organizacje mogą dostrajać modele AI wewnętrznie, korzystając z bezpiecznego sprzętu, eliminując potrzebę udostępniania poufnych danych zewnętrznym dostawcom usług chmurowych. Takie podejście wspiera prywatność, zgodność z przepisami i efektywność kosztową, umożliwiając jednocześnie wdrażanie modeli AI dostosowanych do wewnętrznych wymagań. Platforma QVAC Fabric LLM przenosi proces dostrajania ze scentralizowanych klastrów GPU na szerszy ekosystem urządzeń już zarządzanych przez firmy, czyniąc zaawansowaną sztuczną inteligencję bardziej dostępną i bezpieczną.
Tether Data udostępnia QVAC Fabric LLM jako oprogramowanie typu open source, umożliwiające zdecentralizowaną personalizację AI
Tether Data udostępnił platformę QVAC Fabric LLM jako oprogramowanie open source na licencji Apache 2.0, wraz z wieloplatformowymi plikami binarnymi i gotowymi do użycia adapterami w Hugging Face. Platforma pozwala programistom na dostrajanie modeli za pomocą zaledwie kilku poleceń, redukując bariery w personalizacji sztucznej inteligencji, które wcześniej były trudne do pokonania.
QVAC Fabric LLM to praktyczny krok w kierunku zdecentralizowanej, zarządzanej przez użytkownika sztucznej inteligencji. Podczas gdy znaczna część branży nadal priorytetowo traktuje rozwiązania oparte na chmurze, Tether Dane koncentrują się na umożliwieniu zaawansowanej personalizacji bezpośrednio na lokalnym sprzęcie brzegowym. Takie podejście wspiera ciągłość operacyjną w regionach z sieciami o wysokich opóźnieniach, takich jak rynki wschodzące, oferując jednocześnie zorientowaną na prywatność, odporną i skalowalną platformę AI, zdolną do funkcjonowania niezależnie od scentralizowanej infrastruktury.
Zastrzeżenie
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, dowodach wiedzy zerowej, inwestycjach i ekspansywnej dziedzinie Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
Więcej artykułów
Alisa, oddana dziennikarka w MPost, specjalizuje się w kryptowalutach, dowodach wiedzy zerowej, inwestycjach i ekspansywnej dziedzinie Web3. Ze szczególnym uwzględnieniem pojawiających się trendów i technologii zapewnia wszechstronne informacje, aby informować czytelników i angażować ich w stale zmieniający się krajobraz finansów cyfrowych.
