A Cohere bemutatja a Command A+ rendszert, amely elősegíti a szuverén és hatékony vállalati mesterséges intelligencia telepítését
Röviden
A Cohere kiadta a Command A+-t, egy nyílt forráskódú, vállalati mesterséges intelligenciához optimalizált MoE LLM-et, amely hatékony, multimodális, többnyelvű ügynökségi képességeket kínál alacsony számítási igényekkel és szuverén telepítési lehetőségekkel.
Vállalati mesterséges intelligencia cég Összefügg bejelentette a Command A+ megjelenését, amely egy nyílt forráskódú, szakértőkből álló nyelvi modell, amelyet vállalati szintű ágensi feladatokhoz terveztek viszonylag alacsony számítási igényekkel.
A vállalat közölte, hogy a modell a Northon, a Cohere vállalati ügynökségi MI-rendszerek fejlesztésére és telepítésére szolgáló munkaterületén végzett egyéves munkára épül, és a Command család képességeit egyetlen modellbe egyesíti, amely skálázható használatra szolgál kísérleti, telepítési és termelési környezetekben.
A Command A+ mostantól elérhető az Apache 2.0 licenc alatt, széleskörű hozzáférést biztosítva a fejlesztőknek egy olyan modellhez, amely a Cohere szerint a szuverén mesterséges intelligencia telepítését hivatott támogatni, beleértve azokat a környezeteket is, ahol a szervezetek közvetlen irányítást szeretnének gyakorolni az infrastruktúra és a modell viselkedése felett. A kiadás letölthető súlyokat tartalmaz a Hugging Face-hez, valamint megvalósítási útmutatót és telepítési lehetőségeket a Cohere Model Vaultján keresztül.
A vállalat közzétett specifikációi szerint a modell ritka MoE architektúrát használ, összesen 218 milliárd paraméterrel rendelkezik, ebből 25 milliárd aktív paraméterrel, 128 000 token bemeneti kontextust támogat, és akár 64 000 tokent is képes generálni. Szöveges, képi és eszközhasználati bemenetekre tervezték, és 48 nyelven képes szöveges, érvelési és eszközhasználati kimeneteket előállítani.
Az A+ parancs a vállalati hatékonyságra és a szuverén mesterséges intelligencia telepítésére összpontosít
Cohere elmondta, hogy a Command A+ optimalizálva van az érvelésre, a visszakereséssel kiegészített generálásra, a többnyelvű feladatokra, a multimodális dokumentumfeldolgozásra és az ágensi munkafolyamatokra. A vállalat hangsúlyozta a hardverhatékonyságát is, megjegyezve, hogy a modell több kvantálási formátumban is elérhető, beleértve a BF16, FP8 és W4A4 formátumokat, és kevés csúcskategóriás GPU-n is futtatható. A modellt a Cohere eddigi leggyorsabb kiadásaként is bemutatják, a vállalat a kimeneti sebesség, az alacsonyabb késleltetés és a jobb tokenhatékonyság javulását említi a korábbi Command modellekhez képest. Cohere elmondta, hogy a spekulatív dekódolást a modell architektúrájához igazították, hogy tovább javítsák a következtetési sebességet a kimeneti minőség befolyásolása nélkül.
A vállalat a Command A+ modellt a korábbi Command A variánsok konszolidált utódjaként írta le, kijelentve, hogy felülmúlja az előző generációkat olyan vállalati szintű feladatokban, mint a hosszú kontextusú érvelés, a multimodális megértés, a visszakeresés és a kódgenerálás. Cohere kiemelte a Command A Reasoninghoz képest elért teljesítménybeli előnyöket is, beleértve a telekommunikációval kapcsolatos ágensi értékelésben, a terminálalapú kódolási feladatokban és a Northon belül használt belső mérésekben elért jobb eredményeket. A modell állítólag javítja a teljesítményt a táblázatkezelő elemzésben, az ágensi kérdésválaszokban és a memóriaalapú munkafolyamatokban is.
A többnyelvű képesség a kiadás másik központi eleme. Cohere elmondta, hogy a Command A+ 23 nyelvről 48-ra bővíti a támogatást, miközben javítja a fordítási és a többnyelvű érvelési teljesítményt. A vállalat a nem európai nyelveken elért javulásról is beszámolt, beleértve az arab, koreai és japán tokenizációs hatékonyságának javulását. A multimodális benchmarkok során a modell állítólag erősebb eredményeket mutatott a dokumentum- és képérvelési feladatokban, beleértve a MathVista, MMMU és CharXiv-vel kapcsolatos értékeléseket.
Az iparág érdeklődése a kiadás iránt a Fujitsu megjegyzéseiben is tükröződött, amelyek szerint a modell architektúrája és ágensi teljesítménye összhangban van a saját szuverén MI-stratégiájával. Cohere a bevezetést egy szélesebb körű erőfeszítés részeként fogalmazta meg, amely a vállalati MI három prioritásának egyidejű kezelésére irányul: képesség, biztonság és költségek. A vállalat közölte, hogy a jövőbeli fejlesztések továbbra is az érvelésre, a multimodális teljesítményre és a kódolásra fognak összpontosítani, miközben a modellek továbbra is alkalmasak maradnak az ügyfél által ellenőrzött környezetekben való telepítésre.
A Command A+ elérhető a Hugging Face, a Model Vault, a Cohere API-ján és egy ingyenes online demótéren keresztül. A Cohere elmondta, hogy dokumentáció és telepítési anyagok is elérhetők azoknak a szervezeteknek, amelyek tesztelni vagy integrálni szeretnék a modellt a vállalati munkafolyamatokba.
Jogi nyilatkozat
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Alisa, a The MPost, kriptovalutákra, mesterséges intelligenciára, befektetésekre és a világ kiterjedt területére specializálódott Web3. Élénk szemmel figyeli a feltörekvő trendeket és technológiákat, ezért átfogó tájékoztatást nyújt, hogy tájékoztassa és bevonja olvasóit a digitális pénzügyek folyamatosan fejlődő világába.
További cikkek
Alisa, a The MPost, kriptovalutákra, mesterséges intelligenciára, befektetésekre és a világ kiterjedt területére specializálódott Web3. Élénk szemmel figyeli a feltörekvő trendeket és technológiákat, ezért átfogó tájékoztatást nyújt, hogy tájékoztassa és bevonja olvasóit a digitális pénzügyek folyamatosan fejlődő világába.
