Databricks vydáva Dolly 2.0, prvý komerčne dostupný open-source 12B Chat-LLM
Stručne
Databricks oznámila spustenie Dolly 2.0 ako prvého komerčne dostupného open source 12B Chat-LLM, ktorý umožňuje spoločnostiam vytvárať výkonné jazykové modely bez investovania do drahých GPU klastrov.
Databricks má oznámila, spustenie Dolly 2.0 ako prvého komerčne dostupného open-source 12B Chat-LLM. Dolly je veľkým prielomom pre priemysel strojového učenia, ktorý umožňuje spoločnostiam vytvárať výkonné jazykové modely – ako napríklad autoregresívne LLM s podporou dialógu – bez toho, aby museli investovať do drahých GPU klastrov.
| Prečítajte si viac: Ako používať ChatGPT (GPT-4) navždy zadarmo |
Na získanie modelu jazyka s otvoreným zdrojovým kódom potreboval Databricks veľký a vysokokvalitný súbor údajov. Po prvotnom zvážení Alpaky GPT-3 dataset a ďalšie open-source datasety, ktoré neumožňujú komerčné využitie, sa rozhodli vybudovať vlastný kvalitný dataset. Na tento účel zamestnali 5,000 ľudí a požiadali ich, aby napísali niekoľko príkladov, ktoré by sa použili na školenie autoregresívneho LLM schopného jednoducho pokračovať v texte a neviesť dialóg. S pomocou skvelých stimulov, ako sú bonusy za napísanie najlepších príkladov, dokázali zostaviť pôsobivé 15,000 XNUMX vzorových údajov.
Databricks urobili ďalší krok a začlenili EleutherAI's Pythia-12B jazykový model s licenciou MIT a preškolili ho na vlastný súbor údajov, výsledkom čoho je Dolly 2.0. Dolly 2.0 bol vydaný pod licenciou MIT spolu so sprievodným kódom. So spustením Dolly 2.0 má teraz odvetvie strojového učenia výkonný nástroj na vytváranie robustných jazykových modelov nákladovo efektívnym spôsobom. Toto môžu využiť spoločnosti aj jednotlivci, ktorí chcú vytvárať výkonné aplikácie, ktoré dokážu porozumieť a spracovať zložitý jazyk.
Celkovo spustenie Dolly 2.0 ako prvý komerčne dostupný open-source 12B Chat-LLM je významným míľnikom pre priemysel strojového učenia. Využitím licencie MIT a vytvorením vlastného vysokokvalitného súboru údajov Databricks sprístupnil výkonné jazykové modely spoločnostiam aj jednotlivcom. Dolly 2.0 znamená revolúciu v tomto odvetví a je veľkým krokom vpred pre strojové učenie.
Používatelia teraz čakajú, kým vývojári kvantujú Dolly v 4 bitoch a urýchlia ich spustenie na CPU, ako aj odpoveď od OpenAssistant, ktorý by mal poskytnúť svoj model v najbližších dňoch.
- NTIA žiada o verejné pripomienky k prípadným nariadeniam, ktoré regulovať systémy AI Ako ChatGPT pomôcť Bidenovej administratíve zabezpečiť, aby fungovali tak, ako sľúbili. NTIA vydala vyhlásenie týkajúce sa tvorby pravidiel o zodpovednosti AI, ktoré by mohlo zabrániť budúcim nehodám a minimalizovať riziká vyplývajúce z hypotetických hrozieb.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
