Databricks julkaisee Dolly 2.0:n, ensimmäisen kaupallisesti saatavilla olevan avoimen lähdekoodin 12B Chat-LLM:n
Lyhyesti
Databricks ilmoitti Dolly 2.0:n lanseeraamisesta ensimmäisenä kaupallisesti saatavilla olevana avoimen lähdekoodin 12B Chat-LLM:nä, jonka avulla yritykset voivat luoda tehokkaita kielimalleja investoimatta kalliisiin GPU-klustereihin.
Databricksillä on ilmoitti Dolly 2.0:n julkaisu ensimmäisenä kaupallisesti saatavilla olevana avoimen lähdekoodin 12B Chat-LLM:nä. Dolly on suuri läpimurto koneoppimisteollisuudelle, jonka avulla yritykset voivat luoda tehokkaita kielimalleja – kuten dialogituella varustettuja autoregressiivisiä LLM-malleja – ilman, että heidän tarvitsee investoida kalliisiin GPU-klustereihin.
Saadakseen avoimen lähdekoodin kielimallinsa Databricks tarvitsi suuren, korkealaatuisen tietojoukon. Aluksi harkittuaan Alpakkaa GPT-3 tietojoukot ja muut avoimen lähdekoodin tietojoukot, jotka eivät salli kaupallista käyttöä, päättivät rakentaa oman korkealaatuisen tietojoukon. Tätä varten he työllistivät 5,000 XNUMX ihmistä ja pyysivät heitä kirjoittamaan useita esimerkkejä, joita käytettäisiin kouluttamaan autoregressiivistä LLM:ää, joka kykenee yksinkertaisesti jatkamaan tekstiä ilman dialogia. Hyvien kannustimien avulla, kuten bonukset parhaiden esimerkkien kirjoittamisesta, he pystyivät koomaan vaikuttavan 15,000 XNUMX näyteaineistoa.
Databricks otti seuraavan askeleen ja sisällytti EleutherAI:n Pythia-12B kielimallin MIT-lisenssillä ja kouluttivat sen uudelleen omalla tietojoukollaan, jolloin tuloksena oli Dolly 2.0. Dolly 2.0 on julkaistu MIT-lisenssillä mukana tulevan koodin kanssa. Dolly 2.0:n julkaisun myötä koneoppimisteollisuudella on nyt tehokas työkalu kestävien kielimallien luomiseen kustannustehokkaalla tavalla. Tätä voivat hyödyntää niin yritykset kuin yksityishenkilötkin, jotka haluavat luoda tehokkaita sovelluksia, jotka ymmärtävät ja käsittelevät monimutkaista kieltä.
Kaiken kaikkiaan käynnistäminen Dolly 2.0 ensimmäinen kaupallisesti saatavilla oleva avoimen lähdekoodin 12B Chat-LLM on merkittävä virstanpylväs koneoppimisteollisuudelle. Hyödyntämällä MIT-lisenssiä ja luomalla oman korkealaatuisen tietojoukon Databricks on tuonut tehokkaita kielimalleja sekä yritysten että yksityishenkilöiden saataville. Dolly 2.0 mullistaa alan ja on suuri askel eteenpäin koneoppimisessa.
Käyttäjät odottavat nyt, että kehittäjät kvantisoivat Dollyn 4-bittisenä ja nopeuttavat sitä toimimaan prosessorilla, sekä vastausta OpenAssistantilta, jonka odotetaan tarjoavan heidän mallinsa lähipäivinä.
- NTIA pyytää julkisia kommentteja mahdollisista määräyksistä säännellä tekoälyjärjestelmiä pitää ChatGPT auttaa Bidenin hallintoa varmistamaan, että ne toimivat luvatulla tavalla. NTIA julkaisi lausunnon tekoälyn vastuullisuussäännöistä, jotka voivat estää tulevia onnettomuuksia ja minimoida hypoteettisten uhkien riskit.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
