Databricks publica Dolly 2.0, el primer 12B Chat-LLM de codi obert disponible comercialment
En breu
Databricks va anunciar el llançament de Dolly 2.0 com el primer 12B Chat-LLM de codi obert disponible comercialment, que permet a les empreses crear models de llenguatge potents sense invertir en clústers de GPU cars.
Databricks té anunciat el llançament de Dolly 2.0 com el primer 12B Chat-LLM de codi obert disponible comercialment. Dolly és un gran avenç per a la indústria de l'aprenentatge automàtic, que permet a les empreses crear models de llenguatge potents, com ara LLM autoregressius amb suport de diàleg, sense haver d'invertir en clústers de GPU cars.
Per obtenir el seu model de llenguatge de codi obert, Databricks necessitava un conjunt de dades gran i d'alta qualitat. Després de considerar inicialment l'Alpaca GPT-3 conjunt de dades i altres conjunts de dades de codi obert que no permeten l'ús comercial, van decidir crear el seu propi conjunt de dades d'alta qualitat. Per fer-ho, van donar feina a 5,000 persones i els van demanar que escriguessin diversos exemples que servirien per formar un LLM autoregressiu capaç simplement de continuar el text i no conduir un diàleg. Amb l'ajuda de grans incentius, com les bonificacions per escriure els millors exemples, van poder muntar un impressionant Conjunt de dades de 15,000 mostres.
Databricks va fer el següent pas i va incorporar EleutherAI Pythia-12B model d'idioma amb una llicència MIT i el van tornar a entrenar en el seu propi conjunt de dades, donant lloc a Dolly 2.0. Dolly 2.0 s'ha publicat sota una llicència MIT, juntament amb el codi que l'acompanya. Amb el llançament de Dolly 2.0, la indústria de l'aprenentatge automàtic té ara una eina potent per crear models d'idiomes sòlids d'una manera rendible. Això pot ser utilitzat tant per empreses com per individus que busquen crear aplicacions potents que puguin entendre i processar un llenguatge complex.
En conjunt, el llançament de Dolly 2.0 com el primer 12B Chat-LLM de codi obert disponible comercialment és una fita significativa per a la indústria de l'aprenentatge automàtic. En aprofitar la llicència del MIT i crear el seu propi conjunt de dades d'alta qualitat, Databricks ha fet que els models lingüístics potents siguin accessibles tant per a empreses com per a persones. Dolly 2.0 suposa una revolució en la indústria i és un gran pas endavant per a l'aprenentatge automàtic.
Els usuaris ara esperen que els desenvolupadors quantitzin Dolly en 4 bits i l'acceleren per executar-se a la CPU, així com una resposta d'OpenAssistant, que s'espera que proporcioni el seu model en els propers dies.
- La NTIA demana comentaris públics sobre possibles regulacions que regular els sistemes d'IA M'agrada ChatGPT per ajudar l'administració de Biden a garantir que funcionin com s'havia promès. La NTIA va publicar una declaració sobre l'elaboració de normes de responsabilitat de la IA, que podria prevenir futurs contratemps i minimitzar els riscos d'amenaces hipotètiques.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
