Databricks publiceert Dolly 2.0, de eerste commercieel verkrijgbare open-source 12B Chat-LLM
In het kort
Databricks kondigde de lancering aan van Dolly 2.0 als de eerste commercieel verkrijgbare open-source 12B Chat-LLM, waarmee bedrijven krachtige taalmodellen kunnen creëren zonder te investeren in dure GPU-clusters.
Databricks heeft aangekondigd de lancering van Dolly 2.0 als de eerste commercieel verkrijgbare open-source 12B Chat-LLM. Dolly is een grote doorbraak voor de machine learning-industrie, waardoor bedrijven krachtige taalmodellen kunnen maken, zoals autoregressieve LLM's met dialoogondersteuning, zonder te hoeven investeren in dure GPU-clusters.
| Lees verder: Hoe te gebruiken ChatGPT (GPT-4) voor altijd gratis |
Om hun open-source taalmodel te verkrijgen, had Databricks een grote dataset van hoge kwaliteit nodig. Na aanvankelijk de Alpaca te hebben overwogen GPT-3 dataset en andere open-source datasets die geen commercieel gebruik toestaan, besloten ze hun eigen hoogwaardige dataset te bouwen. Om dit te doen, hadden ze 5,000 mensen in dienst en vroegen ze hen verschillende voorbeelden te schrijven die zouden worden gebruikt om een autoregressieve LLM op te leiden die in staat was eenvoudigweg de tekst voort te zetten en geen dialoog te voeren. Met behulp van geweldige prikkels, zoals bonussen voor het schrijven van de beste voorbeelden, konden ze een indrukwekkend geheel samenstellen 15,000 voorbeelddataset.
Databricks nam de volgende stap en integreerde EleutherAI's Pythia-12B taalmodel met een MIT-licentie, en omgeschoold op hun eigen dataset, resulterend in Dolly 2.0. Dolly 2.0 is uitgebracht onder een MIT-licentie, samen met de bijbehorende code. Met de lancering van Dolly 2.0 beschikt de machine learning-industrie nu over een krachtige tool om op een kosteneffectieve manier robuuste taalmodellen te creëren. Dit kan worden gebruikt door zowel bedrijven als individuen die op zoek zijn naar krachtige applicaties die complexe taal kunnen begrijpen en verwerken.
Kortom, de lancering van Dollie 2.0 als de eerste commercieel verkrijgbare open-source 12B Chat-LLM is een belangrijke mijlpaal voor de machine learning-industrie. Door gebruik te maken van de MIT-licentie en zijn eigen hoogwaardige dataset te creëren, heeft Databricks krachtige taalmodellen toegankelijk gemaakt voor zowel bedrijven als particulieren. Dolly 2.0 staat voor een revolutie in de branche en is een grote stap voorwaarts voor machine learning.
Gebruikers wachten nu op de ontwikkelaars om Dolly in 4 bits te kwantiseren en te versnellen om op de CPU te draaien, evenals een reactie van OpenAssistant, die naar verwachting hun model in de komende dagen zal presenteren.
- De NTIA vraagt om publiek commentaar op mogelijke regelgeving die AI-systemen reguleren als ChatGPT om de regering-Biden te helpen ervoor te zorgen dat ze functioneren zoals beloofd. De NTIA heeft een verklaring uitgebracht over de regelgeving voor AI-verantwoording, die toekomstige ongelukken zou kunnen voorkomen en de risico’s van hypothetische bedreigingen zou kunnen minimaliseren.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
