Databricks veröffentlicht Dolly 2.0, das erste im Handel erhältliche Open-Source-12B-Chat-LLM
In Kürze
Databricks kündigte die Einführung von Dolly 2.0 als dem ersten kommerziell erhältlichen Open-Source-12B-Chat-LLM an, mit dem Unternehmen leistungsstarke Sprachmodelle erstellen können, ohne in teure GPU-Cluster investieren zu müssen.
Databricks hat angekündigt die Einführung von Dolly 2.0 als dem ersten kommerziell erhältlichen Open-Source-12B-Chat-LLM. Dolly ist ein großer Durchbruch für die Branche des maschinellen Lernens, der es Unternehmen ermöglicht, leistungsstarke Sprachmodelle – wie etwa autoregressive LLMs mit Dialogunterstützung – zu erstellen, ohne in teure GPU-Cluster investieren zu müssen.
Um sein Open-Source-Sprachmodell zu erhalten, benötigte Databricks einen großen, qualitativ hochwertigen Datensatz. Nachdem ich zunächst über das Alpaka nachgedacht hatte GPT-3 Da es sich dabei um einen Datensatz und andere Open-Source-Datensätze handelte, die keine kommerzielle Nutzung zulassen, beschlossen sie, einen eigenen hochwertigen Datensatz zu erstellen. Zu diesem Zweck beschäftigten sie 5,000 Mitarbeiter und baten sie, mehrere Beispiele zu schreiben, anhand derer ein autoregressiver LLM trainiert werden sollte, der in der Lage ist, den Text einfach fortzusetzen und keinen Dialog zu führen. Mit Hilfe toller Anreize, etwa Prämien für das Verfassen der besten Beispiele, gelang es ihnen, ein beeindruckendes Ergebnis zu erzielen 15,000 Beispieldatensätze.
Databricks ging den nächsten Schritt und integrierte EleutherAIs Pythia-12B Sprachmodell mit einer MIT-Lizenz und trainierten es auf ihrem eigenen Datensatz neu, was zu Dolly 2.0 führte. Dolly 2.0 wurde zusammen mit dem zugehörigen Code unter einer MIT-Lizenz veröffentlicht. Mit der Einführung von Dolly 2.0 verfügt die Branche des maschinellen Lernens nun über ein leistungsstarkes Tool zur kostengünstigen Erstellung robuster Sprachmodelle. Dies kann von Unternehmen und Einzelpersonen gleichermaßen genutzt werden, die leistungsstarke Anwendungen erstellen möchten, die komplexe Sprache verstehen und verarbeiten können.
Insgesamt ist der Start von Puppe 2.0 als erstes kommerziell verfügbares Open-Source-12B-Chat-LLM ist ein bedeutender Meilenstein für die Branche des maschinellen Lernens. Durch die Nutzung der MIT-Lizenz und die Erstellung eines eigenen hochwertigen Datensatzes hat Databricks leistungsstarke Sprachmodelle für Unternehmen und Einzelpersonen gleichermaßen zugänglich gemacht. Dolly 2.0 wird die Branche revolutionieren und ist ein großer Fortschritt für maschinelles Lernen.
Die Benutzer warten nun darauf, dass die Entwickler Dolly in 4 Bit quantisieren und für die Ausführung auf der CPU beschleunigen, sowie auf eine Antwort von OpenAssistant, der ihr Modell voraussichtlich in den nächsten Tagen bereitstellen wird.
- Die NTIA bittet um öffentliche Stellungnahmen zu möglichen Regelungen KI-Systeme regulieren Gefällt mir ChatGPT um der Biden-Regierung dabei zu helfen, sicherzustellen, dass sie wie versprochen funktioniert. Die NTIA veröffentlichte eine Erklärung zur Regelung der KI-Rechenschaftspflicht, die künftige Pannen verhindern und die Risiken hypothetischer Bedrohungen minimieren könnte.
Lesen Sie mehr über KI:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
Weitere Artikel
Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.
