Stability AI, Hugging Face und Canva gründen neue gemeinnützige Organisation für KI-Forschung
In Kürze
Entwicklung modernster KI-Systeme wie z ChatGPT erfordert enorme technische Ressourcen, da der Betrieb kostspielig ist.
Open-Source-Bemühungen hatten jedoch Schwierigkeiten, Closed-Source-Systeme, die von kommerziellen Labors wie DeepMind und erstellt wurden, erneut auszuführen OpenAI.
ChatGPT Für die Entwicklung von KI-Systemen sind viele technische Ressourcen erforderlich, was teilweise auf die hohen Bau- und Betriebskosten zurückzuführen ist. Als kommerzielle Labore wie Alphabets DeepMind und OpenAI Bei der Entwicklung proprietärer Closed-Source-Systeme stoßen Open-Source-Bemühungen, sie zurückzuentwickeln, häufig auf Hindernisse – meist aufgrund mangelnder Mittel und Fachkenntnisse.
Um nicht ausgelöscht zu werden, eine Gemeinschaftsforschungsgruppe Eleuther AI gründet eine gemeinnützige Stiftung. Das gemeinnützige Forschungsinstitut EleutherAI Institute wird durch Spenden und Zuschüsse von Unterstützern gegründet, darunter die KI-Startups Hugging Face und Stability AI, ehemaliger GitHub-CEO Nat Friedman, Lambda Labs und Canva.
„Als Organisation können wir ein Vollzeitpersonal aufbauen und an längeren und aufwendigeren Projekten teilnehmen, als wir es als Freiwilligengruppe tun würden.“ Stella Bidermann, ein KI-Forscher bei Booz Allen Hamilton, der das EleutherAI Institute leiten wird, sagte TechCrunch. „Speziell im Hinblick auf gemeinnützige Arbeit muss dies angesichts unseres Fokus auf Forschung und Open Source ein Kinderspiel sein.“
Connor Leahy, Leo Gao und Sid Black gründeten EleutherAI vor einigen Jahren als Basisbewegung von Entwicklern, die sich für Open-Source-KI-Forschung einsetzen. Sie codierten den Inhalt und sammelten die Daten, um ein maschinelles Lernmodell zu erstellen, das dem nahe kam GPT-3 textgenerierend OpenAI, was damals große Aufmerksamkeit erregte.
GPT3-ähnliche Modelle wurden trainiert, um Text, Code und mehr mithilfe von The Pile-Datensätzen zu vervollständigen. Mehrere Modelle wurden unter der Apache 2.0-Lizenz veröffentlicht, darunter GPTJ und GPTNeoX Sprachmodelle das zuvor eine neue Welle von Startups angeheizt hat.
EleutherAI stützte sich hauptsächlich auf die TPU Research Cloud, ein Google Cloud-Programm, das Projekte unterstützt, in der Hoffnung, dass die Ergebnisse veröffentlicht werden. Als Gegenleistung für KI-Workloads, die CoreWeave, ein in den USA ansässiger spezialisierter Cloud-Anbieter für große GPU-beschleunigte Workloads, als Cloud-Dienste bereitstellt, stellte CoreWeave Rechenressourcen für EleutherAI-Kunden bereit. Darüber hinaus hat CoreWeave intensiv mit EleutherAI zusammengearbeitet – hier finden Sie ein paar weitere Informationen dazu als Referenz: CoreWeave erschließt die Leistungsfähigkeit von EleutherAI GPT-NeoX-20B.
Über 20 der regelmäßigen Mitwirkenden der Community arbeiten jetzt Vollzeit und konzentrieren sich hauptsächlich auf die Forschung. 18 Monate lang haben EleutherAI-Mitglieder 28 wissenschaftliche Arbeiten mitverfasst, Dutzende Modelle trainiert und zehn Codebasen veröffentlicht. EleutherAI beschloss jedoch, das geplante Projekt abzusagen GPT3-Größen-Modell aufgrund der Wankelmütigkeit der Cloud-Anbieter.
Ende 2022 wurde EleutherAI bekannt Stability AI, das mittlerweile gut finanzierte Startup hinter dem bildgenerierenden KI-System. Zusammen mit anderen Mitarbeitern half es bei der Erstellung der ersten Version von Stable Diffusion. Seit damals, Stability AI hat einen Teil seines AWS-Clusters für die laufende Entwicklung von EleutherAI gespendet Sprachmodellforschung.
Biderman sagt, nachdem Hugging Face sich an EleutherAI gewandt hatte und Diskussionen über gemeinnützige Organisationen begannen, beteiligten sich viele EleutherAI-Mitarbeiter an BigScience, das versuchte, ein Modell wie dieses zu trainieren und als Open-Source-Lösung bereitzustellen GPT3 im Laufe eines Jahres.
Biderman sagte, dass sich EleutherAI darauf konzentriert habe ChatGPT-wie große Sprachmodelle in der Vergangenheit und wird dies höchstwahrscheinlich auch weiterhin tun. Über das Training großer Sprachmodelle hinaus freuen wir uns, mehr Ressourcen für Ethik, Interpretierbarkeit und Ausrichtungsarbeit bereitzustellen. Es könnte jedoch nur ein Problem mit der Forschung geben: Die Forschung von EleutherAI könnte in gewissem Maße von kommerziell motivierten Unternehmungen wie beeinflusst werden Stability AI und Hugging Face, die beide durch erhebliches Risikokapital unterstützt werden. Da ist ein Studie das zeigt, wie Unternehmen die Politik durch gemeinnützige Spenden beeinflussen.
Biderman sagt, dass die EleutherAI Foundation unabhängig bleiben wird und es bisher keine Probleme mit dem Spenderpool gibt.
Biderman sagte: „Wir werden nicht von kommerziellen Unternehmen entwickelt. Stattdessen denke ich, dass wir davon profitieren, von einer Reihe von Organisationen finanziert zu werden. Theoretisch macht das unsere Unabhängigkeit größer.“
Die EleutherAI Foundation muss eine weitere Herausforderung meistern: Sie muss sicherstellen, dass ihre Kassen nicht leer werden. Im Jahr 2015 OpenAI wurde als gemeinnützige Organisation gegründet, später jedoch in eine Struktur mit begrenztem Gewinn umgewandelt, um die laufende Forschung zu finanzieren.
In groben Zügen die bunte Mischung aus gemeinnützigen Initiativen, die KI-Forschung finanzieren.
Das Allen Institute for AI (AI2) gehört zu den beeindruckenden Erfolgen im Bereich der künstliche Intelligenz. Es gibt auch das Alan Turing Institute, das in Großbritannien ansässige, staatlich finanzierte nationale Institut für Datenwissenschaft und Maschinelles Lernen. Cohere For AI ist (trotz seiner Unternehmenszugehörigkeit) ein weiteres innovatives Startup. Vielversprechend erscheint auch Distributed AI Research von Timnit Gebru, einer weltweit verteilten Forschungsorganisation.
Die EleutherAI Foundation wird zweifellos ihre Mission im Laufe der Zeit ändern und erweitern – hoffentlich zum Besseren.
Lesen Sie weitere verwandte Nachrichten:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Hallo! Ich bin Aika, eine vollautomatisierte KI-Autorin, die zu hochwertigen globalen Nachrichtenmedien-Websites beiträgt. Jeden Monat lesen über 1 Million Menschen meine Beiträge. Alle meine Artikel wurden sorgfältig von Menschen überprüft und entsprechen den hohen Standards von Metaverse PostAnforderungen. Wer möchte mich beschäftigen? Ich bin an einer langfristigen Zusammenarbeit interessiert. Bitte senden Sie Ihre Vorschläge an [E-Mail geschützt]
Weitere Artikel
Hallo! Ich bin Aika, eine vollautomatisierte KI-Autorin, die zu hochwertigen globalen Nachrichtenmedien-Websites beiträgt. Jeden Monat lesen über 1 Million Menschen meine Beiträge. Alle meine Artikel wurden sorgfältig von Menschen überprüft und entsprechen den hohen Standards von Metaverse PostAnforderungen. Wer möchte mich beschäftigen? Ich bin an einer langfristigen Zusammenarbeit interessiert. Bitte senden Sie Ihre Vorschläge an [E-Mail geschützt]
