Stability AI、Hugging Face、Canva が AI 研究のための新しい非営利団体を設立
簡単に言えば
などの最先端の AI システムの開発 ChatGPT 運営にはコストがかかるため、膨大な技術リソースが必要です。
しかし、オープンソースへの取り組みは、DeepMind や OpenAI.
ChatGPT AI システムの開発には多くの技術リソースが必要ですが、その理由の XNUMX つは構築コストと運用コストが高いことです。 Alphabet の DeepMind や OpenAI 独自のクローズドソース システムを開発している一方で、それらをリバース エンジニアリングするオープンソースの取り組みは、しばしば障害に遭遇しています。その主な原因は、十分な資金と専門知識の不足です。
一掃されるのを避けるために、あるコミュニティ研究グループ エレウテライ 非営利財団を設立しています。 非営利研究機関 EleutherAI Institute は、AI スタートアップの Hugging Face や Stability AI、元 GitHub CEO の Nat Friedman、Lambda Labs、Canva です。
「組織として、フルタイムのスタッフを編成し、ボランティア グループとして行うよりも長く、より複雑なプロジェクトに参加できます。」 ステラ・ビダーマンEleutherAI Instituteを率いるブーズ・アレン・ハミルトンのAI研究者は、次のように述べています。 TechCrunchの. 「特に非営利活動に関しては、私たちが研究とオープンソースに重点を置いていることを考えると、それは簡単なことであるに違いありません。」
Connor Leahy、Leo Gao、Sid Black は、AI 研究のオープンソース化に取り組む開発者の草の根運動として、数年前に EleutherAI を設立しました。 彼らはコンテンツをコーディングし、データを収集して、次のような機械学習モデルを作成しました。 GPT-3 テキスト生成 OpenAI、当時大きな注目を集めていました。
GPT3 のようなモデルは、The Pile データセットを使用してテキストやコードなどを完成させるようにトレーニングされました。 いくつかのモデルが Apache 2.0 ライセンスの下でリリースされました。 GPTJと GPTNEOX 言語モデル 以前はスタートアップの新しい波を煽っていました。
EleutherAI は主に、成果が公開されることを期待してプロジェクトをサポートする Google Cloud プログラムである TPU Research Cloud に依存していました。 大規模な GPU アクセラレーション ワークロード向けに構築された米国に拠点を置く専門クラウド プロバイダーである CoreWeave がクラウド サービスとして提供する AI ワークロードと引き換えに、CoreWeave は EleutherAI の顧客にコンピューティング リソースを提供しました。 さらに、CoreWeave は EleutherAI と広範囲に連携しています。参考までに、これについてもう少し詳しく説明します。「CoreWeave Unlocks the Power of EleutherAI のパワー」 GPT-ネオX-20B。
コミュニティの常連寄稿者のうち 20 人以上が現在フルタイムで働いており、主に研究に集中しています。 18 か月間、EleutherAI のメンバーは 28 の学術論文を共同執筆し、数十のモデルをトレーニングし、XNUMX のコードベースをリリースしました。 しかし、EleutherAIは計画をキャンセルすることを決定しました GPTクラウドプロバイダーの気まぐれによる3サイズモデル。
2022 年後半、EleutherAI は、 Stability AI、画像生成AIシステムの背後にある現在、資金が豊富な新興企業です。 他の協力者とともに、の初期バージョンの作成に協力しました。 Stable Diffusion。 それ以来、 Stability AI は、EleutherAI の継続的な活動のために AWS クラスターの一部を寄付しました。 言語モデル研究.
ビダーマン氏によると、Hugging Face が EleutherAI にアプローチし、非営利の議論が始まった後、多くの EleutherAI 従業員が BigScience に関与し、BigScience は次のようなモデルをトレーニングしてオープンソース化しようとしたと述べています。 GPT3年間でXNUMX回。
ビダーマン氏は、EleutherAI が焦点を当てていると述べた。 ChatGPT-これまでの大規模な言語モデルと同様であり、おそらく今後もそうし続けるでしょう。 大規模な言語モデルのトレーニングを超えて、倫理、解釈可能性、調整作業により多くのリソースを投入できることに興奮しています。 ただし、この研究には問題が XNUMX つだけあるかもしれません。EleutherAI の研究は、次のような商業目的のベンチャー企業の影響を多少受けている可能性があります。 Stability AI そしてHugging Face、どちらも多額のベンチャーキャピタルの支援を受けています。 があります 研究 これは、企業が非営利団体への寄付を通じてどのように政策に影響を与えるかを示しています。
Biderman 氏によると、EleutherAI Foundation は独立したままであり、今のところドナー プールに問題はありません。
ビダーマン氏は、「私たちは営利企業によって開発されたものではありません。 代わりに、さまざまな組織から資金提供を受けることで利益を得ていると思います。 理論的には、それが私たちの独立性を高めます。」
EleutherAI Foundation は、金庫が枯渇しないようにするという別の課題を克服する必要があります。 2015年に、 OpenAI は非営利として設立されましたが、その後、進行中の研究に資金を提供するために「利益制限付き」構造に変更されました。
大まかに言えば、AI研究に資金を提供する非営利イニシアチブの混合バッグです。
アレン人工知能研究所 (AI2) は、次の分野で目覚ましい成功を収めています。 人工知能. また、英国を拠点とし、政府が資金を提供する国立データ サイエンス研究所であるアラン チューリング研究所もあります。 機械学習. Cohere For AI (企業と提携しているにもかかわらず) は、もう XNUMX つの革新的なスタートアップです。 世界的な分散型研究組織である Timnit Gebru による Distributed AI Research も有望なようです。
EleutherAI Foundation は、間違いなく、時間の経過とともにその使命を変更し、拡大します。
関連ニュースをもっと読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
