ハグフェイスCEO、2024年は小型AIモデルが主流になると予測
簡単に言えば
2024 年には、企業が効率性、費用対効果、アクセシビリティの限界を押し上げるにつれて、小規模言語モデルが台頭するでしょう。
人工知能2024 年は、企業が効率性、費用対効果、アクセシビリティの限界を押し上げる中、小規模言語モデル (SLM) の台頭により、重要な転換点を迎える年となります。
大規模なラージ言語モデル (LLM) の優位性からコンパクトで強力な SLM の出現に至る過程は、言語モデルの再構築を約束します。 AI の展望.
この主張は、 ハグ顔.
「Microsoft AI の Phi-2 は現在、Hugging Face でナンバー 2024 のトレンド モデルです。 XNUMX 年は小型 AI モデルの年になるでしょう!」デラング氏はこう語った。 LinkedInの投稿.
さらに、XNUMX月初旬にはフランスのAIスタートアップMistralが多額の資金を調達した直後、 415万ドル この資金調達ラウンドでは、オープンソースの SLM である Mixtral 8x7B が導入され、その品質に匹敵する能力で急速に注目を集めています。 GPT-3特定のベンチマークでは .5 であり、100 ギガバイトの RAM を搭載した XNUMX 台のコンピュータ上で動作します。
「専門家のまばらな混合」モデルと呼ばれるミストラルのアプローチは、特定のタスク用にトレーニングされた小規模なモデルを組み合わせて、驚くべき効率を達成します。
テクノロジーの巨人、負けてはいけません Microsoft 同社は、自社開発の SLM の最新バージョンである Phi-2 でアリーナに参入しました。 Phi-2.7 はパラメータ数がわずか 2 億で特に小型で、携帯電話上で動作するように設計されており、機能を犠牲にすることなくモデルを小型化するという業界の取り組みを示しています。
のようなモデル GPT-3は 175 億という驚異的なパラメータを誇り、人間のようなテキストを生成し、質問に答え、文書を要約する機能を実証しました。ただし、効率、コスト、カスタマイズ可能性に関する懸念など、LLM に固有の欠点により、SLM の優位性への道が開かれました。
小規模言語モデル開発を推進する要因
SLM は、より少ないパラメーターで合理化されたアプローチを誇り、その結果、より高速な推論速度とより高いスループットを実現します。メモリとストレージの要件が軽減されることで計算プロセスが機敏になり、モデルの容量は常にデータ食欲の増大と並行しなければならないという従来の考えに疑問を投げかけます。
大規模な言語モデルは次のようなものですが、 GPT-3 開発には数千万ドルかかることも多い法外なコストがかかりますが、SLM は費用対効果の高い代替手段となります。
これらのモデルは、すぐに入手できる汎用ハードウェア上でトレーニング、展開、運用できるため、企業にとって経済的に実行可能な選択肢となります。さらに、リソース要件が控えめであるため、低電力デバイスでオフラインで実行されるエッジ コンピューティングのアプリケーションの理想的な候補となります。
同様に、SLM の主な長所はカスタマイズ可能性にあります。ドメイン間の侵害を意味する大規模な対応物とは異なり、SLM は特定のアプリケーションに合わせて細かく調整できます。反復サイクルが速いため実際の実験が容易になり、開発者はモデルを特定のニーズに適応させることができます。
2024 年が近づくにつれ、小規模言語モデルの台頭は、人工知能の変革の時代を告げています。イノベーションとアクセシビリティが融合し、小型 AI モデルの年に向けて舞台が整いました。defi人工知能の可能性ですね。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
より多くの記事
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
