2024 年 3 月 08 日

RagaAI が言語モデルの評価と安全性を容易にするオープンソース LLM ハブを発表

公開日: 08 年 2024 月 5 日午前 12:08 更新日: 2024 年 5 月 22 日午前 XNUMX:XNUMX

簡単に言えば

RagaAI は、AI 固有の言語モデルのガードレールを評価および確立するためのオープンソースプラットフォームである「RagaAI LLM Hub」を立ち上げました。

RagaAI が言語モデルの評価と安全性を容易にするオープンソース LLM ハブを発表

AIテストプラットフォームラガアイ最近「」の発売を発表しました。RagaAI LLM ハブ」、ガードレールを評価および確立するために設計されたオープンソースのエンタープライズ対応プラットフォームです。大規模な言語モデル (LLM)。このプラットフォームは、細心の注意を払って作成された 100 を超えるメトリクスを備えており、LLM および取得拡張生成 (RAG) アプリケーションにおける壊滅的な障害を防ぐことを目的としています。

RagaAI LLM ハブは、開発者と組織に、LLM を効果的に評価および比較するための強力なツールキットを提供し、関連性と理解、コンテンツ品質、幻覚、安全性とバイアス、コンテキストの関連性、ガードレール、脆弱性のスキャン。さらに、定量分析のための一連のメトリックベースのテストも提供します。

「データサイエンティストや企業がどのようなテクノロジーやスタックが自社に適しているかを把握しているため、LLM 構築の世界では現在、LLM の総合的な評価が重要な要件となっています。問題を診断するには、問題の原因を注意深く特定する必要があり、考えられる根本原因が何百もある場合、その根本原因を特定するには何百ものメトリクスが必要です。」ガウラフ・アガルワルとRagaAIの創設者は語った。 MPost.

「RagaAI LLM Hub の包括的なテスト機能は、開発者のワークフローに大きな価値をもたらし、アドホック分析を排除することで重要な時間を節約し、LLM 開発を 3 倍加速します。」

RagaAI LLM Hub は、概念実証から本番アプリケーションに至るまで、LLM ライフサイクル全体にわたる問題に対処するように設計されており、内部の根本的な問題を特定します。 LLM アプリケーションソースでの解決を促進し、信頼性と信頼性を確保するためのアプローチに革命をもたらします。

RagaAI は、LLM ハブがさまざまな意思決定の側面をカバーする一連のテストを通じてこの機能を強化すると主張しています。

プロンプト: 敵対的な攻撃を軽減するガードレールを確立しながら、最適なプロンプトテンプレートを反復して特定します。
RAG のコンテキスト管理: ユーザーが大規模な運用時に LLM パフォーマンスとコスト/遅延の間の最適なバランスを見つけるのを支援します。
応答の生成: メトリクスを使用して LLM 応答内の幻覚を特定し、バイアス、PII 漏洩、その他の潜在的な問題を防ぐためのガードレールを確立します。

LLM 診断による AI の幻覚と偏見の軽減

RagaAI LLM Hub は、電子商取引、金融、マーケティング、法律、ヘルスケアなどのさまざまな業界にわたるアプリケーションを見つけ、次のようなタスクで開発者や企業をサポートします。チャットボット、コンテンツの作成、テキストの要約、ソースコードの生成。

RagaAI LLM Hub は、評価を超えて、データのプライバシーと法的コンプライアンスを確保するためのガードレールの設定を支援し、倫理的および法的遵守を促進します。責任あるAI 特に金融、医療、法律などのデリケートな分野での慣行。

「電子商取引分野のお客様の 1 人は、カスタマーサポート用のチャットボットに LLM を使用していましたが、チャットボットは間違った回答を返していました。 RagaAI を使用することで、この問題は正常に検出され、解決されました」と RagaAI の Gaurav Agarwal 氏は語った MPost。「健康保険においては、患者の個人情報を保護することが重要です。当社の顧客の 3 社では、重要な個人情報の一部がサードパーティに共有され、データプライバシーに関する大きな問題となりました。 RagaAI LLM Hub ガードレールを使用することで、この問題と同様の問題がリアルタイムで検出され、発生が防止されました。」

さらに、社会規範や価値観を遵守することで風評リスクを軽減することも目的としています。

「RagaAI は、LLM 応答における個人識別情報 (PII) の検出などのガードレールの設定に役立ちます。これにより、内部文書の個人データが LLM アプリケーションによって漏洩されることがなくなり、Responsible AI にとって重要です」と Gaurav Agarwal 氏は説明しました。「これと、偏見のない公正な対応の確保、競合他社についてコメントしないこと、重要な非公開情報（MNPI）の削除などのその他のガードレールは、社会的および評判への損害を回避しようとする企業にとって非常に重要です。」

RagaAI LLM Hub の立ち上げは成功に続きます 4.7万ドル pi Ventures 主導による 2024 年 XNUMX 月のシード資金調達ラウンドで、 AI研究、米国とヨーロッパにわたる開発と顧客ベース。

「私たちの目標は、LLM を信頼できるものにするための最高のテクノロジーを提供することです。 LLM の品質保証の側面に対処するための主要なテクノロジーを構築するために多額の投資を行っています。このテクノロジーをオープンソースにすることは、開発者コミュニティが利用可能な最良のソリューションの上に構築できるように、これを誰もが利用できるようにするという方向に向けた私たちの取り組みです」と、Gaurav Agarwal 氏は述べています。

タグ：

免責事項

に沿ってトラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポートページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。

著者について

Victor は、技術編集者/ライターのマネージングを務めています。 Metaverse Post エンタープライズ領域内の人工知能、暗号化、データサイエンス、メタバース、サイバーセキュリティをカバーします。彼は、VentureBeat、DatatechVibe、Analytics India Magazine などの有名なメディア媒体で働いて、メディアと AI に XNUMX 年以上の経験を誇ります。 Victor は、オックスフォードや USC などの名門大学でメディアメンターを務め、データサイエンスと分析の修士号を取得しており、新たなトレンドを常に追い続けることに熱心に取り組んでいます。彼は、テクノロジーとテクノロジーに関する最新かつ最も洞察力に富んだ物語を読者に提供しています。 Web3 風景です。

より多くの記事

ビクター・デイ