RagaAI 推出開源 LLM 中心以簡化語言模型評估和安全

by 維克多·戴伊

發佈時間：08 年 2024 月 5 日上午 12:08 更新日期：2024 年 5 月 22 日上午 XNUMX:XNUMX

簡單來說

RagaAI 推出了“RagaAI LLM Hub”，這是一個用於評估和建立 AI 特定語言模型護欄的開源平台。

人工智慧測試平台拉格艾最近宣布推出“RagaAI 法學碩士中心”，一個開源且企業級的平台，旨在評估和建立護欄大型語言模型（法學碩士）。該平台擁有 100 多個精心設計的指標，旨在防止法學碩士和檢索增強生成 (RAG) 應用程式發生災難性故障。

RagaAI LLM Hub 為開發人員和組織提供了一個強大的工具包，可以有效地評估和比較 LLM，涵蓋相關性和理解、內容品質、幻覺、安全與偏見、情境相關性、護欄和漏洞掃描。此外，它還提供了一套用於定量分析的基於指標的測試。

「對法學碩士的整體評估是目前法學碩士建設領域的關鍵要求，因為資料科學家和企業會找出適合他們的技術和堆疊。診斷問題需要從源頭仔細識別問題，並且考慮到數百種可能的根本原因，需要數百個指標來找出根本原因。” 高拉夫·阿加瓦爾，RagaAI 創始人告訴 MPost.

“RagaAI LLM Hub 的全面測試能力為開發人員的工作流程增加了巨大的價值，透過消除臨時分析節省了關鍵時間，並將 LLM 開發速度加快了 3 倍。”

RagaAI LLM Hub 旨在解決從概念驗證到生產應用程式的整個 LLM 生命週期中的問題，它可以識別 LLM 中的潛在問題法學碩士申請並促進從源頭解決問題，徹底改變確保可靠性和可信度的方法。

RagaAI 聲稱其 LLM Hub 透過一系列涵蓋各個決策方面的測試來增強這種能力：

提示：它迭代並識別最佳提示模板，同時建立護欄以減輕對抗性攻擊。
RAG 的上下文管理：它可以幫助使用者在大規模操作時找到 LLM 效能和成本/延遲之間的最佳平衡。
反應生成：它採用指標來識別 LLM 回應中的幻覺，並建立防護欄以防止偏見、PII 洩漏和其他潛在問題。

透過法學碩士診斷減輕人工智慧幻覺和偏見

RagaAI LLM Hub 廣泛應用於各個行業，包括電子商務、金融、行銷、法律和醫療保健，支援開發人員和企業完成以下任務：聊天機器人、內容創建、文字摘要和原始碼生成。

除了評估之外，RagaAI LLM Hub 還有助於設定護欄，以確保資料隱私和法律合規性，促進道德和負責任的人工智能實踐，特別是在金融、醫療保健和法律等敏感領域。

「我們電子商務領域的一位客戶正在使用法學碩士作為聊天機器人來提供客戶支持，而聊天機器人給出了錯誤的答案。使用 RagaAI，成功檢測並解決了這個問題。」RagaAI 的 Gaurav Agarwal 告訴我們 MPost。「在健康保險中，保護病患的個人資訊非常重要。我們的一位客戶的一些重要個人資訊被分享給第三方——這是一個巨大的資料隱私問題。使用 RagaAI LLM Hub 護欄，可以即時檢測到這一問題以及其他類似的問題並防止其發生。”

此外，它還旨在透過遵守社會規範和價值觀來降低聲譽風險。

「RagaAI 有助於設定防護欄，例如在 LLM 回應中偵測個人識別資訊 (PII)。這確保了法學碩士申請不會洩露內部文件中的個人數據，這對於 Responsible AI 至關重要。」Gaurav Agarwal 解釋道。 “這一點和其他護欄，例如確保公正和公平的反應、不對競爭對手發表評論以及刪除重大非公開信息 (MNPI) 對於企業來說至關重要，因為它們希望避免社會和聲譽損害。”

RagaAI LLM Hub 的推出是繼成功的 4.7億美元於 2024 年 XNUMX 月獲得由 pi Ventures 領投的種子輪融資，以擴大其人工智能研究、開發和客戶群遍布美國和歐洲。

「我們的目標是提供最好的技術，使法學碩士值得信賴和可靠。它正在大力投資建構關鍵技術來解決法學碩士品質保證方面的問題。我們努力將這項技術開源，讓每個人都可以使用這項技術，讓開發者社群能夠在最佳可用解決方案的基礎上進行建置。」Gaurav Agarwal 說。

標籤：

免責聲明

在與線信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。

關於作者

Victor 是一位管理技術編輯/作家 Metaverse Post 涵蓋企業領域內的人工智慧、加密貨幣、資料科學、元宇宙和網路安全。他擁有五年的媒體和人工智慧經驗，曾在 VentureBeat、DatatechVibe 和 Analytics India Magazine 等知名媒體工作。身為牛津大學和南加州大學等著名大學的媒體導師，Victor 擁有數據科學和分析碩士學位，他堅定地致力於跟上新興趨勢。他為讀者提供來自科技和領域的最新、最有洞察力的敘述。 Web3 景觀。