RagaAI, 언어 모델 평가 및 안전을 용이하게 하기 위해 오픈 소스 LLM 허브 출시
요컨대
RagaAI는 AI 특정 언어 모델에 대한 가드레일을 평가하고 구축하기 위한 오픈 소스 플랫폼 'RagaAI LLM Hub'를 출시했습니다.
AI 테스트 플랫폼 라가AI 최근 '의 출시를 발표했습니다.RagaAI LLM 허브”는 가드레일을 평가하고 구축하기 위해 설계된 오픈 소스 및 엔터프라이즈 지원 플랫폼입니다. 대규모 언어 모델 (LLM). 꼼꼼하게 제작된 100개 이상의 측정항목을 갖춘 이 플랫폼은 LLM 및 RAG(Retrieval Augmented Generation) 애플리케이션에서 치명적인 오류를 방지하는 것을 목표로 합니다.
RagaAI LLM Hub는 관련성 및 이해, 콘텐츠 품질, 환각, 안전 및 편견, 상황 관련성, 가드레일 및 취약점 검색. 또한 정량 분석을 위한 메트릭 기반 테스트 제품군을 제공합니다.
“데이터 과학자와 기업이 어떤 기술과 스택이 자신에게 적합한지 파악함에 따라 LLM에 대한 전체적인 평가는 현재 LLM 구축 세계의 핵심 요구 사항입니다. 문제를 진단하려면 소스에서 문제를 꼼꼼하게 식별해야 하며, 수백 가지의 가능한 근본 원인이 있는 경우 해당 근본 원인을 정확히 찾아내기 위해서는 수백 가지의 지표가 필요합니다.” 가우라프 아가르왈, RagaAI의 창립자는 이렇게 말했습니다. MPost.
"RagaAI LLM Hub의 포괄적인 테스트 기능은 개발자의 작업 흐름에 상당한 가치를 더해 임시 분석을 제거하고 LLM 개발을 3배 가속화하여 중요한 시간을 절약합니다."
개념 증명부터 생산 애플리케이션까지 LLM 수명주기 전반에 걸쳐 문제를 해결하도록 설계된 RagaAI LLM Hub는 내부 문제를 식별합니다. LLM 지원 소스에서 문제 해결을 촉진하여 신뢰성과 신뢰도를 보장하는 접근 방식을 혁신합니다.
RagaAI는 LLM Hub가 다양한 의사 결정 측면을 다루는 다양한 테스트를 통해 이 기능을 강화한다고 주장합니다.
- 프롬프트: 적의 공격을 완화하기 위한 가드레일을 설정하는 동시에 최적의 프롬프트 템플릿을 반복하고 식별합니다.
- RAG를 위한 컨텍스트 관리: 대규모로 운영할 때 사용자가 LLM 성능과 비용/지연 시간 간의 최적의 균형을 찾는 데 도움이 됩니다.
- 응답 생성: 지표를 사용하여 LLM 응답에서 환각을 식별하고 편견, PII 유출 및 기타 잠재적인 문제를 방지하기 위한 가드레일을 설정합니다.
LLM 진단을 통해 AI 환각 및 편견 완화
RagaAI LLM Hub는 전자상거래, 금융, 마케팅, 법률 및 의료 등 다양한 산업 분야에서 애플리케이션을 찾아 다음과 같은 작업에서 개발자와 기업을 지원합니다. 잡담, 콘텐츠 생성, 텍스트 요약 및 소스 코드 생성.
평가 외에도 RagaAI LLM Hub는 데이터 개인 정보 보호 및 법률 준수를 보장하고 윤리적이며 책임있는 AI 특히 금융, 의료, 법률과 같은 민감한 분야에서는 더욱 그렇습니다.
“전자상거래 분야의 고객 중 한 명이 고객 지원을 위한 챗봇에 LLM을 사용하고 있었는데, 챗봇이 잘못된 답변을 제공하고 있었습니다. RagaAI를 사용하여 이 문제를 성공적으로 감지하고 해결했습니다.”라고 RagaAI의 Gaurav Agarwal은 말했습니다. MPost. “건강보험에서는 환자의 개인정보를 안전하게 보호하는 것이 중요합니다. 우리 고객 중 한 명은 중요한 개인 정보 중 일부를 제3자에게 공유했는데, 이는 엄청난 데이터 개인 정보 보호 문제였습니다. RagaAI LLM Hub 가드레일을 사용하여 이 문제와 유사한 다른 문제를 실시간으로 감지하고 발생을 방지했습니다.”
또한 사회적 규범과 가치를 준수하여 평판 위험을 완화하는 것을 목표로 합니다.
“RagaAI는 LLM 대응에서 개인 식별 정보(PII) 감지와 같은 가드레일을 설정하는 데 도움이 됩니다. 이는 내부 문서의 개인 데이터가 LLM 애플리케이션에 의해 유출되지 않도록 보장하며 Responsible AI에 매우 중요합니다.”라고 Gaurav Agarwal은 설명했습니다. "이러한 조치와 공정하고 공정한 대응 보장, 경쟁업체에 대한 언급 금지, MNPI(중요 비공개 정보) 제거와 같은 기타 조치는 사회적 및 평판에 대한 피해를 피하려는 기업에 매우 중요합니다."
성공적인 RagaAI LLM Hub 출시 $ 4.7 만 pi Ventures가 주도하는 2024년 XNUMX월 시드 펀딩 라운드에서 AI 연구, 미국과 유럽 전역의 개발 및 고객 기반.
“우리의 목표는 LLM을 신뢰할 수 있고 믿을 수 있게 만드는 최고의 기술을 제공하는 것입니다. LLM 품질 보증 측면을 다루기 위한 핵심 기술을 구축하기 위해 상당한 투자를 하고 있습니다. 이 기술을 오픈 소스로 만드는 것은 개발자 커뮤니티가 최상의 솔루션을 기반으로 구축할 수 있도록 모든 사람이 이 기술을 사용할 수 있도록 하기 위한 우리의 노력입니다.”라고 Gaurav Agarwal은 말했습니다.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Victor는 기술 관리 편집자/작가입니다. Metaverse Post 기업 영역 내의 인공 지능, 암호화, 데이터 과학, 메타버스 및 사이버 보안을 다룹니다. 그는 VentureBeat, DatatechVibe 및 Analytics India Magazine과 같은 유명 언론 매체에서 근무한 XNUMX년 간의 미디어 및 AI 경험을 자랑합니다. Oxford, USC 등 명문 대학에서 미디어 멘토로 활동하고 데이터 과학 및 분석 석사 학위를 취득한 Victor는 새로운 트렌드를 따라가는 데 전념하고 있습니다. 그는 독자들에게 기술 분야의 가장 통찰력 있는 최신 이야기를 제공합니다. Web3 경치.
더 많은 기사
Victor는 기술 관리 편집자/작가입니다. Metaverse Post 기업 영역 내의 인공 지능, 암호화, 데이터 과학, 메타버스 및 사이버 보안을 다룹니다. 그는 VentureBeat, DatatechVibe 및 Analytics India Magazine과 같은 유명 언론 매체에서 근무한 XNUMX년 간의 미디어 및 AI 경험을 자랑합니다. Oxford, USC 등 명문 대학에서 미디어 멘토로 활동하고 데이터 과학 및 분석 석사 학위를 취득한 Victor는 새로운 트렌드를 따라가는 데 전념하고 있습니다. 그는 독자들에게 기술 분야의 가장 통찰력 있는 최신 이야기를 제공합니다. Web3 경치.
