RagaAI стартира LLM Hub с отворен код, за да улесни оценката и безопасността на езиковия модел
Накратко
RagaAI стартира „RagaAI LLM Hub“, платформа с отворен код за оценка и установяване на парапети за специфични езикови модели на AI.
Платформа за тестване на AI RagaAI наскоро обяви старта на „RagaAI LLM Hub”, платформа с отворен код и готова за предприятия, предназначена за оценка и създаване на предпазни огради за Големи езикови модели (LLM). С над 100 прецизно изработени показателя, платформата има за цел да предотврати катастрофални повреди в LLM и приложенията за разширено генериране на извличане (RAG).
RagaAI LLM Hub предлага на разработчиците и организациите стабилен инструментариум за ефективна оценка и сравняване на LLMs, обхващащ критични аспекти като уместност и разбиране, качество на съдържанието, халюцинация, Безопасност и пристрастия, Уместност на контекста, Парапети и Сканиране на уязвимости. В допълнение, той предоставя набор от базирани на показатели тестове за количествен анализ.
„Холистичната оценка на LLM е ключово изискване в света на изграждането на LLM в момента, тъй като учените по данни и предприятията разбират коя технология и стек работят за тях. Диагностицирането на проблем изисква щателно идентифициране на проблема при източника и като се имат предвид стотици възможни първопричини, са необходими стотици показатели, за да се определи тази първопричина,“ Гаурав Агарвал, каза основателят на RagaAI MPost.
„Способността на RagaAI LLM Hub за цялостно тестване добавя значителна стойност към работния процес на разработчиците, спестявайки изключително време чрез елиминиране на ad hoc анализ и ускоряване на LLM разработката с 3 пъти.“
Проектиран да адресира проблеми през целия жизнен цикъл на LLM, от доказване на концепцията до производствени приложения, RagaAI LLM Hub идентифицира основните проблеми в LLM приложения и улеснява разрешаването им при източника, революционизирайки подходите за осигуряване на надеждност и надеждност.
RagaAI твърди, че неговият LLM Hub дава възможност на тази възможност чрез набор от тестове, обхващащи различни аспекти на вземане на решения:
- Подкани: Той итерира и идентифицира оптимални шаблони за подкани, като същевременно установява парапети за смекчаване на противникови атаки.
- Управление на контекста за RAGs: То помага на потребителите да намерят оптималния баланс между LLM производителност и разходи/закъснение, когато работят в мащаб.
- Генериране на отговор: Използва показатели за идентифициране на халюцинации в отговорите на LLM и установява предпазни средства за предотвратяване на пристрастия, изтичане на PII и други потенциални проблеми.
Намаляване на AI халюцинации и пристрастия чрез LLM диагностика
RagaAI LLM Hub намира приложения в различни индустрии, включително електронна търговия, финанси, маркетинг, правни и здравни грижи, като подпомага разработчици и предприятия в задачи като chatbots, създаване на съдържание, обобщаване на текст и генериране на изходен код.
Освен оценката, RagaAI LLM Hub помага при поставянето на предпазни огради, за да се гарантира поверителността на данните и спазването на законите, като насърчава етичните и отговорен AI практики, особено в чувствителни сектори като финанси, здравеопазване и право.
„Един от нашите клиенти в пространството за електронна търговия използва LLMs за chatbot за поддръжка на клиенти и chatbot дава грешни отговори. Използвайки RagaAI, този проблем беше успешно открит и решен“, каза Гаурав Агарвал от RagaAI MPost. „В здравното осигуряване е важно личната информация на пациента да бъде защитена. При един от нашите клиенти част от важната лична информация беше споделена на трета страна — огромен проблем с поверителността на данните. Използвайки предпазните парапети на RagaAI LLM Hub, този и подобни други проблеми бяха открити в реално време и предотвратени да се случат.“
Освен това, той има за цел да смекчи рисковете за репутацията, като се придържа към обществените норми и ценности.
„RagaAI помага при поставянето на предпазни огради като откриване на лична информация (PII) в отговор на LLM. Това гарантира, че няма изтичане на лични данни от вътрешни документи от приложението LLM и е от решаващо значение за Responsible AI“, обясни Гаурав Агарвал. „Тази и други предпазни огради като осигуряване на безпристрастни и справедливи отговори, липса на коментари за конкурентите и премахване на съществена непублична информация (MNPI) са от решаващо значение за фирмите, тъй като те се стремят да избегнат вреди за обществото и репутацията.“
Стартирането на RagaAI LLM Hub следва успешно 4.7 милиона долара в кръг за първоначално финансиране през януари 2024 г., воден от pi Ventures, за разширяване на своя AI изследвания, развитие и клиентска база в САЩ и Европа.
„Нашата цел е да предоставим най-добрата технология, за да направим LLM надеждни и надеждни. Той инвестира значително в изграждането на ключови технологии за справяне с аспектите на осигуряване на качеството на LLM. Превръщането на тази технология в отворен код е нашето усилие в посока да я направим достъпна за всички, за да може общността на разработчиците да изгради върху най-доброто налично решение“, каза Гаурав Агарвал.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Виктор е управляващ технически редактор/писател в Metaverse Post и обхваща изкуствен интелект, крипто, наука за данни, метавселена и киберсигурност в рамките на корпоративната сфера. Той може да се похвали с половин десетилетие опит в медиите и AI, работейки в известни медии като VentureBeat, DatatechVibe и Analytics India Magazine. Като медиен ментор в престижни университети, включително Оксфорд и USC, и с магистърска степен по наука за данни и анализи, Виктор е дълбоко ангажиран да бъде в крак с нововъзникващите тенденции. Той предлага на читателите най-новите и най-проницателни разкази от Tech and Web3 пейзаж.
Още статии
Виктор е управляващ технически редактор/писател в Metaverse Post и обхваща изкуствен интелект, крипто, наука за данни, метавселена и киберсигурност в рамките на корпоративната сфера. Той може да се похвали с половин десетилетие опит в медиите и AI, работейки в известни медии като VentureBeat, DatatechVibe и Analytics India Magazine. Като медиен ментор в престижни университети, включително Оксфорд и USC, и с магистърска степен по наука за данни и анализи, Виктор е дълбоко ангажиран да бъде в крак с нововъзникващите тенденции. Той предлага на читателите най-новите и най-проницателни разкази от Tech and Web3 пейзаж.
