Звіт про новини Технологія
Березня 08, 2024

RagaAI запускає центр LLM з відкритим кодом, щоб спростити оцінку та безпеку мовної моделі

Коротко

RagaAI запустив RagaAI LLM Hub, платформу з відкритим вихідним кодом для оцінки та встановлення захисних огорож для спеціальних мовних моделей ШІ.

RagaAI запускає центр LLM з відкритим кодом, щоб спростити оцінку та безпеку мовної моделі

Платформа тестування ШІ RagaAI нещодавно оголосив про запуск "RagaAI LLM Hub”, платформу з відкритим вихідним кодом, готову до корпоративного використання, призначену для оцінки та встановлення огорож для Великі мовні моделі (LLM). Маючи понад 100 ретельно розроблених показників, платформа спрямована на запобігання катастрофічним збоям у програмах LLM і Retrieval Augmented Generation (RAG).

RagaAI LLM Hub пропонує розробникам і організаціям надійний інструментарій для ефективної оцінки та порівняння LLM, що охоплює такі важливі аспекти, як релевантність і розуміння, якість вмісту, Галюцинація, Безпека та упередженість, Релевантність контексту, Огородження та сканування вразливостей. Крім того, він надає набір метричних тестів для кількісного аналізу.

«Цілісна оцінка магістерських програм є ключовою вимогою у світі розробки магістерських програм прямо зараз, оскільки дослідники даних і підприємства з’ясовують, яка технологія та стек їм підходять. Діагностика проблеми вимагає ретельного визначення джерела проблеми, і, враховуючи сотні можливих першопричин, потрібні сотні показників, щоб точно визначити цю першопричину», Гаурав Агарвал, – розповів засновник RagaAI MPost.

«Здатність RagaAI LLM Hub до всебічного тестування додає значну цінність робочому процесу розробника, заощаджуючи важливий час за рахунок усунення спеціального аналізу та прискорюючи розробку LLM у 3 рази».  

Розроблений для вирішення проблем протягом життєвого циклу LLM, від перевірки концепції до робочих програм, RagaAI LLM Hub визначає основні проблеми всередині програми LLM і полегшує їх вирішення біля джерела, революціонізуючи підходи до забезпечення надійності та надійності.

RagaAI стверджує, що його LLM Hub надає цю можливість за допомогою ряду тестів, що охоплюють різні аспекти прийняття рішень:

  • Підказки: він повторює та визначає оптимальні шаблони підказок, встановлюючи огорожі для пом’якшення атак противника.
  • Управління контекстом для RAG: допомагає користувачам знайти оптимальний баланс між продуктивністю LLM і вартістю/затримкою під час роботи в масштабі.
  • Генерація відповіді: він використовує метрики для виявлення галюцинацій у відповідях LLM і встановлює огорожі для запобігання упередженню, витоку ідентифікаційної інформації та іншим потенційним проблемам.
Джерело: RagaAI

Пом’якшення галюцинацій ШІ та упередженості за допомогою діагностики LLM

RagaAI LLM Hub знаходить застосування в різних галузях, включаючи електронну комерцію, фінанси, маркетинг, право та охорону здоров’я, підтримуючи розробників і підприємства в таких завданнях, як chatbots, створення контенту, узагальнення тексту та генерація вихідного коду.

Крім оцінки, RagaAI LLM Hub допомагає встановлювати огорожі для забезпечення конфіденційності даних і відповідності законодавству, сприяючи етичним і відповідальний ШІ практики, особливо в таких чутливих секторах, як фінанси, охорона здоров’я та право.

«Один із наших клієнтів у сфері електронної комерції використовував LLM для чат-бота для підтримки клієнтів, і чат-бот давав неправильні відповіді. За допомогою RagaAI ця проблема була успішно виявлена ​​та вирішена», — сказав Гаурав Агарвал з RagaAI. MPost. «У медичному страхуванні особисту інформацію пацієнта важливо захищати. В одного з наших клієнтів частина важливої ​​особистої інформації була передана третій стороні — велика проблема конфіденційності даних. За допомогою огороджень RagaAI LLM Hub ця та подібні інші проблеми були виявлені в режимі реального часу та попереджені».

Гаурав Агарвал, засновник RagaAI

Крім того, він спрямований на пом’якшення репутаційних ризиків шляхом дотримання суспільних норм і цінностей.

«RagaAI допомагає встановлювати огорожі, такі як виявлення особистої інформації (PII) у відповіді LLM. Це гарантує відсутність витоку особистих даних із внутрішніх документів програмою LLM і є критично важливим для відповідального штучного інтелекту», – пояснив Гаурав Агарвал. «Це та інші перешкоди, такі як забезпечення неупереджених і чесних відповідей, відсутність коментарів щодо конкурентів і видалення суттєвої непублічної інформації (MNPI), є вкрай важливими для компаній, оскільки вони намагаються уникнути шкоди суспільству та репутації».

Запуск RagaAI LLM Hub став успішним $ 4.7 мільйонів у раунді початкового фінансування в січні 2024 року під керівництвом pi Ventures, щоб розширити його Дослідження ШІ, розробка та клієнтська база в США та Європі.

«Наша мета — надати найкращу технологію, щоб зробити LLM надійними та гідними довіри. Він інвестує значні кошти в створення ключових технологій для вирішення аспектів забезпечення якості LLM. Зробити цю технологію відкритою — це наші зусилля, спрямовані на те, щоб зробити її доступною для всіх, щоб спільнота розробників створювала найкраще доступне рішення», — сказав Гаурав Агарвал.

відмова

Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.

про автора

Віктор є керуючим технічним редактором/письменником у Metaverse Post і охоплює штучний інтелект, криптографію, науку про дані, метавсесвіт і кібербезпеку в корпоративній сфері. Він може похвалитися півдесятилітнім досвідом роботи в ЗМІ та штучному інтелекті у відомих ЗМІ, таких як VentureBeat, DatatechVibe та Analytics India Magazine. Будучи медіа-наставником у престижних університетах, включаючи Оксфорд і USC, і отримав ступінь магістра в галузі науки про дані та аналітики, Віктор глибоко відданий тому, щоб бути в курсі нових тенденцій. Він пропонує читачам найновіші та найпроникливіші оповіді від Tech and Web3 пейзаж.

інші статті
Віктор Дей
Віктор Дей

Віктор є керуючим технічним редактором/письменником у Metaverse Post і охоплює штучний інтелект, криптографію, науку про дані, метавсесвіт і кібербезпеку в корпоративній сфері. Він може похвалитися півдесятилітнім досвідом роботи в ЗМІ та штучному інтелекті у відомих ЗМІ, таких як VentureBeat, DatatechVibe та Analytics India Magazine. Будучи медіа-наставником у престижних університетах, включаючи Оксфорд і USC, і отримав ступінь магістра в галузі науки про дані та аналітики, Віктор глибоко відданий тому, щоб бути в курсі нових тенденцій. Він пропонує читачам найновіші та найпроникливіші оповіді від Tech and Web3 пейзаж.

Hot Stories
Приєднуйтеся до нашої розсилки.
Останні новини

Від Ripple до The Big Green DAO: як криптовалютні проекти сприяють благодійності

Давайте розглянемо ініціативи, які використовують потенціал цифрових валют для благодійних цілей.

Дізнайтеся більше

AlphaFold 3, Med-Gemini та інші: як AI трансформує охорону здоров’я у 2024 році

ШІ проявляється різними способами в охороні здоров’я, від виявлення нових генетичних кореляцій до розширення можливостей роботизованих хірургічних систем...

Дізнайтеся більше
Приєднуйтесь до нашої спільноти інноваційних технологій
Детальніше
Читати далі
Підвищуйте свої навички шифрування: зануртеся в мережу DePIN PowerPool і отримуйте винагороди
Думка Business Освіта ринки Софтвер Технологія
Підвищуйте свої навички шифрування: зануртеся в мережу DePIN PowerPool і отримуйте винагороди
21 Червня, 2024.
Tabi дозволяє користувачам, які підлягають обмеженням KYC, подати заявку на повернення коштів за VIP-квитки Captain Node до 30 червня
Звіт про новини Технологія
Tabi дозволяє користувачам, які підлягають обмеженням KYC, подати заявку на повернення коштів за VIP-квитки Captain Node до 30 червня
21 Червня, 2024.
Представлений маршрутизатор V2: революційний стрибок у сумісності блокчейнів, обіцянка блискавичних транзакцій і покращена безпека
інтерв'ю Business ринки Софтвер Технологія
Представлений маршрутизатор V2: революційний стрибок у сумісності блокчейнів, обіцянка блискавичних транзакцій і покращена безпека
21 Червня, 2024.
Криптобіржа Binance співпрацює з Бразильською футбольною конфедерацією, щоб випустити безкоштовний пропуск для Головної футбольної ліги країни
Стиль життя Звіт про новини Технологія
Криптобіржа Binance співпрацює з Бразильською футбольною конфедерацією, щоб випустити безкоштовний пропуск для Головної футбольної ліги країни
21 Червня, 2024.
CRYPTOMERIA LABS PTE. LTD.