RagaAI Melancarkan Hab LLM Sumber Terbuka untuk Memudahkan Penilaian & Keselamatan Model Bahasa
Secara ringkas
RagaAI melancarkan 'RagaAI LLM Hub,' platform sumber terbuka untuk menilai dan mewujudkan pagar untuk model bahasa khusus AI.
Platform ujian AI RagaAI baru-baru ini mengumumkan pelancaran "Hab RagaAI LLM,” platform sumber terbuka dan sedia perusahaan yang direka untuk menilai dan mewujudkan pagar untuk Model Bahasa Besar (LLM). Dengan lebih 100 metrik yang direka dengan teliti, platform ini bertujuan untuk mengelakkan kegagalan bencana dalam aplikasi LLM dan Retrieval Augmented Generation (RAG).
Hab LLM RagaAI menawarkan kit alat yang mantap kepada pembangun dan organisasi untuk menilai dan membandingkan LLM dengan berkesan, meliputi aspek kritikal seperti Perkaitan & Pemahaman, Kualiti Kandungan, Hallucination, Keselamatan & Berat sebelah, Perkaitan Konteks, Pengimbasan Pengawal dan Keterdedahan. Selain itu, ia menyediakan satu set Ujian Berasaskan Metrik untuk analisis kuantitatif.
“Penilaian holistik LLM ialah keperluan utama dalam dunia pembinaan LLM sekarang, kerana saintis data dan perusahaan memikirkan teknologi dan susunan yang sesuai untuk mereka. Mendiagnosis masalah memerlukan mengenal pasti dengan teliti masalah di sumber, dan memandangkan beratus-ratus punca yang mungkin, ia memerlukan beratus-ratus metrik untuk menentukan punca itu," Gaurav Agarwal, pengasas di RagaAI memberitahu MPost.
“Keupayaan RagaAI LLM Hub untuk ujian komprehensif menambah nilai penting kepada aliran kerja pembangun, menjimatkan masa penting dengan menghapuskan analisis ad hoc dan mempercepatkan pembangunan LLM sebanyak 3x ganda.”
Direka bentuk untuk menangani isu sepanjang kitaran hayat LLM, daripada pembuktian konsep kepada aplikasi pengeluaran, Hab LLM RagaAI mengenal pasti masalah asas dalam aplikasi LLM dan memudahkan penyelesaian mereka di sumber, merevolusikan pendekatan untuk memastikan kebolehpercayaan dan kebolehpercayaan.
RagaAI menegaskan Hab LLMnya memperkasakan keupayaan ini melalui pelbagai ujian yang meliputi pelbagai aspek membuat keputusan:
- Gesaan: Ia mengulangi dan mengenal pasti templat segera yang optimum sambil mewujudkan pagar untuk mengurangkan serangan musuh.
- Pengurusan Konteks untuk RAG: Ia membantu pengguna dalam mencari keseimbangan optimum antara prestasi LLM dan kos/kependaman apabila beroperasi pada skala.
- Penjanaan Respons: Ia menggunakan metrik untuk mengenal pasti halusinasi dalam tindak balas LLM dan mewujudkan pagar untuk mengelakkan berat sebelah, kebocoran PII dan isu berpotensi lain.
Mengurangkan Halusinasi dan Bias AI Melalui Diagnosis LLM
Hab RagaAI LLM menemui aplikasi merentas pelbagai industri, termasuk e-dagang, kewangan, pemasaran, perundangan dan penjagaan kesihatan, menyokong pembangun dan perusahaan dalam tugas seperti chatbots, penciptaan kandungan, ringkasan teks dan penjanaan kod sumber.
Di luar penilaian, Hab RagaAI LLM membantu dalam menetapkan pagar untuk memastikan privasi data dan pematuhan undang-undang, mempromosikan etika dan AI yang bertanggungjawab amalan, terutamanya dalam sektor sensitif seperti kewangan, penjagaan kesihatan dan undang-undang.
“Salah seorang pelanggan kami dalam ruang e-dagang menggunakan LLM untuk chatbot untuk sokongan pelanggan, dan chatbot memberikan jawapan yang salah. Menggunakan RagaAI, isu ini berjaya dikesan dan diselesaikan,” kata Gaurav Agarwal dari RagaAI MPost. “Dalam insurans kesihatan, maklumat peribadi pesakit adalah penting untuk dijaga. Dalam salah seorang pelanggan kami, beberapa maklumat peribadi penting telah dikongsi kepada pihak ke-3 — isu privasi data yang besar. Menggunakan pagar penghadang Hab RagaAI LLM, isu ini dan isu lain yang serupa telah dikesan dalam masa nyata dan dihalang daripada berlaku.”
Selain itu, ia bertujuan untuk mengurangkan risiko reputasi dengan mematuhi norma dan nilai masyarakat.
“RagaAI membantu dalam menetapkan pagar seperti pengesanan Maklumat Pengenalan Peribadi (PII) dalam tindak balas LLM. Ini memastikan tiada data peribadi daripada dokumen dalaman pernah dibocorkan oleh aplikasi LLM dan penting kepada AI yang Bertanggungjawab,” jelas Gaurav Agarwal. “Ini dan pagar penghadang lain seperti memastikan respons yang tidak berat sebelah dan adil, tidak mengulas mengenai pesaing dan mengalih keluar Maklumat Bukan Awam Bahan (MNPI) adalah penting bagi firma kerana mereka ingin mengelakkan bahaya masyarakat dan reputasi.”
Pelancaran Hab LLM RagaAI menyusuli kejayaan $ 4.7 juta dalam pusingan pendanaan benih pada Januari 2024 yang diketuai oleh pi Ventures, untuk mengembangkannya penyelidikan AI, pembangunan dan pangkalan pelanggan di seluruh AS dan Eropah.
“Matlamat kami adalah untuk menyediakan teknologi terbaik untuk menjadikan LLM boleh dipercayai dan boleh dipercayai. Ia melabur dengan ketara untuk membina teknologi utama untuk menangani aspek jaminan kualiti LLM. Menjadikan teknologi ini sumber terbuka adalah usaha kami ke arah menjadikan ini tersedia kepada semua orang untuk komuniti pembangun membina di atas penyelesaian terbaik yang tersedia,” kata Gaurav Agarwal.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Victor ialah Editor/Penulis Teknologi Pengurusan di Metaverse Post dan meliputi kecerdasan buatan, kripto, sains data, metaverse dan keselamatan siber dalam alam perusahaan. Beliau mempunyai setengah dekad pengalaman media dan AI bekerja di saluran media terkenal seperti VentureBeat, DatatechVibe dan Analytics India Magazine. Menjadi Mentor Media di universiti berprestij termasuk Oxford dan USC dan dengan ijazah Sarjana dalam sains data dan analitik, Victor amat komited untuk mengikuti trend yang muncul. Dia menawarkan pembaca naratif terkini dan paling mendalam daripada Tech dan Web3 landskap.
lebih banyak artikel
Victor ialah Editor/Penulis Teknologi Pengurusan di Metaverse Post dan meliputi kecerdasan buatan, kripto, sains data, metaverse dan keselamatan siber dalam alam perusahaan. Beliau mempunyai setengah dekad pengalaman media dan AI bekerja di saluran media terkenal seperti VentureBeat, DatatechVibe dan Analytics India Magazine. Menjadi Mentor Media di universiti berprestij termasuk Oxford dan USC dan dengan ijazah Sarjana dalam sains data dan analitik, Victor amat komited untuk mengikuti trend yang muncul. Dia menawarkan pembaca naratif terkini dan paling mendalam daripada Tech dan Web3 landskap.
