Anthropic 60 tamoyilga asoslangan chat modellari uchun "kontekstli AI" ni taklif qiladi
Qisqacha
OpenAI tekislash uchun insoniy fikr-mulohazalardan (RLHF) mustahkamlashni o'rganishdan foydalanadi til modellari insoniy tamoyillar, xavfsizlik va foydalilik bilan.
Anthropic muqobil yondashuvni taklif qildi: kontekstli AI, bu model amal qilishi kerak bo'lgan konstitutsiyani yozishni o'z ichiga oladi.
Ushbu konstitutsiya Birlashgan Millatlar Tashkilotining Inson huquqlari deklaratsiyasi, Apple xizmat ko'rsatish shartlari, G'arbdan tashqari istiqbollarni ko'rib chiqishni rag'batlantiruvchi tamoyillarga asoslanadi.
Anthropic suhbat modellarini o'rgatishda yangi yondashuvni taklif qildi.Konstitutsiyaviy AI'. Bu usul asoslanadi OpenAI"s takomillashtirishni o'rganish insoniy fikr-mulohazalar asosida, lekin chuqur ta'lim namunalarini yozish zaruriyatidan qochib, unga asoslanadi. Buning o'rniga, model konstitutsiyadan foydalanish orqali kiritilgan ma'lumotlarga javob berishga o'rgatiladi, u modelga rioya qilish uchun qonunlar to'plami sifatida ishlaydi.
Ushbu usul orqali sun'iy intellekt o'zining qonuniy qabul qilingan tamoyillari to'plamiga nisbatan aytganlarini baholash orqali o'zining o'quv namunalarini yaratishi mumkin. Bu vaqtni tejaydigan texnika sifatida ko'rish mumkin Ishoq Asimov'p Robototexnika qonunlari amaliyotga joriy etish.
Modelning asosini tashkil etuvchi printsiplar juda ko'p va batafsil muhokama qilish uchun. Biroq, ular axloq, tavakkalchilik, iqtisod va sun'iy intellekt kabi ko'plab mavzularni qamrab oladi. Ularning har biri javob berishda AI qarorlarini boshqarishga yordam berish uchun ishlab chiqilgan suhbat ko'rsatmalari.
Anthropic Klod ismli sun'iy intellekt modelini samarali o'qitishga muvaffaq bo'ldi, u bilan muvaffaqiyatli raqobatlashadi OpenAI"s ChatGPT. Foydalanish Konstitutsiya-AI usuli, Klod so'zlashuv so'rovlariga ta'sirchan darajada aniqlik bilan javob berishi mumkin edi, ammo Anthropic ushbu o'yinni o'zgartiruvchi texnologiyaga asoslanishda davom etar ekan, qo'shimcha yaxshilanishlar kutilmoqda.
Darhaqiqat, ushbu yangi yondashuv endi o'z ta'lim namunalarini qurishga hojat qolmaydigan kompaniyalar uchun vaqt va pulni tejash imkoniyatiga ega. Aksincha, ushbu "tayyor" usul moslashtirilgan modellarni yaratish uchun asos sifatida ishlatilishi mumkin - hech qanday dasturlash bilimi talab qilinmaydi. Shuni ham ta'kidlash kerakki, ushbu texnologiya suhbatdosh botlarga kelganda xavfsizlikni oshirishni va'da qiladi. Qonuniy qabul qilingan tamoyillar majmuasini yaratish xavfni kamaytiradi AI firibgar bo'lib bormoqda.
Shu sababli, Constituation AI nafaqat chat modelini ishlab chiqishni oson va tezroq qilishni va'da qiladi, balki uni xavfsizroq qiladi. Sun'iy intellekt va ChatBots dunyosi uchun g'alaba qozongan vaziyat.
Chatbotlar uchun Anthropic kompaniyasining "Kontekstli AI" ga tahliliy qarash
Anthropic's Contextual AI Birlashgan Millatlar Tashkilotining Inson huquqlari deklaratsiyasi, Apple xizmat ko'rsatish shartlari, G'arbdan tashqari istiqbollarni ko'rib chiqishni rag'batlantiruvchi tamoyillardan kelib chiqqan 60 dan ortiq tamoyillarni o'z ichiga olgan. Deepmind Chumchuq qoidalari va antropik tadqiqotlar to'plami 1 va to'plam 2.
Endi sun'iy intellektni bunday keng va xilma-xil manbalardan olingan printsiplarga muvofiq harakat qilishga o'rgatish mumkinligi haqiqatan ham ajoyibdir. Masalan, Birlashgan Millatlar Tashkilotining Inson huquqlari deklaratsiyasi tamoyillarini o'z ichiga olgan holda, chatbot javoblari endi erkinlik, tenglik va birodarlik tushunchalarini saqlash muhimligini aks ettiradi. Bunday tamoyillar buni ta'minlashning muhim tarkibiy qismidir chatbot suhbatlari axloqiy va hurmatli bo'ling. Xuddi shunday, Apple xizmat ko'rsatish shartlarini birlashtirish ham kafolat beradi chatbot foydalanuvchilarining maxfiylik manfaatlarini hisobga oladi.
G'arbiy bo'lmagan istiqbollarni ko'rib chiqishni rag'batlantiruvchi tamoyillar "Kontekstli AI" modelida ham muhim rol o'ynaydi. Ushbu tamoyillar sun'iy intellektning boshqa madaniyatlarga hurmat ko'rsatishi zarurligini aks ettiradi va chatbot javoblari zararli yoki haqoratli deb qabul qilinmasligini ta'minlaydi. Xuddi shunday, Deepmind's Chumchuq qoidalari chatbot foydalanuvchi bilan munosabatlarni o'rnatishga qaratilgan javoblar bilan javob berishini belgilaydi.
1-to'plam va 2-antropik tadqiqotlar to'plamining qo'shilishi AI suhbatlari fuqarolik va hurmatli bo'lib qolishining yakuniy kafolatini beradi. AI savollarga o'ylangan va xushmuomalalik bilan javob berishini ta'minlash uchun o'qitilgan.
Umuman olganda, Anthropic kompaniyasining "Kontekstli AI" modeli - bu sohadagi nihoyatda muhim yutuq. AI tadqiqoti. Sun'iy intellektni turli xil manbalardan olingan printsiplarga muvofiq o'qitishga ruxsat berish orqali avtomatlashtirilgan suhbatlarning axloqiy oqibatlari sezilarli darajada yaxshilanadi.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
