Anthropic Mencadangkan 'AI Kontekstual' untuk Model Sembang Berdasarkan 60 Prinsip
Secara ringkas
OpenAI menggunakan pembelajaran pengukuhan daripada maklum balas manusia (RLHF) untuk menyelaraskan model bahasa dengan prinsip manusia, keselamatan, dan kegunaan.
Anthropic mencadangkan pendekatan alternatif: kontekstual AI, yang melibatkan orang menulis perlembagaan yang perlu diikuti oleh model tersebut.
Perlembagaan ini berdasarkan Deklarasi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu, Syarat Perkhidmatan Apple, Prinsip Menggalakkan Pertimbangan Perspektif Bukan Barat.
Anthropic telah mencadangkan pendekatan baharu untuk melatih model sembang menggunakan 'AI berperlembagaan'. Kaedah ini dibina di atas OpenAI's pembelajaran tetulang daripada maklum balas manusia tetapi membinanya dengan mengelakkan keperluan untuk menulis sampel latihan yang mendalam. Sebaliknya, model itu dilatih untuk bertindak balas terhadap input melalui penggunaan perlembagaan yang bertujuan untuk bertindak sebagai satu set undang-undang untuk model itu diikuti.
Melalui kaedah ini, AI boleh menjana sampel latihannya sendiri dengan menilai perkara yang diperkatakan berbanding set prinsip yang diterima secara sah. Teknik penjimatan masa ini boleh dilihat sebagai Pecutan sudut's Undang-undang Robotik masukkan ke dalam latihan.
Prinsip yang membentuk asas model terlalu banyak untuk dibincangkan secara terperinci. Walau bagaimanapun, mereka merangkumi banyak topik, seperti moral, penghindaran risiko, ekonomi, dan kecerdasan buatan. Setiap satu telah dibangunkan untuk membantu membimbing keputusan AI apabila ia datang untuk bertindak balas gesaan perbualan.
Anthropic telah berjaya melatih model AI bernama Claude dengan berkesan, yang berjaya bersaing dengannya OpenAI's ChatGPT. Menggunakan Kaedah Perlembagaan-AI, Claude boleh membalas gesaan perbualan pada tahap ketepatan yang mengagumkan, tetapi penambahbaikan tambahan dijangka apabila Anthropic terus membina teknologi yang mengubah permainan ini.
Sesungguhnya, pendekatan baharu ini berpotensi untuk menjimatkan masa dan wang bagi syarikat yang tidak perlu lagi membina sampel latihan mereka sendiri. Sebaliknya, kaedah 'siap sedia' ini boleh digunakan sebagai asas untuk mencipta model tersuai - tiada pengetahuan pengaturcaraan diperlukan. Ia juga penting untuk diperhatikan bagaimana teknologi ini juga menjanjikan untuk meningkatkan keselamatan apabila ia berkaitan dengan bot perbualan. Mewujudkan satu set prinsip yang diterima secara sah mengurangkan risiko daripada AI yang menjadi penyangak.
Oleh itu, Perlembagaan AI bukan sahaja berjanji untuk menjadikan pembangunan model sembang lebih mudah dan cepat, tetapi ia juga akan menjadikannya lebih selamat. Situasi menang-menang untuk dunia Kepintaran Buatan dan ChatBots sama.
Pandangan Analitik pada "AI Kontekstual" Anthropic untuk Chatbots
AI Kontekstual Anthropic adalah berdasarkan menggabungkan lebih daripada 60 prinsip yang diperoleh daripada Deklarasi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu, Syarat Perkhidmatan Apple, Prinsip Menggalakkan Pertimbangan terhadap Perspektif Bukan Barat, milik Deepmind Peraturan Sparrow, dan Penyelidikan Anthropic Set 1 dan Set 2.
Hakikat bahawa AI kini boleh diajar untuk berkelakuan mengikut prinsip yang diperoleh daripada pelbagai sumber yang begitu luas dan pelbagai adalah benar-benar luar biasa. Dengan menggabungkan prinsip daripada Deklarasi Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu, sebagai contoh, respons chatbot kini mencerminkan kepentingan memelihara tanggapan kebebasan, kesaksamaan dan persaudaraan. Prinsip sedemikian adalah komponen penting untuk memastikannya perbualan chatbot kekal beretika dan menghormati. Begitu juga, penggabungan Syarat Perkhidmatan Apple memastikan chatbot mempertimbangkan kepentingan privasi penggunanya.
Prinsip Menggalakkan Pertimbangan Perspektif Bukan Barat juga memainkan peranan penting dalam model "AI Kontekstual". Prinsip ini mencerminkan keperluan AI untuk menghormati budaya lain dan memastikan bahawa respons chatbot tidak dianggap sebagai berbahaya atau menyinggung perasaan. Begitu juga, Peraturan Sparrow Deepmind menentukan bahawa chatbot bertindak balas dengan respons yang bertujuan untuk membina hubungan dengan pengguna.
Penggabungan Anthropic Research Set 1 dan Set 2 memberikan jaminan terakhir bahawa perbualan AI kekal sivil dan hormat. AI dilatih untuk memastikan ia menjawab soalan dengan cara yang bertimbang rasa dan sopan.
Secara keseluruhannya, model "AI Kontekstual" Anthropic ialah satu kejayaan yang sangat penting dalam bidang penyelidikan AI. Dengan membenarkan AI diajar mengikut prinsip yang diperoleh daripada pelbagai sumber, implikasi etika perbualan automatik bertambah baik.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
