Anthropic, 60 İlkeye Dayalı Sohbet Modelleri için 'Bağlamsal Yapay Zeka' Öneriyor
Kısaca
OpenAI hizalamak için insan geri bildiriminden (RLHF) takviyeli öğrenmeyi kullanır dil modelleri insan ilkeleri, güvenlik ve kullanışlılık ile.
Anthropic alternatif bir yaklaşım önerdi: insanların modelin izlemesi gereken bir anayasa yazmasını içeren bağlamsal yapay zeka.
Bu anayasa, Birleşmiş Milletler İnsan Hakları Beyannamesi, Apple'ın Hizmet Şartları, Batılı Olmayan Perspektiflerin Dikkate Alınmasını Teşvik Eden İlkeler'e dayanmaktadır.
Anthropic, ' kullanarak sohbet modellerini eğitmek için yeni bir yaklaşım önerdi.anayasal AI'. Bu yöntem üzerine kuruludur OpenAI'S takviye öğrenme ancak derin eğitim örnekleri yazma gereksinimini ortadan kaldırarak bunun üzerine inşa eder. Bunun yerine, model, modelin takip etmesi için bir dizi yasa olarak hareket etmesi amaçlanan bir anayasanın kullanımı yoluyla girdiye yanıt verecek şekilde eğitilir.
Bu yöntemle yapay zeka, söylediklerini yasal olarak kabul edilmiş ilkeler dizisine göre değerlendirerek kendi eğitim örneklerini oluşturabilir. Bu zaman kazandıran teknik şu şekilde görülebilir: Isaac Asimov'ler Robotik Kanunları uygulamaya koymak.
Modelin temelini oluşturan ilkeler, ayrıntılı olarak tartışılamayacak kadar çoktur. Ancak ahlak, riskten kaçınma, ekonomi ve yapay zeka gibi birçok konuyu kapsarlar. Her biri, yanıt verme söz konusu olduğunda yapay zekanın kararlarına rehberlik etmeye yardımcı olmak için geliştirilmiştir. konuşma istemleri.
Anthropic, başarılı bir şekilde rekabet eden Claude adlı bir yapay zeka modelini etkili bir şekilde eğitmeyi başardı. OpenAI'S ChatGPT. Kullanmak Anayasa-AI yöntemi, Claude konuşma istemlerine etkileyici bir doğruluk düzeyinde yanıt verebiliyordu, ancak Anthropic oyunun kurallarını değiştiren bu teknolojiyi geliştirmeye devam ettikçe ek iyileştirmeler bekleniyor.
Gerçekten de bu yeni yaklaşım, artık kendi eğitim örneklerini oluşturmaya ihtiyaç duymayacak şirketler için zamandan ve paradan tasarruf etme potansiyeline sahiptir. Bunun yerine, bu 'hazır' yöntem, özel uyumlu modeller oluşturmak için bir temel olarak kullanılabilir - hiçbir programlama bilgisi gerekmez. Ayrıca, bu teknolojinin konuşma robotları söz konusu olduğunda güvenliği nasıl artırmayı vaat ettiğini de not etmek önemlidir. Yasal olarak kabul edilmiş bir dizi ilke oluşturmak riski azaltır yapay zekanın haydut olması.
Bu nedenle Constituation AI, yalnızca sohbet modeli geliştirmeyi daha kolay ve hızlı hale getirmeyi vaat etmekle kalmaz, aynı zamanda daha güvenli hale getirir. Hem Yapay Zeka hem de ChatBots dünyası için bir kazan-kazan durumu.
Anthropic'in Chatbot'lar için “Bağlamsal Yapay Zekasına” Analitik Bir Bakış
Anthropic'in Bağlamsal Yapay Zekası, Birleşmiş Milletler İnsan Hakları Beyannamesi, Apple'ın Hizmet Şartları, Batılı Olmayan Perspektiflerin Dikkate Alınmasını Teşvik Eden İlkeler, Deepmind'ın Serçe Kuralları ve Antropik Araştırma Seti 1 ve Set 2.
Yapay zekaya artık bu kadar geniş ve çeşitli kaynaklardan elde edilen ilkelere göre davranmanın öğretilebilmesi gerçekten dikkate değer. Örneğin, Birleşmiş Milletler İnsan Hakları Bildirgesi'ndeki ilkeleri bir araya getiren chatbot yanıtları artık özgürlük, eşitlik ve kardeşlik kavramlarının korunmasının önemini yansıtıyor. Bu tür ilkeler, şunları sağlamanın hayati bir bileşenidir: sohbet robotu konuşmaları etik ve saygılı kalın. Benzer şekilde, Apple'ın Hizmet Koşulları'nın dahil edilmesi, chatbot kullanıcılarının gizlilik çıkarlarını dikkate alır.
Batılı Olmayan Perspektiflerin Dikkate Alınmasını Teşvik Eden İlkeler, “Bağlamsal Yapay Zeka” modelinde de önemli bir rol oynamaktadır. Bu ilkeler, AI'nın diğer kültürlere saygılı olma ihtiyacını yansıtır ve chatbot yanıtlarının zararlı veya saldırgan olarak algılanmamasını sağlar. Benzer şekilde, Deepmind'in Serçe Kuralları, sohbet robotunun kullanıcıyla bir ilişki kurmayı amaçlayan yanıtlarla yanıt vermesini zorunlu kılar.
Anthropic Research Set 1 ve Set 2'nin birleştirilmesi, AI konuşmalarının medeni ve saygılı kalması için nihai garantiyi sağlar. AI, soruları düşünceli ve nazik bir şekilde yanıtlamasını sağlamak için eğitilmiştir.
Sonuç olarak, Anthropic'in “Bağlamsal Yapay Zeka” modeli, teknoloji alanında inanılmaz derecede önemli bir atılımdır. yapay zeka araştırması. Yapay zekanın çok çeşitli kaynaklardan elde edilen ilkelere göre öğretilmesine izin vererek, otomatik konuşmaların etik sonuçları büyük ölçüde iyileştirildi.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
