एन्थ्रोपिक ने 60 सिद्धांतों पर आधारित चैट मॉडल के लिए एक 'प्रासंगिक एआई' का प्रस्ताव रखा
संक्षेप में
OpenAI संरेखित करने के लिए मानव प्रतिक्रिया (आरएलएचएफ) से सुदृढीकरण सीखने का उपयोग करता है भाषा मॉडल मानवीय सिद्धांतों, सुरक्षा और उपयोगिता के साथ।
एंथ्रोपिक ने एक वैकल्पिक दृष्टिकोण प्रस्तावित किया: प्रासंगिक एआई, जिसमें लोगों को एक संविधान लिखना शामिल है जिसका मॉडल को पालन करना चाहिए।
यह संविधान मानव अधिकारों की संयुक्त राष्ट्र घोषणा, एप्पल की सेवा की शर्तों, गैर-पश्चिमी दृष्टिकोणों को प्रोत्साहित करने वाले सिद्धांतों पर आधारित है।
एंथ्रोपिक ने 'का उपयोग करके चैट मॉडल को प्रशिक्षित करने के लिए एक नया दृष्टिकोण प्रस्तावित किया है।संवैधानिक एआई'. यह विधि आगे बढ़ती है OpenAIहै सुदृढीकरण सीखना मानव प्रतिक्रिया से लेकिन गहन प्रशिक्षण नमूने लिखने की आवश्यकता से बचकर इसे बनाता है। इसके बजाय, मॉडल को एक संविधान के उपयोग के माध्यम से इनपुट का जवाब देने के लिए प्रशिक्षित किया जाता है जो कि मॉडल के पालन के लिए कानूनों के एक सेट के रूप में कार्य करने के लिए है।
इस पद्धति के माध्यम से, एआई ने कानूनी रूप से स्वीकृत सिद्धांतों के अपने सेट बनाम जो कहा है उसका मूल्यांकन करके अपने स्वयं के प्रशिक्षण नमूने उत्पन्न कर सकता है। इस समय बचाने वाली तकनीक को इस रूप में देखा जा सकता है इसहाक Asimovकी रोबोटिक्स के कानून व्यवहार में लाना।
मॉडल का आधार बनने वाले सिद्धांत इतने अधिक हैं कि विस्तार से चर्चा नहीं की जा सकती। हालाँकि, वे कई विषयों को कवर करते हैं, जैसे नैतिकता, जोखिम से बचना, अर्थशास्त्र और कृत्रिम बुद्धिमत्ता। प्रत्येक को एआई के निर्णयों का मार्गदर्शन करने में मदद करने के लिए विकसित किया गया है जब इसका जवाब देने की बात आती है संवादी संकेत.
एंथ्रोपिक क्लाउड नामक एक एआई मॉडल को प्रभावी ढंग से प्रशिक्षित करने में कामयाब रहा है, जो सफलतापूर्वक प्रतिस्पर्धा करता है OpenAIहै ChatGPT। का उपयोग करते हुए संविधान-एआई विधि, क्लाउड सटीकता के प्रभावशाली स्तर पर संवादात्मक संकेतों का जवाब दे सकता है, लेकिन अतिरिक्त सुधार की उम्मीद है क्योंकि एंथ्रोपिक इस गेम-चेंजिंग तकनीक पर निर्माण करना जारी रखता है।
दरअसल, इस नए दृष्टिकोण में उन कंपनियों के लिए समय और पैसा बचाने की क्षमता है, जिन्हें अब अपने स्वयं के प्रशिक्षण नमूने बनाने की आवश्यकता नहीं होगी। बल्कि, इस 'रेडी-मेड' विधि का उपयोग कस्टम-फिट मॉडल बनाने के आधार के रूप में किया जा सकता है- किसी प्रोग्रामिंग ज्ञान की आवश्यकता नहीं है। यह भी ध्यान रखना महत्वपूर्ण है कि कैसे यह तकनीक संवादी बॉट्स की बात करते समय सुरक्षा बढ़ाने का वादा करती है। कानूनी रूप से स्वीकृत सिद्धांतों का एक सेट बनाना जोखिम कम करता है एआई दुष्ट जा रहा है।
इसलिए, कॉन्स्टिट्यूशन एआई न केवल चैट मॉडल के विकास को आसान और तेज बनाने का वादा करता है, बल्कि यह इसे सुरक्षित भी बनाएगा। आर्टिफिशियल इंटेलिजेंस और चैटबॉट्स की दुनिया के लिए समान रूप से एक जीत की स्थिति।
चैटबॉट्स के लिए एंथ्रोपिक के "प्रासंगिक एआई" पर एक विश्लेषणात्मक नज़र
एंथ्रोपिक का प्रासंगिक एआई संयुक्त राष्ट्र के मानवाधिकारों की घोषणा, एप्पल की सेवा की शर्तों, गैर-पश्चिमी दृष्टिकोणों को प्रोत्साहित करने वाले सिद्धांतों से प्राप्त 60 से अधिक सिद्धांतों को शामिल करने पर आधारित है। डीपमाइंड का स्पैरो रूल्स, एंथ्रोपिक रिसर्च सेट 1 और सेट 2।
यह तथ्य कि एआई को अब इतने विस्तृत और विविध स्रोतों से प्राप्त सिद्धांतों के अनुसार व्यवहार करना सिखाया जा सकता है, वास्तव में उल्लेखनीय है। उदाहरण के लिए, संयुक्त राष्ट्र के मानव अधिकारों की घोषणा के सिद्धांतों को शामिल करके, चैटबॉट प्रतिक्रियाएं अब स्वतंत्रता, समानता और भाईचारे की धारणा को संरक्षित करने के महत्व को दर्शाती हैं। यह सुनिश्चित करने के लिए ऐसे सिद्धांत एक महत्वपूर्ण घटक हैं चैटबॉट वार्तालाप नैतिक और सम्मानजनक बने रहें। इसी तरह, Apple की सेवा की शर्तों का समावेश सुनिश्चित करता है chatbot अपने उपयोगकर्ताओं के गोपनीयता हितों पर विचार करता है।
गैर-पश्चिमी दृष्टिकोणों पर विचार को प्रोत्साहित करने वाले सिद्धांत भी "प्रासंगिक एआई" मॉडल में एक महत्वपूर्ण भूमिका निभाते हैं। ये सिद्धांत एआई की अन्य संस्कृतियों का सम्मान करने की आवश्यकता को दर्शाते हैं और यह सुनिश्चित करते हैं कि चैटबॉट प्रतिक्रियाओं को हानिकारक या आक्रामक नहीं माना जाता है। इसी तरह, डीपमाइंड के स्पैरो नियम तय करते हैं कि चैटबॉट उपयोगकर्ता के साथ संबंध बनाने के इरादे से प्रतिक्रिया करता है।
एंथ्रोपिक रिसर्च सेट 1 और सेट 2 का समावेश इस बात की अंतिम गारंटी देता है कि एआई बातचीत सभ्य और सम्मानजनक बनी रहे। एआई को यह सुनिश्चित करने के लिए प्रशिक्षित किया जाता है कि वह विचारशील और विनम्र तरीके से प्रश्नों का उत्तर दे।
कुल मिलाकर, एन्थ्रोपिक का "प्रासंगिक एआई" मॉडल के क्षेत्र में एक अविश्वसनीय रूप से महत्वपूर्ण सफलता है एआई अनुसंधान. इस तरह के विविध स्रोतों से प्राप्त सिद्धांतों के अनुसार एआई को पढ़ाने की अनुमति देकर, स्वचालित वार्तालापों के नैतिक निहितार्थों में बहुत सुधार हुआ है।
एआई के बारे में और पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
