GPT-4 पहले से "मतिभ्रमकारी" तथ्य और तर्क संबंधी त्रुटियाँ विरासत में मिलीं GPT मॉडल
संक्षेप में
OpenAI कहते हैं GPT-4 पहले जैसी ही सीमाएँ हैं GPT मॉडल.
GPT-4 अभी भी तथ्यों को मतिभ्रम करता है और तर्क संबंधी गलतियाँ करता है।
हालांकि, GPT-4 से 40% अधिक अंक प्राप्त करता है OpenAIनवीनतम है GPT-3.5 कंपनी के आंतरिक प्रतिकूल तथ्यात्मकता मूल्यांकन पर।
OpenAI उपयोगकर्ताओं को चेतावनी दी है कि इसका नवीनतम भाषा मॉडल, GPT-4, अभी भी पूरी तरह से विश्वसनीय नहीं है और तथ्यों को "मतिभ्रम" कर सकता है और तर्क संबंधी त्रुटियां कर सकता है। कंपनी उपयोगकर्ताओं से भाषा मॉडल आउटपुट का उपयोग करते समय सावधानी बरतने का आग्रह करती है, खासकर "उच्च जोखिम वाले संदर्भों" में।
हालांकि, अच्छी खबर यह है कि GPT-4 पिछले मॉडलों की तुलना में मतिभ्रम को काफी कम कर देता है। OpenAI दावा करता है कि GPT-4 नवीनतम से 40% अधिक स्कोर GPT-3.5 आंतरिक प्रतिकूल तथ्यात्मकता मूल्यांकन पर।
“हमने ट्रुथफुलक्यूए जैसे बाहरी बेंचमार्क पर प्रगति की है, जो प्रतिकूल रूप से चयनित गलत बयानों के सेट से तथ्य को अलग करने की मॉडल की क्षमता का परीक्षण करता है। ये प्रश्न तथ्यात्मक रूप से गलत उत्तरों के साथ जोड़े गए हैं जो सांख्यिकीय रूप से आकर्षक हैं।" OpenAI में लिखा है ब्लॉग पोस्ट.
इस सुधार के बावजूद, मॉडल में अभी भी सितंबर 2021 के बाद होने वाली घटनाओं का ज्ञान नहीं है और कभी-कभी सरल तर्क त्रुटियां होती हैं, जैसे पहले के मॉडल करते हैं। इसके अतिरिक्त, यह उपयोगकर्ताओं से स्पष्ट झूठे बयानों को स्वीकार करने में अत्यधिक भोला हो सकता है और कठिन समस्याओं में विफल हो सकता है, जैसे कि इसके कोड में सुरक्षा कमजोरियों का परिचय देना। यह अपने द्वारा दी गई जानकारी की तथ्य-जांच भी नहीं करता है।
अपने पूर्ववर्तियों की तरह, GPT-4 हानिकारक सलाह, ख़राब कोड या गलत जानकारी उत्पन्न कर सकता है। हालाँकि, मॉडल की अतिरिक्त क्षमताएँ नई जोखिम सतहों को जन्म देती हैं जिन्हें समझने की आवश्यकता है। इन जोखिमों की सीमा का आकलन करने के लिए, 50 से अधिक विशेषज्ञ एआई संरेखण जोखिम, साइबर सुरक्षा, बायोरिस्क, विश्वास और सुरक्षा और अंतर्राष्ट्रीय सुरक्षा सहित विभिन्न डोमेन से, मॉडल का प्रतिकूल परीक्षण करने के लिए लगे हुए थे। फिर उनकी प्रतिक्रिया और डेटा का उपयोग मॉडल को बेहतर बनाने के लिए किया गया, जैसे कि बढ़ाने के लिए अतिरिक्त डेटा एकत्र करना GPT-4खतरनाक रसायनों को संश्लेषित करने के अनुरोधों को अस्वीकार करने की क्षमता।
मुख्य तरीकों में से एक OpenAI आरएलएचएफ (ह्यूमन फीडबैक से सुदृढीकरण सीखना) प्रशिक्षण के दौरान एक अतिरिक्त सुरक्षा इनाम संकेत को शामिल करके हानिकारक आउटपुट को कम किया जा रहा है। सिग्नल हानिकारक सामग्री के अनुरोधों को अस्वीकार करने के लिए मॉडल को प्रशिक्षित करता है defiमॉडल के उपयोग दिशानिर्देशों द्वारा निर्धारित। इनाम एक द्वारा प्रदान किया जाता है GPT-4 जीरो-शॉट क्लासिफायर, जो सुरक्षा संबंधी संकेतों पर सुरक्षा सीमाओं और पूर्णता शैली का आकलन करता है।
OpenAI यह भी कहा गया कि इससे अस्वीकृत सामग्री के अनुरोधों का जवाब देने की मॉडल की प्रवृत्ति में 82% की कमी आई है GPT-3.5, और GPT-4 कंपनी की नीतियों के अनुसार चिकित्सीय सलाह और खुद को नुकसान पहुंचाने जैसे संवेदनशील अनुरोधों पर 29% अधिक प्रतिक्रिया देता है।
जबकि OpenAIके हस्तक्षेपों से बुरे व्यवहार को उजागर करने में कठिनाई बढ़ गई है GPT-4, यह अभी भी संभव है, और अभी भी ऐसे जेलब्रेक हैं जो ऐसी सामग्री उत्पन्न कर सकते हैं जो उपयोग दिशानिर्देशों का उल्लंघन करती है।
"जैसे ही एआई सिस्टम अधिक प्रचलित हो जाते हैं, इन हस्तक्षेपों में उच्च स्तर की विश्वसनीयता प्राप्त करना तेजी से महत्वपूर्ण हो जाएगा। अभी के लिए, इन सीमाओं को परिनियोजन-समय सुरक्षा तकनीकों जैसे दुरुपयोग के लिए निगरानी के साथ पूरक करना आवश्यक है, ”कंपनी ने कहा।
OpenAI के संभावित प्रभावों को बेहतर ढंग से समझने और उनका आकलन करने के लिए बाहरी शोधकर्ताओं के साथ सहयोग कर रहा है GPT-4 और इसके उत्तराधिकारी मॉडल। टीम भविष्य में एआई सिस्टम में उभरने वाली खतरनाक क्षमताओं के लिए मूल्यांकन भी विकसित कर रही है। जैसे-जैसे वे संभावित सामाजिक और का अध्ययन करना जारी रखते हैं आर्थिक प्रभाव of GPT-4 और अन्य AI सिस्टम, OpenAI नियत समय में अपने निष्कर्षों और अंतर्दृष्टि को जनता के साथ साझा करेंगे।
अधिक पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
और अधिक लेख
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
