OpenAI बेहतर बनाने के लिए 50+ विशेषज्ञों की एक टीम इकट्ठी की GPT-4की सुरक्षा
संक्षेप में
OpenAI यह सुनिश्चित करने के लिए कि यह नवीनतम है, 50 से अधिक विशेषज्ञों की एक टीम को काम पर रखा है भाषा मॉडल, GPT-4, उपयोग के लिए सुरक्षित है।
टीम में एआई सुरक्षा, नैतिकता और नीति में विशेषज्ञता रखने वाले शोधकर्ता और इंजीनियर शामिल हैं।
इसका उद्देश्य रोकथाम करना है GPT-4 हानिकारक या पक्षपातपूर्ण सामग्री उत्पन्न करने से और यह सुनिश्चित करने के लिए कि यह मानवीय मूल्यों के अनुरूप है।
OpenAI इसे बनाने के लिए विभिन्न डोमेन के 50 से अधिक विशेषज्ञों को काम पर रखा है GPT-4 सुरक्षित. विशेषज्ञ संभावित जोखिमों और कमजोरियों की पहचान करने के लिए मॉडल के प्रतिकूल परीक्षण के साथ काम कर रहे हैं। वे विभिन्न क्षेत्रों के विशेषज्ञ हैं: दीर्घकालिक एआई संरेखण जोखिम, साइबर सुरक्षा, बायोरिस्क और अंतर्राष्ट्रीय सुरक्षा। उनके निष्कर्षों से मदद मिली है OpenAI उच्च जोखिम वाले क्षेत्रों में मॉडल व्यवहार का मूल्यांकन करें जिनके लिए विशिष्ट विशेषज्ञता की आवश्यकता होती है।
जबकि नवीनतम भाषा मॉडल छोटे भाषा मॉडल के समान जोखिम पैदा करता है, अतिरिक्त क्षमताएं GPT-4 नये खतरों को जन्म देता है। इस प्रकार, विशेषज्ञों की भागीदारी रही है प्रौद्योगिकी की सुरक्षा सुनिश्चित करने में महत्वपूर्ण.
OpenAI की सुरक्षा में सुधार के लिए मानव प्राथमिकताओं (आरएलएचएफ) प्रशिक्षण संकेतों और नियम-आधारित इनाम मॉडल (आरबीआरएम) से सुरक्षा-प्रासंगिक सुदृढीकरण सीखने का एक अतिरिक्त सेट लागू किया है। GPT-4 नमूना। आरबीआरएम शून्य-शॉट हैं GPT-4 क्लासिफायर जो एक अतिरिक्त इनाम संकेत के रूप में कार्य करते हैं GPT-4 आरएलएचएफ फाइन-ट्यूनिंग के दौरान नीति मॉडल। उनका उद्देश्य उचित व्यवहार को प्रोत्साहित करना है, जैसे हानिकारक सामग्री उत्पन्न करने से इनकार करना या हानिरहित अनुरोधों को अस्वीकार न करना।
की सुरक्षा सुनिश्चित करने के लिए GPT-4 मॉडल, OpenAI तनाव परीक्षण, सीमा परीक्षण और प्रतिकूल परीक्षण सहित "रेड टीमिंग" अभ्यास आयोजित करने के लिए अगस्त 2022 में बाहरी विशेषज्ञों की भर्ती शुरू की गई। उनके पास इसके शुरुआती संस्करणों तक पहुंच थी GPT-4 मॉडल बनाया और प्रारंभिक जोखिमों की पहचान की, जिसने आगे सुरक्षा अनुसंधान को प्रेरित किया।
विशेषज्ञों की प्रतिक्रिया से जोखिमों को कम करने के लिए तकनीकी न्यूनीकरण और नीति प्रवर्तन उपायों का मार्ग प्रशस्त हुआ। हालाँकि, कई खतरे बने हुए हैं, और आगे के मूल्यांकन की आवश्यकता है।
कर्मचारियों के बारे में बात हो रही है OpenAI, ChatGPT शुरू में था विकसित दुनिया के कुछ सबसे गरीब क्षेत्रों के व्यक्तियों की सहायता से OpenAIसामा नामक कंपनी के साथ साझेदारी, जो गरीब क्षेत्रों के लाखों श्रमिकों को रोजगार देती है। एआई नैतिकता के कुछ विशेषज्ञों ने आलोचना की है OpenAIइसके प्रशिक्षण को आउटसोर्स करने का निर्णय ChatGPT सामा को मॉडल, कंपनी पर कम लागत वाले श्रम का शोषण करने का आरोप लगाया।
अधिक पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
एग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].
और अधिक लेख
एग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].
