OpenAI एआई सुरक्षा सुनिश्चित करने के लिए अपने नवीनतम दृष्टिकोण का अनावरण किया
संक्षेप में
OpenAI सुरक्षा और गोपनीयता तथा जांच के संबंध में हालिया चिंताओं के बाद सुरक्षा के प्रति अपने बेहतर दृष्टिकोण को रेखांकित करते हुए एक ब्लॉग पोस्ट जारी किया है।
कंपनी कठोर परीक्षण करने, फीडबैक के लिए बाहरी विशेषज्ञों को शामिल करने और सर्वोत्तम का निर्धारण करने के लिए सरकारों के साथ काम करने का वचन देती है एआई विनियमों के लिए दृष्टिकोण.
सुरक्षा और गोपनीयता और निम्नलिखित के संबंध में चिंताओं का सामना करने के बाद हाल ही में जांच कुछ यूरोपीय देशों में, OpenAI है रिहा सुरक्षा के प्रति कंपनी के बेहतर दृष्टिकोण को रेखांकित करने वाला एक ब्लॉग पोस्ट।
OpenAI किसी भी नई प्रणाली को जारी करने से पहले कठोर परीक्षण करने, फीडबैक के लिए बाहरी विशेषज्ञों को शामिल करने और एआई नियमों के लिए सर्वोत्तम दृष्टिकोण निर्धारित करने के लिए सरकारों के साथ काम करने का वचन दिया गया है।
इससे पहले, कंपनी ने अपने नवीनतम मॉडल की सुरक्षा और संरेखण पर काम करते हुए छह महीने से अधिक समय बिताया था। GPT-4, इसे सार्वजनिक रूप से जारी करने से पहले। अपने नवीनतम भाषा मॉडल की सुरक्षा सुनिश्चित करने के लिए, GPT-4, OpenAI काम पर रखा 50 से अधिक विशेषज्ञों की एक टीम: शोधकर्ताओं और इंजीनियरों सहित एआई सुरक्षा, नैतिकता और नीति विशेषज्ञ।
"महत्वपूर्ण रूप से, हम मानते हैं कि समाज के पास तेजी से सक्षम एआई को अद्यतन करने और समायोजित करने का समय होना चाहिए, और इस तकनीक से प्रभावित होने वाले प्रत्येक व्यक्ति को एआई के आगे विकास के बारे में महत्वपूर्ण बात करनी चाहिए,"
OpenAI लिखा था।
OpenAIबच्चों की सुरक्षा और गोपनीयता पर फोकस
इटली ने प्रतिबंध लगा दिया ChatGPT, हवाला देते हुए OpenAI13 वर्ष और उससे अधिक आयु के व्यक्तियों के लिए डिज़ाइन किए जाने के बावजूद, अपने उपयोगकर्ताओं की आयु सत्यापित करने में विफलता इसका एक कारण है। कंपनी के सुरक्षा प्रयासों का एक महत्वपूर्ण ध्यान आयु सत्यापन विकल्पों को लागू करके बच्चों की सुरक्षा पर केंद्रित हो गया है OpenAI अब खोज की जा रही है, खासकर जब से एआई उपकरण माता-पिता की मंजूरी के साथ 18 वर्ष या उससे अधिक या 13 वर्ष और उससे अधिक उम्र के व्यक्तियों के लिए हैं।
कंपनी घृणास्पद, उत्पीड़नकारी, हिंसक या वयस्क सामग्री के निर्माण पर सख्ती से रोक लगाती है GPT-4 की तुलना में अस्वीकृत सामग्री के अनुरोधों का जवाब देने की संभावना पहले से ही 82% कम है GPT-3. 5.
OpenAI दुरुपयोग और होने वाली उम्मीदों पर निगरानी रखने के लिए एक मजबूत प्रणाली स्थापित की है GPT-4 समय के साथ अधिक लोगों के लिए उपलब्ध। कंपनी गैर-लाभकारी खान अकादमी जैसे अनुरूप सुरक्षा शमन पर डेवलपर्स के साथ काम करती है, और मॉडल आउटपुट के लिए सख्त मानकों की अनुमति देने के लिए सुविधाओं पर काम कर रही है।
गोपनीयता में सुधार एक अन्य सुरक्षा पहलू है OpenAI विशेष रूप से हाल के बाद पर ध्यान केंद्रित कर रहा है डेटा उल्लंघन. एआई कंपनी के बड़े भाषा मॉडल को भारी मात्रा में पाठ पर प्रशिक्षित किया जाता है जिसमें सार्वजनिक सामग्री, लाइसेंस प्राप्त सामग्री और मानव समीक्षकों द्वारा उत्पन्न सामग्री शामिल होती है; यह AI मॉडल को लोगों के लिए अधिक उपयोगी बनाने के लिए डेटा का उपयोग करता है।
OpenAI अपने प्रशिक्षण डेटा से व्यक्तिगत जानकारी को हटाकर, व्यक्तिगत जानकारी के अनुरोधों को अस्वीकार करने के लिए मॉडल को ठीक करके और अनुरोध पर अपने सिस्टम से व्यक्तिगत जानकारी को हटाकर व्यक्तियों की गोपनीयता की रक्षा के लिए कदम उठा रहा है। इससे एआई मॉडल द्वारा प्रतिक्रिया उत्पन्न करने की संभावना कम हो जाती है जिसमें व्यक्तिगत जानकारी शामिल होती है।
OpenAIका दृष्टिकोण एआई सुरक्षा चिंताओं को संबोधित करने के लिए प्रभावी शमन पर शोध करना है और संरेखण तकनीकें और वास्तविक दुनिया के दुरुपयोग के खिलाफ उनका परीक्षण करें। यह अधिक सक्षम मॉडल बनाने और तैनात करने और सुरक्षा सावधानियों को बढ़ाने में अधिक सतर्क रहने का भी वचन देता है। सुरक्षा सुनिश्चित करने के लिए एआई विकास और तैनाती का प्रभावी प्रशासन आवश्यक है, जिसके लिए तकनीकी और संस्थागत नवाचार की आवश्यकता है।
अधिक पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
एग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].
और अधिक लेख
एग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].
