एआई कंपनियों को अपनी फंडिंग का 30% सुरक्षा और नैतिकता में अनुसंधान एवं विकास पर खर्च करना चाहिए
पूर्वाग्रह और गलत जानकारी से होने वाला नुकसान पहले से ही स्पष्ट है। ऐसे संकेत हैं कि अन्य खतरे भी सामने आ सकते हैं। मौजूदा जोखिमों को कम करना और उभरते जोखिमों का पूर्वानुमान लगाना महत्वपूर्ण है।
हम नहीं जानते कि उन्नत स्वायत्त प्रणालियाँ या एजीआई सुरक्षित कैसे सुनिश्चित करें या यदि वे अभी उपलब्ध हों तो उनका परीक्षण कैसे करें। इसके अलावा, सरकारों के पास दुरुपयोग को रोकने और सुरक्षित प्रथाओं को लागू करने के लिए आवश्यक संस्थानों की कमी है, भले ही उनके पास ऐसा हो। लेखक कुशल सरकारी निरीक्षण विकसित करने और सुरक्षा एवं नैतिकता की दिशा में अनुसंधान एवं विकास प्रयासों को पुनर्निर्देशित करने का समर्थन करते हैं।
नियंत्रण और ईमानदारी (अधिक परिष्कृत प्रणालियाँ गलत लेकिन ठोस उत्तर देकर परीक्षण को मात दे सकती हैं), मजबूती (वितरण बदलाव या प्रतिकूल इनपुट के साथ नई परिस्थितियों में), व्याख्यात्मकता (कार्य को समझना), जोखिम मूल्यांकन (नई क्षमताएं उभरती हैं जिनका अनुमान लगाना मुश्किल होता है), और नई चुनौतियों का उद्भव (अभूतपूर्व विफलता मोड) कुछ अनुसंधान एवं विकास चुनौतियाँ हैं जिनका समाधान नहीं किया जा सकेगा अधिक शक्तिशाली AI सिस्टम विकसित करना.
लेखकों का सुझाव है कि सुरक्षा और नैतिकता को AI R&D के लिए कम से कम एक-तिहाई फंडिंग मिलनी चाहिए।
मानकों को राष्ट्रीय संस्थानों और वैश्विक शासन दोनों के संबंध में लागू करने की आवश्यकता है। एआई में इनका अभाव है, लेकिन फार्मास्युटिकल, वित्तीय और परमाणु उद्योगों में है। अब राष्ट्रों और व्यवसायों को सुरक्षा की कीमत पर बचत करने के लिए प्रोत्साहन दिया जा रहा है। कंपनियां एआई की प्रगति से लाभ कमा सकती हैं, जबकि समाज को परिणाम भुगतने के लिए छोड़ दिया जाता है, ठीक उसी तरह जैसे उद्योग नदियों में कचरा बहाते हैं।
मजबूत तकनीकी जानकारी और तेजी से आगे बढ़ने की क्षमता राष्ट्रीय संस्थानों की आवश्यकताएं हैं। वैश्विक क्षेत्र में, साझेदारी और समझौते आवश्यक हैं। अकादमिक अनुसंधान और कम जोखिम वाले अनुप्रयोगों की सुरक्षा के लिए छोटे और पूर्वानुमानित मॉडलों में नौकरशाही बाधाओं से बचा जाना चाहिए। फ्रंटियर मॉडल - अरबों डॉलर के सुपर कंप्यूटर पर प्रशिक्षित सबसे शक्तिशाली प्रणालियों का एक चयनित समूह - को सबसे अधिक ध्यान केंद्रित करना चाहिए।
विनियमों को प्रभावी बनाने के लिए सरकारों को विकास के बारे में अधिक खुला होना चाहिए। नियामकों को मॉडल पंजीकरण अनिवार्य करना चाहिए, आंतरिक मुखबिरों की सुरक्षा करनी चाहिए, घटना की रिपोर्टिंग अनिवार्य करनी चाहिए, और मॉडल के विकास और सुपर कंप्यूटर के उपयोग पर नज़र रखनी चाहिए।
मूल्यांकन करने के लिए नियामकों को उत्पादन में जारी करने से पहले इन प्रणालियों तक पहुंच भी होनी चाहिए संभावित रूप से हानिकारक रोगज़नक़ पीढ़ी, स्व-प्रतिकृति और सिस्टम प्रवेश जैसी विशेषताएं।
खतरनाक होने की संभावना वाले सिस्टम को विभिन्न प्रकार के नियंत्रण तरीकों की आवश्यकता होती है। सीमांत मॉडल रचनाकारों को उनके सिस्टम को होने वाली किसी भी क्षति के लिए कानूनी रूप से जिम्मेदार ठहराया जाना चाहिए जिसे टाला जा सकता था। इससे सुरक्षा निवेश को बढ़ावा मिलना चाहिए। अधिक सुविधाएँ, जैसे सरकारी लाइसेंसिंग, प्रतिक्रिया में विकास को रोकने की क्षमता संभावित खतरनाक अत्यंत सक्षम प्रणालियों के लिए क्षमताओं, पहुंच नियंत्रण और राज्य-स्तरीय हैकरों के लिए अभेद्य सूचना सुरक्षा उपायों की आवश्यकता हो सकती है।
यद्यपि कोई नियम नहीं हैं, व्यवसायों को तुरंत अपनी यदि-तब जिम्मेदारियों को स्पष्ट करना चाहिए, यदि कुछ मॉडल क्षमताएं लाल रेखा को पार करती हैं तो वे सटीक कदम उठाएंगे। इन उपायों को पूरी तरह से समझाने और स्वतंत्र रूप से पुष्टि करने की आवश्यकता है। इस प्रकार, यह है. एक विभक्त नीति अनुपूरक थीसिस का सारांश संकलित करता है।
- अक्टूबर में, फ्रंटियर मॉडल फोरम ने $10 मिलियन से अधिक का AI सुरक्षा कोष पेश किया हैएआई सुरक्षा अनुसंधान में प्रगति लाने का लक्ष्य। यह फंड, फ्रंटियर मॉडल फोरम और परोपकारी भागीदारों के बीच एक सहयोग है, जो दुनिया भर में शैक्षणिक संस्थानों, अनुसंधान संगठनों और स्टार्टअप से जुड़े स्वतंत्र शोधकर्ताओं को सहायता प्रदान करेगा। इस पहल में प्राथमिक योगदानकर्ता एंथ्रोपिक, गूगल, माइक्रोसॉफ्ट हैं। OpenAI, पैट्रिक जे. मैकगवर्न फाउंडेशन, डेविड और ल्यूसिल पैकार्ड फाउंडेशन, एरिक श्मिट और जान टालिन जैसे परोपकारी संगठनों के साथ। एआई सेफ्टी फंड मुख्य रूप से संभावित खतरों को उजागर करने के उद्देश्य से एआई मॉडल के लिए नई मूल्यांकन तकनीकों और रेड टीमिंग दृष्टिकोण के विकास को बढ़ावा देने पर केंद्रित है। फोरम आने वाले महीनों में एक सलाहकार बोर्ड स्थापित करने की योजना बना रहा है, और उसके तुरंत बाद प्रस्तावों के लिए अपनी पहली कॉल जारी करेगा और पुरस्कार प्रदान करेगा।
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
