तकनीकी विशेषज्ञों ने अधिक उन्नत एआई सिस्टम के प्रशिक्षण पर अस्थायी रोक लगाने के लिए खुले पत्र पर हस्ताक्षर किए GPT-4
संक्षेप में
विशाल एआई प्रयोगों पर रोक लगाने के लिए 1100 से अधिक हस्ताक्षरकर्ताओं ने खुले पत्र पर हस्ताक्षर किए हैं।
हस्ताक्षरकर्ताओं में एलोन मस्क, स्टीव वोज्नियाक और इमाद मोस्टाक शामिल हैं।
खुले पत्र में एआई द्वारा सूचना पक्षपात के बारे में चिंता जताई गई, नौकरी स्वचालन और मानव सभ्यता पर एआई का खतरा।
प्रमुख तकनीकी विशेषज्ञों सहित 1,100 से अधिक हस्ताक्षरकर्ताओं ने हस्ताक्षर किए हैं खुला पत्र से अधिक उन्नत एआई सिस्टम के प्रशिक्षण पर छह महीने की रोक लगाने का आह्वान किया गया है GPT-4.
पत्र फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा लिखा गया था, जो एक गैर-लाभकारी संगठन है जो मानवता के सामने आने वाले वैश्विक विनाशकारी और अस्तित्वगत जोखिमों को कम करने के लिए काम करता है, विशेष रूप से उन्नत कृत्रिम बुद्धि से अस्तित्वगत जोखिम।
व्यापक रूप से समर्थित असिलोमर एआई सिद्धांतों का हवाला देते हुए, जिसमें कहा गया है कि "उन्नत एआई पृथ्वी पर जीवन के इतिहास में गहरा बदलाव का प्रतिनिधित्व कर सकता है, और इसके लिए देखभाल और संसाधनों के साथ योजना बनाई जानी चाहिए," पत्र में कहा गया है कि योजना का स्तर और प्रबंधन नहीं हो रहा है।
पत्र में आगे कहा गया है कि एआई प्रयोगशालाएं तेजी से शक्तिशाली कृत्रिम बुद्धिमत्ता विकसित करने के लिए "नियंत्रण से बाहर" दौड़ में हैं, जिसे कोई भी समझ नहीं सकता है, भविष्यवाणी नहीं कर सकता है या विश्वसनीय रूप से नियंत्रित नहीं कर सकता है। जैसा कि समकालीन AI सिस्टम पसंद करते हैं GPT-4 कर सकते हैं मनुष्यों के साथ प्रतिस्पर्धा करें सामान्य कार्यों पर, पत्र एआई द्वारा सूचना पूर्वाग्रह, नौकरी स्वचालन और मानव सभ्यता पर नियंत्रण खोने के जोखिम के बारे में चिंता जताता है।
“हम सभी एआई प्रयोगशालाओं से अधिक शक्तिशाली एआई सिस्टम के प्रशिक्षण को कम से कम 6 महीने के लिए तुरंत रोकने का आह्वान करते हैं GPT-4. यह विराम सार्वजनिक और सत्यापन योग्य होना चाहिए, और इसमें सभी प्रमुख कलाकार शामिल होने चाहिए। यदि इस तरह का विराम शीघ्रता से लागू नहीं किया जा सकता है, तो सरकारों को इसमें कदम उठाना चाहिए और रोक लगानी चाहिए,''
पत्र बताता है।
पत्र में एआई प्रयोगशालाओं और तकनीकी विशेषज्ञों से उन्नत एआई डिजाइन और विकास के लिए सुरक्षा प्रोटोकॉल विकसित करने और लागू करने के लिए ठहराव की अवधि का उपयोग करने का आग्रह किया गया है, जिनका स्वतंत्र बाहरी विशेषज्ञों द्वारा कड़ाई से ऑडिट और निरीक्षण किया जाता है।
हालांकि, अमेरिकी पत्रकार जेफ जार्विस ने पत्र की आलोचना की, कहावत यह "नैतिक आतंक का प्रमुख नमूना" है।
टेक और मशीन लर्निंग के कुछ प्रमुख दिमाग जिन्होंने डीपमाइंड अनुसंधान वैज्ञानिकों और दुनिया भर के कई विश्वविद्यालय के प्रोफेसरों के साथ पत्र पर हस्ताक्षर किए हैं:
- योशुआ बेंगियो, मॉन्ट्रियल विश्वविद्यालय, डीप लर्निंग विकसित करने के लिए ट्यूरिंग पुरस्कार विजेता, मॉन्ट्रियल इंस्टीट्यूट फॉर लर्निंग एल्गोरिदम के प्रमुख
- स्टुअर्ट रसेल, बर्कले, कंप्यूटर साइंस के प्रोफेसर, सेंटर फॉर इंटेलिजेंट सिस्टम्स के निदेशक, और मानक पाठ्यपुस्तक "आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न एप्रोच" के सह-लेखक
- स्पेसएक्स, टेस्ला और ट्विटर के सीईओ एलोन मस्क
- इमाद मोस्ताक, सीईओ, Stability AI
- जान तेलिन, स्काइप के सह-संस्थापक, सेंटर फॉर द स्टडी ऑफ एक्जिस्टेंशियल रिस्क, फ्यूचर ऑफ लाइफ इंस्टीट्यूट
- गैरी मार्कस, न्यूयॉर्क विश्वविद्यालय, एआई शोधकर्ता, प्रोफेसर एमेरिटस
- मार्क रोटेनबर्ग, सेंटर फॉर एआई एंड डिजिटल पॉलिसी (CAIDP), अध्यक्ष
में हालिया पत्र, रोटेनबर्ग ने लिखा कि सीएआईडीपी संघीय व्यापार आयोग के पास एक शिकायत दर्ज करेगा, जिसमें ओपन एआई की जांच की मांग की जाएगी और ChatGPT, साथ ही सुरक्षा उपाय स्थापित होने तक उत्पाद की आगे की व्यावसायिक रिलीज़ पर प्रतिबंध लगा दिया गया है।
OpenAI सीईओ सैम अल्टमैन के पास है स्वीकार किया कि "हमें अपने संस्थानों को यह पता लगाने के लिए पर्याप्त समय चाहिए कि क्या करना है" और यह कि समाज "संभावित रूप से डरावने" जनरेटिव एआई टूल्स से बहुत दूर नहीं है।
"हम एफटीसी को" पॉज बटन हिट करने "के लिए कह रहे हैं ताकि हमारे संस्थानों, हमारे कानूनों और हमारे समाज को पकड़ने का अवसर मिल सके। सीएएडीपी पत्र में कहा गया है कि इससे पहले कि हम नियंत्रण खो दें, हमें उन तकनीकों पर जोर देने की जरूरत है जो हम बनाते हैं।
कहीं और, यूरोपीय संघ के विधायक एआई नियमों को लागू करने के लिए वर्ष के अंत तक यूरोपीय संघ के देशों के साथ एक समझौते पर हस्ताक्षर करने का लक्ष्य है, हालांकि एआई को कैसे नियंत्रित किया जाना चाहिए, इस पर बहस तेज हो सकती है।
अधिक पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
और अधिक लेख
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
