विटालिक ब्यूटिरिन और MIRI के निदेशक नैट सोरेस एआई के खतरों में तल्लीन हैं: क्या आर्टिफिशियल इंटेलिजेंस मानव विलुप्त होने का कारण बन सकता है?
संक्षेप में
इथेरियम के संस्थापक विटालिक ब्यूटिरिन और मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट के निदेशक नैट सोरेस ने आज ज़ुज़ालु में एआई के जोखिमों पर चर्चा की।
ज़ुज़ालु मॉन्टेनेग्रो में एक पॉप-अप शहर समुदाय है जिसे क्रिप्टो समुदाय में ब्यूटिरिन और उसके साथियों द्वारा शुरू किया गया है।
चर्चा में, सोरेस ने अपने दृष्टिकोण को साझा किया कि एआई पृथ्वी पर सभी जीवन को समाप्त करने की अत्यधिक संभावना क्यों है।
इथेरियम के संस्थापक विटालिक ब्यूटिरिन और मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट (MIRI) के निदेशक नैट सोरेस आज ज़ुज़ालु में एआई के जोखिमों पर चर्चा की।
25 मार्च से 25 मई तक चलने वाले क्रिप्टो समुदाय में ब्यूटिरिन और उसके साथियों द्वारा शुरू किया गया ज़ुज़ालु मोंटेनेग्रो में एक "पॉप-अप सिटी कम्युनिटी" है। यह आयोजन 200 प्रमुख निवासियों को सीखने, बनाने, लंबे समय तक जीने और स्वस्थ रहने की साझा इच्छा के साथ लाता है। रहता है, और आत्मनिर्भर समुदायों का निर्माण करता है। दो महीने के दौरान, समुदाय विभिन्न विषयों पर कई कार्यक्रमों की मेजबानी भी कर रहा है जैसे सिंथेटिक जीव विज्ञान, गोपनीयता के लिए प्रौद्योगिकी, सार्वजनिक सामान, दीर्घायु, शासन, और बहुत कुछ।
RSI चर्चा सोरेस ने बर्कले स्थित एक गैर-लाभकारी एमआईआरआई में अपना काम शुरू करने के साथ खोला, जो कि वह इसे चला रहा था, उससे अधिक समय से अस्तित्व में है। पिछले 20 वर्षों से, MIRI यह सुनिश्चित करने के लिए जमीनी कार्य करने की कोशिश कर रहा है कि AI का विकास अच्छी तरह से हो। चर्चा के साथ, विटालिक ने मानव इतिहास में जारी अन्य तकनीकों की तुलना में एआई को अद्वितीय रूप से जोखिम भरा बनाने की उम्मीद की।
मानव विलुप्त होने के कारण एआई की संभावना
विटालिक ने कहा कि वह लंबे समय से एआई जोखिमों के विषय में रुचि रखते हैं और याद किया जा रहा है कि अगर एआई गलत हो जाता है तो 0.5% -1% संभावना है कि पृथ्वी पर सभी जीवन मौजूद नहीं रहेंगे - एक अस्तित्वगत जोखिम जो पैदा करेगा मानव जाति का विलुप्त होना या मानव सभ्यता का अपरिवर्तनीय पतन।
सोरेस के दृष्टिकोण से, मानव विलुप्त होने एआई प्रौद्योगिकी के असुरक्षित विकास के एक डिफ़ॉल्ट परिणाम की तरह दिखता है। इसकी तुलना विकासवाद से करते हुए, उन्होंने कहा कि मानवता का विकास केवल विकास परिवर्तन की तुलना में तेजी से हो रहा था। एआई और मानव विकास दोनों प्रक्रियाओं में, प्रमुख अनुकूलन - किसी समस्या का सबसे अच्छा समाधान खोजने की प्रक्रिया जब विचार करने के लिए कई उद्देश्य होते हैं - बदल रहा था। मनुष्य एक ऐसे बिंदु पर पहुंच गए थे जहां वे प्राकृतिक चयन के माध्यम से जानकारी को जीन में कड़ी मेहनत करने के बजाय मौखिक रूप से ज्ञान देने में सक्षम थे।
"एआई अंततः एक ऐसा मामला है जहां आप मैक्रोस्कोपिक अनुकूलन प्रक्रिया को फिर से बदल सकते हैं। मुझे लगता है कि आप अनुकूलन-वार मनुष्यों से कहीं बेहतर कर सकते हैं। मुझे लगता है कि जब हमारे परिवेश को अनुकूलित करने की बात आती है तो हम अभी भी बहुत मूर्ख हैं। एआई के साथ, हम एक प्रकार के चरण परिवर्तन से गुजर रहे हैं जहां स्वचालित अनुकूलन वह बल है जो ब्रह्मांड की मैक्रोस्कोपिक विशेषताओं का निर्धारण कर रहा है," सोरेस ने समझाया।
उन्होंने कहा कि वह भविष्य कैसा दिखता है जिसके लिए अनुकूलन प्रक्रिया का अनुकूलन किया जा रहा है, और यह संभवतः मानवता के लिए लाभकारी होना बंद हो जाएगा क्योंकि अधिकांश अनुकूलन लक्ष्यों में मनुष्यों के लिए कोई जगह नहीं है।
क्या मनुष्य एआई को अच्छा करने के लिए प्रशिक्षित कर सकते हैं?
Buterin ने बताया कि मनुष्य ही AI को प्रशिक्षित कर रहे हैं और इसे अनुकूलित करने का तरीका बता रहे हैं। यदि आवश्यक हो, तो वे मशीन को अनुकूलित करने के तरीके को बदल सकते हैं। इसके लिए, सोरेस ने कहा कि एआई को अच्छा करने के लिए प्रशिक्षित करना सैद्धांतिक रूप से संभव है, लेकिन केवल एक उद्देश्य को प्राप्त करने के लिए एआई को प्रशिक्षित करने का मतलब यह नहीं है कि वह ऐसा करना चाहता है या करना चाहता है, इच्छा के लिए उबल रहा है।
बड़ी मात्रा में डेटा प्राप्त करने वाले बड़े भाषा मॉडल में सुदृढीकरण सीखने के बारे में बात करते हुए, Buterin ने पूछा कि यह काम क्यों नहीं करेगा, क्योंकि मौजूदा बुद्धिमत्ता यह समझने में बेहतर हो रही है कि हमारी प्राथमिकताएँ क्या हैं।
"हमारी मंशा को समझने और बकवास करने के बीच एक बड़ा अंतर है,"
Soares ने जवाब दिया
"मेरा दावा यह नहीं है कि एक बड़ा भाषा मॉडल या एआई मानवीय प्राथमिकताओं की बारीकियों को नहीं समझेगा। मेरा दावा है कि मानवीय प्राथमिकताओं की सूक्ष्मता को समझना अच्छाई के लिए अनुकूलन करने से बहुत अलग है।"
दर्शकों के एक सदस्य ने एआई और मनुष्यों के बीच तुलना करते हुए कहा कि, कृत्रिम बुद्धिमत्ता की तरह, मनुष्य यह नहीं समझते हैं कि वे क्या कर रहे हैं या भविष्यवाणी कर रहे हैं, जो खतरनाक भी हो सकता है। फिर उसने सोरेस से कहा कि वह एक विदेशी होने का नाटक करे और समझाए कि मनुष्य क्यों नहीं होना चाहिए।
"मैं किसी एक व्यक्ति को ईश्वरीय शक्तियां और भविष्य पर नियंत्रण देने के बारे में रोमांचित नहीं होता। अलग-अलग, मैं बेतरतीब ढंग से भूमिका निभाने वाले एआई की तुलना में किसी एक व्यक्ति को शक्ति देने के लिए और अधिक रोमांचित होऊंगा। मैं जोर देकर यह नहीं कह रहा हूं कि हमारे पास एआई नहीं होना चाहिए। मैं कह रहा हूं कि हमें इसे ठीक करने की जरूरत है। हमें उन्हें एक ऐसे भविष्य की देखभाल करने की आवश्यकता है जो मस्ती और खुशी और फलती-फूलती सभ्यताओं से भरा हो, जहां ट्रांसह्यूमन एलियंस के साथ सकारात्मक राशि के व्यापार में संलग्न हों, और इसी तरह, ”सोरेस ने स्पष्ट किया। "यदि आप एक मजबूत अनुकूलन प्रक्रिया का निर्माण करते हैं जो विभिन्न सामानों की परवाह करती है, तो यह ब्रह्मांड के सभी मूल्यों को संभावित रूप से नष्ट कर सकती है।"
उन्होंने कहा कि मनुष्य जिन चीजों को महत्व देता है वे सार्वभौमिक रूप से बाध्यकारी नहीं हैं और यह कि नैतिकता कोई ऐसी चीज नहीं है जिसका अध्ययन करने वाला कोई भी दिमाग इसका अनुसरण करेगा। इसके बजाय, यह मनुष्यों में निर्मित ड्राइव का परिणाम है, जो पैतृक वातावरण में, हमें पुनरुत्पादन में अच्छा बनाता है और मनुष्यों के लिए विशिष्ट है।
आखिरकार, सोरेस का मानना है कि हमें ऐसा कुछ नहीं बनाना चाहिए जो समान रूप से बुद्धिमान हो या इससे भी अधिक बुद्धिमान हो जो मस्ती, खुशी और फलते-फूलते भविष्य के साथ असंगत हो। दूसरी ओर, उन्होंने यह भी कहा कि मानवता को एक दोस्ताना अधीक्षण का निर्माण नहीं करना चाहिए जो हथियारों की दौड़ के दौरान अपने पहले प्रयास में एक मजेदार भविष्य का अनुकूलन करता है। अल्पावधि में, एआई को मानवता को समय और स्थान खरीदने में मदद करने के लिए समर्पित होना चाहिए ताकि यह पता लगाया जा सके कि वे वास्तव में क्या चाहते हैं।
ChatGPT संपूर्ण जीवमंडल का उपभोग नहीं करेगा
चूँकि AI वर्तमान में भविष्यवाणी सहित विशेष लक्ष्यों को प्राप्त करने के लिए बनाया जा रहा है, ब्यूटिरिन ने पूछा, यदि AI लक्ष्य-संचालित नहीं होता तो क्या होता? सोरेस ने कहा कि ऐसे एआई बनाना आसान है जो सुरक्षित और गैर-सक्षम हों, और हमारे पास जल्द ही ऐसे एआई हो सकते हैं जो सक्षम हैं लेकिन अलग-अलग चीजों पर काम कर रहे हैं। वह नहीं सोचता ChatGPT संपूर्ण जीवमंडल को निगल जाएगा क्योंकि यह क्षमता के उस स्तर पर नहीं है।
सोरेस ने कहा कि वैज्ञानिक और तकनीकी विकास और अनुसंधान को स्वचालित करने जैसे सबसे दिलचस्प एआई अनुप्रयोगों के लिए लक्ष्यों की एक निश्चित खोज की आवश्यकता होती है।
“यह कोई गलती नहीं है जो आपको मिल सके GPT एक साफ़-सुथरा हाइकु लिखने के लिए, लेकिन आप उससे एक उपन्यास नहीं लिख सकते। वर्तमान प्रणालियों की सीमाएँ इस तथ्य से संबंधित हैं कि वे इन गहरे लक्ष्यों का पीछा नहीं कर रहे हैं, कम से कम मेरे लिए।"
अधिक पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
और अधिक लेख
सिंडी एक पत्रकार हैं Metaverse Post, से संबंधित विषयों को कवर करना web3, NFT, मेटावर्स और एआई, के साथ साक्षात्कार पर ध्यान केंद्रित करने के साथ Web3 उद्योग के खिलाड़ी. उन्होंने 30 से अधिक सी-स्तर के अधिकारियों और अनगिनत अधिकारियों से बात की है और उनकी बहुमूल्य अंतर्दृष्टि पाठकों तक पहुंचाई है। मूल रूप से सिंगापुर की रहने वाली सिंडी अब त्बिलिसी, जॉर्जिया में रहती हैं। उनके पास दक्षिण ऑस्ट्रेलिया विश्वविद्यालय से संचार और मीडिया अध्ययन में स्नातक की डिग्री है और उनके पास पत्रकारिता और लेखन में एक दशक का अनुभव है। के माध्यम से उससे संपर्क करें [ईमेल संरक्षित] प्रेस पिचों, घोषणाओं और साक्षात्कार के अवसरों के साथ।
