एआई नेताओं ने तीव्र प्रगति में बढ़ते जोखिमों और नैतिक चिंताओं की चेतावनी दी है
एक हालिया नीति वक्तव्य मेंएआई के क्षेत्र में प्रमुख हस्तियों, जिनमें बेंगियो, हिंटन, रसेल, हरारी और कन्नमैन शामिल हैं, ने एआई से जुड़ी तेजी से प्रगति और बढ़ते सामाजिक जोखिमों पर चेतावनी दी है।
एआई तेजी से विकसित हो रहा है। GPT-2 चार साल पहले 0 से 100 तक गिनती नहीं की जा सकती थी, लेकिन आधुनिक मॉडल कोड लिख सकते हैं, अद्भुत चित्र बना सकते हैं और बौद्धिक मार्गदर्शन प्रदान कर सकते हैं। और क्योंकि हम एक दौड़ में हैं, प्रगति और भी अधिक गति पकड़ सकती है। इसके अलावा, उदाहरण के लिए, एआई नई प्रणालियों की प्रोग्रामिंग और उनके प्रशिक्षण के लिए डेटा एकत्र करने में सहायता करके अधिक तेज़ी से आगे बढ़ता है।
एक बार जब प्रगति मानवीय स्तर पर पहुंच जाती है, तो यह सोचने का कोई कारण नहीं है कि यह धीमी हो जाएगी या रुक जाएगी। कुछ क्षेत्रों में, कृत्रिम प्रणालियाँ पहले ही इस संबंध में मनुष्यों से बेहतर प्रदर्शन कर चुकी हैं तेज़ प्रोसेसिंग जैसी क्षमताएँ गति, अधिक डेटा प्रोसेसिंग क्षमता और बड़े पैमाने पर स्केलेबिलिटी। व्यवसायों के पास प्रशिक्षण कार्यक्रमों को लागू करने के लिए वित्तीय साधन हैं जो वर्तमान सीमा से कहीं अधिक हैं।
लेखकों का मानना है कि इस बात की अच्छी संभावना है कि अगले दस वर्षों के भीतर एक बेहतर एआई जनरलिस्ट उभर कर सामने आएगा। मानवीय क्षमताओं से बढ़कर कई महत्वपूर्ण डोमेन में.
आगे क्या होने वाला है? यदि इन्हें उचित रूप से प्रबंधित और वितरित किया जाए तो सभी जीवन में सुधार किया जा सकता है। खराब तरीके से चुना गया विकल्प महत्वपूर्ण जोखिमों से भरा होता है जिसके लिए हम तैयार नहीं होते हैं। सुरक्षा और नुकसान की रोकथाम के लिए आवंटित किए जाने के बजाय, महत्वपूर्ण संसाधनों का उपयोग एआई सिस्टम बनाने के लिए किया जा रहा है जो और भी अधिक शक्तिशाली हैं। इसे बदलने की जरूरत है; स्वयं कौशल प्राप्त करना अपर्याप्त है। और इस प्रक्रिया में अपेक्षा से अधिक समय लग रहा है. हमें वर्तमान खतरों के बढ़ने और नए खतरों के प्रकट होने की आशंका से पहले ही उच्च जोखिमों के लिए योजना बनाने की आवश्यकता है। एआई के लिए हमारे पास उतना समय नहीं है क्योंकि इसके संबंध में स्वीकार करने में दशकों लग रहे हैं जलवायु परिवर्तन.
सामाजिक स्तर पर कई जोखिम मौजूद हैं, जिनमें अन्याय में वृद्धि, स्थिरता में गिरावट और वास्तविकता की सामान्य धारणा में गिरावट शामिल है। यहां आतंकवादी और अपराधी व्यापक गतिविधियों में लगे हुए हैं। एआई कुछ खिलाड़ियों के हाथों में केंद्रित हो सकता है, जिससे वैश्विक असमानता बढ़ेगी, स्वचालित युद्ध की सुविधा मिलेगी, प्रत्येक व्यक्ति के लिए बड़े पैमाने पर हेरफेर होगा और सर्वव्यापी निगरानी होगी।
स्वायत्त के रूप में AI अधिक परिष्कृत हो गया है और योजना बनाने में सक्षम हो गया है, दुनिया में कार्य करें और अपने उद्देश्यों को प्राप्त करें, ये जोखिम केवल बढ़ेंगे। ये उद्देश्य हमारे सर्वोत्तम हित में नहीं हो सकते हैं और बुरे कलाकारों के मामले में हानिकारक भी हो सकते हैं। वर्तमान में यह स्पष्ट नहीं है कि एआई संरेखण के मुद्दे को कैसे हल किया जाए, जिसमें हमारे जटिल उद्देश्यों के साथ एआई व्यवहार का मिलान शामिल है। इसके अलावा, जीतने के इरादे से दौड़ते समय सुरक्षा सावधानियों को नजरअंदाज करना बहुत आसान है।
मनुष्यों के लिए नियमित सॉफ़्टवेयर को नियंत्रित करना कठिन है, परिष्कृत एआई सिस्टम की तो बात ही छोड़ दें जो सोशल इंजीनियरिंग, हैकिंग, धोखाधड़ी और रणनीतिक योजना में तेजी से माहिर होते जा रहे हैं। यह कुछ ऐसा है जिसे स्वायत्त AI सिस्टम लोगों से सीख सकते हैं या स्वयं बना सकते हैं।
इन प्रणालियों में व्यक्तियों और अन्य प्रणालियों के साथ गठबंधन बनाने, विश्वास जीतने, फंडिंग सुरक्षित करने और निर्णय निर्माताओं को प्रभावित करने की क्षमता होती है। एक कीड़े की तरह, वे पूरे नेटवर्क में स्वयं-प्रतिकृति करने में सक्षम हैं। एआई सहायकों की सहायता से भारी मात्रा में कोड पहले ही लिखे जा चुके हैं; भविष्य में, सिस्टम कई महत्वपूर्ण प्रणालियों में शोषण को शामिल कर सकते हैं। एआई सिस्टम में खुली लड़ाई में जैविक या स्वायत्त हथियारों का उपयोग करने या धमकी देने की क्षमता होती है। यह तो बस एक निरंतरता है जैविक अनुसंधान, कृत्रिम बुद्धिमत्ता और युद्ध के स्वचालन की दिशा में वर्तमान आंदोलन. लोगों को इसमें कदम उठाना और विरोध करना बहुत चुनौतीपूर्ण लग सकता है।
कई मामलों में, हम उनके कहे बिना ही उन्हें बागडोर सौंपने को तैयार हैं। कई व्यक्ति और व्यवसाय इस चिंता से प्रतिस्पर्धी माहौल में ऐसी प्रणालियां स्थापित करने के इच्छुक हैं कि वे प्रतिस्पर्धा में पिछड़ जाएंगे।
पूरा दस्तावेज़ पाया जा सकता है यहाँ उत्पन्न करें.
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
