एआई प्रशिक्षण में 6 महीने का ठहराव एक अच्छा विचार है, लेकिन यह काफी नहीं हो सकता है
संक्षेप में
याचिका की कहानी और युदकोवस्की के लेख के विमोचन ने समाज का ध्रुवीकरण किया है।
कैदी की दुविधा और खेल सिद्धांत का सुझाव है कि ऐसी समस्याओं को हल करने के लिए विभिन्न स्थानों पर समझदार लोगों की एक महत्वपूर्ण भीड़ की आवश्यकता है।
हालाँकि, इस विचार के कुछ लेकिन हैं, जैसे कि डिजिटल विकास में चेतना, इच्छाशक्ति और एजेंसी की कमी।
की कहानी से अधिक उन्नत एआई सिस्टम विकसित करने से रोकने के लिए याचिका GPT-4 उल्लेखनीय रूप से समाज का ध्रुवीकरण किया है। युडकोवस्की की रिहाई लेख के आगे के विकास को बंद करने के लिए कह रहा है GPT मॉडलों ने आग में घी डालने का काम किया, विशेषकर डेटा केंद्रों पर बमबारी के बारे में उनके अंशों ने।
ऑनलाइन क्या देखा जा सकता है, विरोधियों की तुलना में याचिका के बहुत कम समर्थक प्रतीत होते हैं, जिनके पास तीन मुख्य तर्क हैं:
| 1 | - प्रगति को रोका नहीं जा सकता। - याचिका का आविष्कार किया गया था OpenAI प्रतियोगियों। - चीन इंतजार नहीं करेगा। |
| 2 | - आपको एआई से नहीं बल्कि लोगों से डरना चाहिए। - GPT उसके पास कोई चेतना, इच्छा, आकांक्षाएं या एजेंसी नहीं है, इसलिए डरने की कोई बात नहीं है। - GPT-4 दुनिया को गुलाम बनाने से बिल्कुल दूर है क्योंकि वह कुछ भी नहीं समझता है, मूर्खतापूर्ण गलतियाँ करता है और आम तौर पर काफी मूर्ख है। - GPT-4 दुनिया को चलाने में सक्षम नहीं होगा क्योंकि उसके पास हाथ पैर नहीं हैं। |
| 3 | – तीसरा ग्रुप समझ नहीं पा रहा कि कैसे GPT-4 प्रथम स्थान पर कार्य करता है। |
हम तीसरे समूह पर ध्यान केंद्रित नहीं करेंगे क्योंकि उनका रुख अज्ञानता से आता है। यह कहना नहीं है कि एआई के सभी विरोधियों को एआई के बारे में सब कुछ पता है; आप बहुत सारे एआई-विरोधी लोगों को पा सकते हैं जिनके पास तकनीक की समझ की कमी है और इसमें क्या शामिल है, हालांकि युडकोवस्की खुद एआई के विषय में बहुत गहरे हैं, इसलिए उन पर अज्ञानता का आरोप नहीं लगाया जा सकता है।
आइए लोगों के पहले समूह पर एक नजर डालते हैं- जो मानते हैं कि प्रगति को रोका नहीं जा सकता। वे अलग-अलग-समान-समान तर्क पेश करते हैं, और कुल मिलाकर, वे लोग एआई की क्षमताओं से इनकार नहीं करते हैं और इसके अपनाने की संभावनाएं हैं और विश्वास है कि एआई का विकास जारी रहेगा चाहे कुछ भी हो।
अजेय प्रगति के बारे में पहली थीसिस एक नारा है जो सच नहीं होना चाहिए। ऐसा लगता है कि लोगों ने कुछ वैज्ञानिक प्रयोगों को बंद कर दिया है, और एक बार स्वीकृत कई शोध परियोजनाओं को अब नैतिक नहीं माना जाता है, और इसी तरह के लोगों को आज कभी भी अनुमति नहीं दी जाएगी। हालाँकि, चीन (और अन्य देशों) में न्यायिक जांच और अन्य धार्मिक उत्पीड़न, किताबों पर प्रतिबंध और वैज्ञानिकों की हत्याओं से अतीत में कितनी अधिक प्रगति रुकी थी? उत्तरजीविता पूर्वाग्रह के कारण हम कभी भी पूरी तरह से समझ नहीं पाएंगे।
अन्य शोधों में वह दृष्टिकोण शामिल है जिसे संक्षेप में प्रस्तुत किया जा सकता है "यदि हम नहीं, तो यह वे होंगे।" हालांकि यह सोच अधिक समझने योग्य हो सकती है, यह सही समाधान भी नहीं लगता है। यह गेम थ्योरी में कैदी की दुविधा के समान है।
तर्कों का दूसरा समूह सबसे दिलचस्प है। जबकि मैं व्यक्तिगत रूप से कुछ हद तक इससे सहमत हूं, कुछ लेकिन हैं जिन्हें संबोधित करने की आवश्यकता है। हाँ, AI के पास कोई चेतना, इच्छाशक्ति, एजेंसी आदि नहीं है। न ही COVID-19 है, और फिर भी इसने दुनिया भर में कहर बरपाया है। किसी चीज को खतरनाक बनने के लिए एजेंसी और चेतना की भावना की आवश्यकता नहीं होती है; एक परिदृश्य कि एक वायरस के कारण पृथ्वी पर जीवन का सफाया हो गया है, अकल्पनीय नहीं है। एक बार जब उसका काम पूरा हो जाता है, तो वह मेजों पर कुर्सियाँ रख सकता है, बत्तियाँ बुझा सकता है, और हमेशा के लिए निकल सकता है।
जैविक सादृश्य को जारी रखते हुए, एक अद्भुत लेख है, "डिजिटल विकास की आश्चर्यजनक रचनात्मकता: विकासवादी संगणना और कृत्रिम जीवन अनुसंधान समुदायों से उपाख्यानों का संग्रह," जो प्रक्रियाओं के अप्रत्याशित दिशा में जाने के कई उदाहरण प्रदान करता है। एक विकासवादी प्रक्रिया के बिना भी, सब कुछ गलत सामान्यीकरण में जा सकता है "लक्ष्य गलत सामान्यीकरण: क्यों सही विनिर्देश सही लक्ष्यों के लिए पर्याप्त नहीं हैं।" एक अनुकूलन प्रक्रिया पर मुफ्त लगाम देना गलत हो सकता है, इस पर चर्चा की गई है "उन्नत मशीन लर्निंग सिस्टम में सीखा अनुकूलन से जोखिम".
साथ ही, हम आमतौर पर इसके जोखिमों पर विचार नहीं करते हैं एआई का दुर्भावनापूर्ण उपयोग और कोई भी गलत इस्तेमाल, जो केवल इस तर्क को खिलाती है कि हमें लोगों से डरने की जरूरत है न कि एआई से। हालाँकि, इस मामले की सच्चाई यह है कि दुर्भावनापूर्ण लोगों के बिना भी AI खराब हो सकता है।
मैं इस तथ्य से भी सहमत हूं कि मॉडल मूर्खतापूर्ण गलतियां करता है, लेकिन मनुष्य भी ऐसा करते हैं, और फिर भी हम जानते हैं कि वे नुकसान पहुंचा सकते हैं। जबकि मॉडल कई गलतियाँ करते हैं, वे कई अद्भुत, शानदार और जटिल समस्याओं को भी हल कर सकते हैं जिन्हें औसत व्यक्ति हल नहीं कर सकता। कुख्यात कार्य "स्पार्क्स ऑफ आर्टिफिशियल जनरल इंटेलिजेंस: अर्ली एक्सपेरिमेंट्स विद" से GPT-4,'' मैं एआई द्वारा फर्मी समस्याओं, बल्कि जटिल गणितीय समस्याओं को हल करने में सक्षम होने से आश्चर्यचकित था, हालांकि हमेशा सही ढंग से नहीं। इसका मन का सिद्धांत और दूसरों के कार्यों को "समझने की क्षमता" भी बहुत प्रभावशाली है। ये सभी बातें AI की बुद्धिमत्ता की ओर इशारा करती हैं; मौजूद है, लेकिन बिल्कुल हमारे जैसा नहीं है।
एआई मॉडल द्वारा की जाने वाली कम से कम कुछ गलतियों को दूर करना आम तौर पर संभव है, इसलिए उनकी बुद्धि केवल बढ़ सकती है। आपको बस इतना करना है कि सटीक गणना, एक तथ्य आधार और दूसरे मॉडल के साथ सत्यापन के लिए एक मॉड्यूल जोड़ना है।
इस पूरी कहानी में सबसे महत्वपूर्ण बात एआई के विकास की गति है। GPT मॉडल तीव्र गति से अत्यधिक वृद्धि हुई है। अब वहां हैं ChatGPT plugins उपलब्ध है, आप उपयोग कर सकते हैं GPT कोड लिखने के लिए मॉडल, एपीआई बड़ी संख्या में लोगों के लिए उपलब्ध हैं, और आप बिना किसी पूर्व प्रशिक्षण के बाहरी टूल का उपयोग कर सकते हैं।
GPT-4बेशक, दुनिया पर विजय नहीं मिलेगी, लेकिन यह अर्थव्यवस्था को बहुत हिला सकता है। GPT-5, और मॉडल का भविष्य का पुनरावृत्ति, बहुत आगे नहीं हो सकता है और संभवतः अधिक मजबूत क्षमताओं के साथ आएगा। और इसका सामना करते हैं, हम अभी तक मौजूद मॉडल को समझने की उम्मीद नहीं कर सकते हैं; हम उन मॉडलों को समझने के करीब भी नहीं पहुंचे हैं जो पहले से मौजूद हैं। इस लिहाज से छह महीने का ब्रेक एक अच्छा विचार हो सकता है, लेकिन यह पर्याप्त नहीं हो सकता है।
और यह देखते हुए कि एआई दौड़ शुरू हो गया है, सीखने का समय नहीं है.
सामान्य तौर पर, इस सब को देखते हुए, मैंने भी याचिका पर हस्ताक्षर किए। हालांकि मुझे विश्वास नहीं है कि यह किसी भी तरह से मदद करेगा।
अधिक संबंधित विषय पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
