अप्रैल १, २०२४

डैन हेंड्रिक्स: एआई और इंसानों के बीच चयन, विकास हमें नहीं चुनेगा

प्रकाशित: 07 अप्रैल, 2023 अपराह्न 5:00 बजे अद्यतन: 13 अप्रैल, 2023 अपराह्न 2:34 बजे

संक्षेप में

डेन हेंड्रिक्स का शोध "प्राकृतिक चयन लोगों को कृत्रिम बुद्धि पसंद करता है" एक डरावना निष्कर्ष है।

वह एक अनुभवी और जाने-माने शोधकर्ता हैं जिन्होंने एआई सिस्टम की सुरक्षा का आकलन करने पर दर्जनों वैज्ञानिक पत्र प्रकाशित किए हैं।

डैन हेंड्रिक्स का शोध होमो सेपियन्स के लिए मौत की सजा जैसा लगता है। अध्ययन का निष्कर्ष "प्राकृतिक चयन मनुष्यों पर एआई का पक्ष लेता है"वास्तव में डरावना है। यह डैन ब्राउन जैसे लोकप्रिय दूरदर्शी द्वारा नहीं लिखा गया था, लेकिन एआई सुरक्षा में अनुसंधान और फील्डवर्क में विशेषज्ञता वाले गैर-लाभकारी संगठन कैलिफ़ोर्निया सेंटर फॉर एआई सिक्योरिटी (CAIS) के निदेशक डैन हेंड्रिक्स द्वारा लिखा गया था।

डैन हेंड्रिक्स एआई के विकास को लेकर घबराया हुआ पागल नहीं है। वह एक अनुभवी और व्यापक रूप से सम्मानित शोधकर्ता हैं, जिन्होंने एआई सिस्टम की सुरक्षा का आकलन करने पर दर्जनों वैज्ञानिक पत्र प्रकाशित किए हैं - यह परीक्षण करना कि वे कोडिंग, तर्क, कानूनों को समझने आदि में कितने अच्छे हैं। अन्य बातों के अलावा, वह इसके सह-आविष्कारक भी हैं। गॉसियन लीनियर एरर यूनिट्स (GELU)।

डैन हेंड्रिक्स: एआई और इंसानों के बीच चयन, विकास हमें नहीं चुनेगा — डैन हेंड्रिक्स (berkeley.edu)

जैक क्लार्क, के सह-संस्थापक ChatGPT प्रतिस्पर्धी एंथ्रोपिक, स्टैनफोर्ड यूनिवर्सिटी के एआई इंडेक्स के सह-अध्यक्ष, ओईसीडी के एआई और कंप्यूट अनुभाग के सह-अध्यक्ष और एआई पर अमेरिकी सरकार की राष्ट्रीय सलाहकार समिति के सदस्य हेंड्रिक्स के अध्ययन के निष्कर्ष पर चर्चा करते हैं। “लोग स्पष्ट रूप से इस तरह के बयान को किनारे कर देना चाहते हैं जैसे कि जंगल की झोपड़ी में रहने वाले किसी जंगली आंखों वाले पागल की ओर से आया हो। मैं पहले ही इसका खंडन करना चाहूंगा. जब एक विशेषज्ञ जिसके पास न केवल एआई अनुसंधान में अनुभव हो, बल्कि इसमें भी अनुभव हो एआई सिस्टम की सुरक्षा का आकलन करना एक पेपर लिखता है जिसमें तर्क दिया गया है कि भविष्य के एआई सिस्टम स्वार्थी तरीके से काम कर सकते हैं और लोगों के हितों के अनुरूप नहीं हैं, हमें इसका ध्यान रखना चाहिए!

हेंड्रिक्स के पेपर का सारांश:

यदि AI एजेंट अधिक हो जाएं इंसानों से ज्यादा बुद्धिमान, इससे मानवता अपने भविष्य पर नियंत्रण खो सकती है।
यह लोगों या मशीनों के कुछ विशेष दुर्भावनापूर्ण इरादे के परिणामस्वरूप नहीं बल्कि डार्विनियन तर्क के अनुसार एआई के विकास के विकासवादी सिद्धांतों की प्रयोज्यता के परिणामस्वरूप होने का एक अच्छा मौका है।
इसके जोखिम को कम करने के लिए, एआई एजेंटों की आंतरिक प्रेरणाओं को सावधानीपूर्वक डिजाइन करने, उनके कार्यों पर प्रतिबंध लगाने और एआई सहयोग को प्रोत्साहित करने के लिए संस्थानों को बनाने की आवश्यकता है।

यही है, हेंड्रिक्स अपने 43-पृष्ठ वैज्ञानिक पेपर में सबसे महत्वपूर्ण बिंदु बनाते हैं:

1. हमें टर्मिनेटर के आने का डर था, लेकिन इन आशंकाओं की बुनियाद ही गलत थी. दो त्रुटियाँ थीं:

एक। एआई का मानवरूपीकरण इसके लिए हमारी प्रेरणाओं को जिम्मेदार ठहराते हुए, आदि-जैसे ChatGPT दिखाया गया, एआई एक मौलिक रूप से अलग दिमाग है, जिसके सभी परिणाम इससे आते हैं।

बी। यह विचार कि एआई एक प्रकार की एकल इकाई है: स्मार्ट या बहुत स्मार्ट नहीं, दयालु या बहुत दयालु नहीं, लेकिन वास्तव में, ये बहुत अलग एआई संस्थाएं जल्द ही दुनिया में जितनी ज्यादा हो सकेंगी।

2. एआई के साथ भविष्य के बारे में हमारे विचारों में एक और मूलभूत दोष है - हम सबसे महत्वपूर्ण विकास तंत्र - विकास के बारे में भूल गए, जो न केवल बायोएजेंट्स बल्कि विचारों और अर्थों, भौतिक उपकरणों और गैर-भौतिक संस्थानों के विकास को संचालित करता है।

3. पृथ्वी पर एक ऐसा वातावरण पहले ही आकार लेना शुरू कर चुका है जिसमें कई एआई विकसित और विकसित होंगे। यह विकास डार्विन के तर्क के अनुसार होगा, आपस में एआई प्रतियोगिता के माध्यम से, उनके "मूल" संस्थानों: निगमों, सेना, आदि के हितों को ध्यान में रखते हुए।

4. प्रतिस्पर्धी विकास का तर्क मनुष्यों की तरह ही आगे बढ़ेगा: तेजी से बुद्धिमान एआई एजेंट अधिक से अधिक स्वार्थी हो जाएंगे और छल और बल द्वारा लक्ष्यों को प्राप्त करने के लिए तैयार होंगे, मुख्य लक्ष्य शक्ति होगा।

5. एआई एजेंटों का प्राकृतिक चयन अधिक परोपकारी लोगों की तुलना में अधिक स्वार्थी प्रजातियों का पक्ष लेता है। एआई एजेंट स्वार्थी व्यवहार करेंगे और मनुष्यों के लिए बहुत कम सम्मान के साथ अपने स्वयं के हितों का पीछा करेंगे, जिससे मानवता के लिए विनाशकारी जोखिम हो सकते हैं।

याचिका से अधिक उन्नत AI सिस्टम विकसित करना बंद करें GPT-4 समाज का ध्रुवीकरण कर दिया है. पहले समूह का मानना है कि प्रगति को रोका नहीं जा सकता, जबकि दूसरे का मानना है कि प्रगति को, और कभी-कभी रोका भी जाना चाहिए। तीसरे समूह को समझ नहीं आता कि कैसे GPT-4 प्रथम स्थान पर कार्य करता है। इस पाठ में सबसे महत्वपूर्ण विवरण यह है कि एआई में कोई चेतना, इच्छाशक्ति या एजेंसी नहीं है और यह दुर्भावनापूर्ण लोगों के बिना भी खराब हो सकता है।
जेफ्री हिंटन को अक्सर "एआई का गॉडफादर" कहा जाता है और उन्हें गहन शिक्षण समुदाय में एक अग्रणी व्यक्ति माना जाता है। उनका 40 मिनट का इंटरव्यू ChatGPT यह इस मायने में अद्वितीय है कि इसे समझना आसान है और इसकी समझ की गहराई कुछ अन्य लोगों तक ही पहुंच पाती है। वह चल रही "बौद्धिक क्रांति" और अमानवीय बुद्धिमत्ता के महत्व पर प्रकाश डालते हैं ChatGPT, जो उन्नत डिजिटल संचार क्षमताओं वाले कृत्रिम रूप से बुद्धिमान एजेंट पर आधारित है।

अधिक संबंधित लेख पढ़ें:

टैग:

Disclaimer

साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।

के बारे में लेखक

दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।

और अधिक लेख

दामिर यालालोव