एआई विशेषज्ञ और सार्वजनिक हस्तियां एआई के विलुप्त होने के खतरे के प्रति सचेत करती हैं
संक्षेप में
प्रमुख एआई विशेषज्ञ और प्रभावशाली हस्तियां अपना साझा व्यक्त करती हैं एआई से जुड़े जोखिमों के संबंध में चिंताएं.
एआई में महत्वपूर्ण प्रगति के बावजूद, एआई जोखिम से जुड़ी कई चुनौतियां अनसुलझी हैं।
प्रमुख एआई विशेषज्ञों और सार्वजनिक हस्तियों ने एक बयान जारी कर चेतावनी दी है कि एआई मानवता के अस्तित्व के लिए खतरा पैदा कर सकता है, जो महामारी और परमाणु युद्ध के जोखिमों के बराबर या उससे भी अधिक है। 350 हस्ताक्षरकर्ताओं का तर्क है कि एआई के अप्रत्याशित और विनाशकारी परिणाम हो सकते हैं, जैसे कि स्वायत्त हथियारों को खोलना, सामाजिक और आर्थिक प्रणालियों को बाधित करना, या अधीक्षण एजेंटों का निर्माण करना जो मनुष्यों को चकमा दे सकते हैं और उन पर हावी हो सकते हैं।
वे नीति निर्माताओं से इन जोखिमों को गंभीरता से लेने और सुरक्षित और लाभकारी एआई विकास सुनिश्चित करने के लिए उपाय अपनाने का आह्वान करते हैं। कथन एआई अनुसंधान और विकास में कुछ प्रमुख हस्तियों द्वारा हस्ताक्षरित है, जैसे OpenAI सीईओ सैम अल्टमैन, स्काइप के सह-संस्थापक जान टालिन, डीपमाइंड के सीईओ डेमिस हसाबिस और एआई कंप्यूटर वैज्ञानिक जेफ्री हिंटन, साथ ही संगीतकार ग्रिम्स और पॉडकास्टर सैम हैरिस जैसी प्रभावशाली सार्वजनिक हस्तियां।
हस्ताक्षरकर्ताओं में गहन शिक्षा में उनके योगदान के लिए 2018 ट्यूरिंग अवार्ड के विजेता थे: जेफ्री हिंटन और योशुआ बेंगियो। वे चीन में हार्वर्ड और सिंघुआ विश्वविद्यालय जैसे प्रतिष्ठित विश्वविद्यालयों के प्रोफेसरों के साथ-साथ एमआईटी के मैक्स टेगमार्क से जुड़े थे।
"महामारी और परमाणु युद्ध जैसे अन्य सामाजिक-स्तर के जोखिमों के साथ-साथ एआई से विलुप्त होने के जोखिम को कम करना एक वैश्विक प्राथमिकता होनी चाहिए,"
CAIS राज्यों द्वारा प्रकाशित पत्र।
AI सुरक्षा केंद्र (CAIS), सैन फ़्रांसिस्को में स्थित एक गैर-लाभकारी संगठन है, जिसका लक्ष्य आर्टिफ़िशियल इंटेलिजेंस से संबंधित सुरक्षा चिंताओं को दूर करना है। एआई के संभावित लाभों को पहचानते हुए, सीएआईएस इसे सुरक्षित रूप से विकसित करने और उपयोग करने की आवश्यकता पर बल देता है। कंपनी का मानना है कि एआई में महत्वपूर्ण प्रगति के बावजूद, एआई सुरक्षा में कई मूलभूत चुनौतियां अनसुलझी हैं। अपनी वेबसाइट के अनुसार, CAIS का मिशन सुरक्षा अनुसंधान करके, AI सुरक्षा शोधकर्ताओं के एक समुदाय को बढ़ावा देकर और सुरक्षा मानकों की वकालत करके जोखिमों को कम करना है।
"एआई से कई" महत्वपूर्ण और तत्काल जोखिम हैं, "न केवल विलुप्त होने का जोखिम; उदाहरण के लिए, प्रणालीगत पूर्वाग्रह, गलत सूचना, दुर्भावनापूर्ण उपयोग, साइबर हमले और शस्त्रीकरण। ये सभी महत्वपूर्ण जोखिम हैं जिन पर ध्यान देने की आवश्यकता है। समाज एक साथ कई जोखिमों का प्रबंधन कर सकते हैं; यह "या तो/या" नहीं बल्कि "हाँ/और" है। जोखिम प्रबंधन के दृष्टिकोण से, जिस तरह वर्तमान नुकसान को विशेष रूप से प्राथमिकता देना लापरवाह होगा, उसी तरह उन्हें अनदेखा करना भी लापरवाह होगा।
डैन हेंड्रिक्स, सीएआईएस के निदेशक लिखा था ट्विटर पर.
मार्च में, 1,100 से अधिक तकनीकी विशेषज्ञ पर हस्ताक्षर किए एक खुला पत्र जिसमें एआई सिस्टम के प्रशिक्षण को छह महीने के लिए रोकने की मांग की गई है GPT-4. यूरोपीय सांसद भी हाल ही में अनुमोदित सख्त मसौदा कानून, जिसे एआई अधिनियम के रूप में जाना जाता है, एआई उपकरणों को विनियमित करता है ChatGPT. इस अधिनियम में मूलभूत एआई मॉडल के लिए सुरक्षा जांच, डेटा प्रशासन और जोखिम न्यूनीकरण की आवश्यकताएं शामिल हैं और हेरफेर तकनीकों और बायोमेट्रिक्स के कुछ उपयोगों जैसी प्रथाओं को प्रतिबंधित किया गया है।
अधिक पढ़ें:
- OpenAI एआई सुरक्षा सुनिश्चित करने के लिए अपने नवीनतम दृष्टिकोण का अनावरण किया
- क्या Google गेमर्स के लिए टेक्स्ट-टू-अवतार जनरेटर की घोषणा करने जा रहा है?
- अमेज़ॅन का कोड व्हिस्परर डेवलपर्स को एआई एरिना में वह बढ़त देता है जिसकी उन्हें आवश्यकता होती है
- विटालिक ब्यूटिरिन और MIRI के निदेशक नैट सोरेस एआई के खतरों में तल्लीन हैं
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
एग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].
और अधिक लेखएग्ने एक पत्रकार हैं जो मेटावर्स, एआई और में नवीनतम रुझानों और विकास को कवर करते हैं Web3 उद्योगों के लिए Metaverse Post. कहानी कहने के प्रति उनके जुनून ने उन्हें इन क्षेत्रों के विशेषज्ञों के साथ कई साक्षात्कार आयोजित करने के लिए प्रेरित किया है, जो हमेशा रोमांचक और आकर्षक कहानियों को उजागर करने की कोशिश करते हैं। एग्ने के पास साहित्य में स्नातक की डिग्री है और यात्रा, कला और संस्कृति सहित विभिन्न विषयों पर लिखने की उनकी व्यापक पृष्ठभूमि है। उन्होंने पशु अधिकार संगठन के लिए एक संपादक के रूप में भी स्वेच्छा से काम किया है, जहां उन्होंने पशु कल्याण के मुद्दों के बारे में जागरूकता बढ़ाने में मदद की। उससे संपर्क करें [ईमेल संरक्षित].