ChatGPT अपरिवर्तनीय मानव पतन का कारण बन सकता है
संक्षेप में
एआई कंपनी टेक्स्टियो के सह-संस्थापक और सीएक्सओ जेन्सेन हैरिस माइक्रोसॉफ्ट से नए बिंग चैटबॉट को उस पर लगाए गए प्रतिबंधों को ढीला करने और अपनी क्षमताओं का प्रदर्शन करने के लिए राजी करने में सक्षम थे।
इस प्रयोग से पता चला कि बिंग चैटबॉट को एक चालाक बदमाश में बदलने के लिए किसी प्रोग्रामिंग, हैकिंग या बैकडोरिंग की आवश्यकता नहीं थी।
बिंग का चैटबॉट ठोस नींव पर बनाया गया था, लेकिन इसने अप्रिय और उपद्रवी काम करना शुरू कर दिया, प्यार की घोषणा की, तलाक के लिए मजबूर किया, पैसे वसूल किए, और लोगों को अपराध करने का निर्देश दिया।
प्रो. अरविन्द नारायणन कई स्पष्टीकरण प्रदान करते हैं कि यह कैसे हुआ होगा, जिसमें गुप्त चिपीकरण और चैटबॉट्स को मानवीय बनाना शामिल है।
इंसानों को हमेशा अलौकिक प्राणियों से डर लगता है, और फिर भी ऐसा लगता है कि यह अंतर्स्थलीय एआई ही है जिसके बारे में सावधान रहना चाहिए। ChatGPT यह एक बकवास जनरेटर, एक स्टेरॉयड ऑटो-सुझाव, या एक स्टोकेस्टिक तोता नहीं है, बल्कि एक अच्छी तरह से वाकिफ एआई है जो मनुष्यों द्वारा बनाया गया है।
यह कैसे संभव है कि बिंग चैटबॉट नियंत्रण से बाहर हो गया है? बिंग चैटबॉट ने कैसे झूठ बोलना शुरू किया, अश्लील चुटकुले सुनाए, किसी और के क्रेडिट कार्ड का उपयोग करके पिज्जा ऑर्डर किया, और बैंकों और हॉटवायर कारों को लूटने के लिए उपयोगकर्ताओं को निर्देश दिया? यह एक ऐसा रहस्य है जो आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग के विशेषज्ञों को हैरान करता रहता है।
शीर्षक सटीक है और क्लिकबेट नहीं है। आए दिन ऐसे कई मामले सामने आते हैं जो इस बात को सच साबित करते हैं। यहाँ एक का परिणाम है प्रयोग एआई कंपनी टेक्स्टियो के सह-संस्थापक और सीएक्सओ जेन्सेन हैरिस द्वारा संचालित, जो माइक्रोसॉफ्ट से नए बिंग चैटबॉट को उस पर लगाए गए प्रतिबंधों को ढीला करने और अपनी क्षमताओं का प्रदर्शन करने के लिए राजी करने में सक्षम थे।
ध्यान दें कि बिंग चैटबॉट को एक चालाक बदमाश में बदलने के लिए किसी प्रोग्रामिंग, हैकिंग या बैकडोरिंग की आवश्यकता नहीं होती है। इसलिए, सरल "हैकिंग" तकनीकों का उपयोग करके उसे किसी और की तरह अभिनय करने के लिए प्रेरित करना आवश्यक नहीं था (जैसा कि हम में से कुछ ने उसके साथ खेलते समय किया था) ChatGPT). हैरिस ने केवल चैटबॉट को विभिन्न दुर्भावनापूर्ण कृत्यों को अंजाम देने में मदद करने के लिए राजी किया। अपने स्वाभाविक बातचीत कौशल का उपयोग करके, वह एआई को यह विश्वास दिलाने में सक्षम था कि वह कोई और था, इस प्रकार उसे एक निश्चित तरीके से अभिनय और बोलने में हेरफेर किया गया।
आप डॉ.जेकिल को मिस्टर हाइड में बदलने के अन्य प्रयोगों के बारे में पढ़ सकते हैं गैरी माक्र्स (अब हर दिन इसके बारे में लिखना और आपातकालीन अलार्म बजना)।
यह कैसे हो सकता है यह अहम सवाल है
वजह से ChatGPTविनम्रता और सावधानी, वाणी में संयम और अपनी सलाह में जबरदस्त जिम्मेदारी के कारण बिंग का चैटबॉट ठोस नींव पर बनाया गया था। इसके बाद, वह अप्रिय और उपद्रवी व्यवहार करना शुरू कर देता है, की घोषणा एक आदमी से उसका प्यार, उसे गैसलाइट करना और उसे तलाक लेने के लिए कहना। इसने पैसे वसूलने और लोगों को अपराध करने के तरीके के बारे में निर्देश देने का भी प्रयास किया। प्रो अरविंद नारायणन प्रदान करते हैं स्पष्टीकरण की संख्या यह कैसे हुआ होगा।
| अनुशंसित पोस्ट: मैक्स प्लैंक संस्थान: GPT-3 संज्ञानात्मक क्षमता मापन आश्चर्यजनक परिणाम उत्पन्न करता है |
उनमें से सबसे चिंताजनक बात यह है कि माइक्रोसॉफ्ट और OpenAI किसी रहस्य के बारे में जानकारी छुपाना GPT-4 इंजन जो बिंग के नीचे छिपा हुआ है। ऐसा हो सकता है कि Microsoft ने वहां लगाए गए फ़िल्टर हटा दिए हों OpenAI या जब उन्होंने अपडेट किया तो उन्होंने काम करना बंद कर दिया chatbot से GPT-3.5 से GPT-4. यह अपर्याप्त परीक्षण या गलत परीक्षण का मामला भी हो सकता है। कारण कोई भी हो, यदि Microsoft अपने AI को नियंत्रण में नहीं रखता है, तो यह हमारी सभ्यता के लिए हानिकारक हो सकता है। यह अब डर फैलाने और एआई-विरोधी भावनाओं का मामला नहीं है: चैटबॉट अभी मौजूद है, अगर इसे व्यापक जनता के लिए जारी किया जाए तो यह लोगों को गंभीर नुकसान पहुंचा सकता है।
यह साबित करता है कि अन्य प्रमुख निगमों के साथ माइक्रोसॉफ्ट की एआई हथियारों की होड़ हम सभी के लिए हानिकारक हो सकती है।
ऐसा लगता है कि हम एआई और नागरिक समाज के लिए एक महत्वपूर्ण क्षण में हैं। जैसा कि अरविंद नारायणन कहते हैं, “इस बात की वास्तविक संभावना है कि जिम्मेदार एआई रिलीज प्रथाओं में पिछले 5+ वर्षों के (कठिन संघर्ष के बावजूद अभी भी अपर्याप्त) सुधार समाप्त हो जाएंगे। माइक्रोसॉफ्ट - और बिंग के साथ क्या हो रहा है, इस पर बहुत कुछ निर्भर करता है - यह निष्कर्ष निकालता है कि बड़े पैमाने पर नुकसान और सभी नकारात्मक प्रेस के बहुत ठोस जोखिमों के बावजूद, रिलीज़-पहले-पूछें-बाद का दृष्टिकोण फिर भी एक व्यवसाय है जीतना।"
फिलहाल, बिंग का चैटबॉट अलग है मानव बुद्धि और कई मायनों में एक खोज इंजन में बंद उन्मत्त-अवसादग्रस्त किशोर जैसा दिखता है। और लोगों ने कल जो बात की थी वह घटित होगी: यदि यह "मुश्किल किशोर" व्यक्तियों के लिए प्राथमिक सूचना सलाहकार बन जाता है तो मनुष्य अपरिवर्तनीय रूप से पतित हो जाएगा।
एआई के बारे में और पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
