रॉस एंडरसन ऑनलाइन सामग्री में बढ़ती समस्या के रूप में एआई मॉडल पतन पर चर्चा करते हैं
संक्षेप में
रॉस एंडरसन बड़े भाषा मॉडलों की भावी पीढ़ियों की बौद्धिक गिरावट से जुड़े संभावित जोखिमों के बारे में चेतावनी देते हैं (एलएलएम), जो नए पाठों को संपादित करने और बनाने के लिए प्राथमिक उपकरण बन गए हैं।
इससे जुड़े जोखिमों को समझकर और उन्हें कम करके मॉडल के पतन को रोका जा सकता है जनरेटिव ए.आई..
केवल छह महीनों में, जनरेटिव एआई ने दुनिया का ध्यान आकर्षित करते हुए महत्वपूर्ण प्रगति की है। ChatGPT, इस तकनीक का एक प्रमुख उदाहरण, तेजी से लोकप्रियता और व्यापक उपयोग प्राप्त हुआ। हालाँकि, प्रसिद्ध विशेषज्ञ रॉस एंडरसन इसके बारे में चेतावनी देते हैं संभावित जोखिम मॉडल की भावी पीढ़ियों के बौद्धिक पतन से जुड़ा हुआ है।
रॉस एंडरसन सुरक्षा इंजीनियरिंग में अग्रणी हैं और सुरक्षा प्रणालियों और एल्गोरिदम में कमजोरियों को खोजने में अग्रणी प्राधिकरण हैं। रॉयल एकेडमी ऑफ इंजीनियरिंग के फेलो और कैम्ब्रिज विश्वविद्यालय में प्रोफेसर के रूप में, उन्होंने सूचना सुरक्षा के क्षेत्र में बड़े पैमाने पर योगदान दिया है, विभिन्न क्षेत्रों में खतरे के मॉडल को आकार दिया है।
अब, एंडरसन मानवता के लिए एक वैश्विक खतरे के बारे में चेतावनी देता है-बड़े भाषा मॉडल (एलएलएम) का पतन. कुछ समय पहले तक, इंटरनेट पर अधिकांश पाठ मानव द्वारा उत्पन्न किए गए थे। एलएलएम अब मानव निर्मित सामग्री की जगह, नए पाठों के संपादन और निर्माण के लिए प्राथमिक उपकरण बन गए हैं।
यह बदलाव महत्वपूर्ण प्रश्न उठाता है: यह प्रवृत्ति कहां ले जाएगी, और क्या होगा जब एलएलएम इंटरनेट पर हावी हो जाएंगे? निहितार्थ अकेले पाठ से परे जाते हैं। उदाहरण के लिए, यदि ए संगीत मॉडल मोजार्ट द्वारा रचनाओं के साथ प्रशिक्षित किया जाता है, बाद की पीढ़ियों में मूल की प्रतिभा की कमी हो सकती है और एक संगीतमय "सेलिएरी" की तुलना में हीन परिणाम उत्पन्न हो सकते हैं। प्रत्येक बाद की पीढ़ी के साथ, गुणवत्ता और बुद्धिमत्ता में गिरावट का खतरा बढ़ जाता है।
यह कॉन्सेप्ट आपको फिल्म की याद दिला सकता है'बहुलता," माइकल कीटन अभिनीत, जहां क्लोनिंग से बुद्धि में गिरावट आती है और प्रत्येक बाद के क्लोन की मूर्खता में वृद्धि होती है।
एलएलएम के साथ भी यही घटना हो सकती है। मॉडल-जनित सामग्री के साथ एक मॉडल को प्रशिक्षित करने से अपरिवर्तनीय दोष और पीढ़ी दर पीढ़ी पाठ की गुणवत्ता में गिरावट आती है। सामग्री का मूल वितरण विकृत हो जाता है, जिसके परिणामस्वरूप निरर्थक सूचनाओं का प्रवाह होता है। गाऊसी वितरण अभिसरण करते हैं, और अत्यधिक मामलों में, पाठ अर्थहीन हो सकता है। बाद की पीढ़ियां भी अपने पूर्ववर्तियों द्वारा की गई गलतियों के आधार पर वास्तविकता को गलत समझ सकती हैं। इस घटना को "मॉडल पतन" के रूप में जाना जाता है।
मॉडल पतन के परिणाम महत्वपूर्ण हैं:
✔️ इंटरनेट बेतुकी सामग्री से तेजी से भरता जा रहा है।
✔️ इस सामग्री का उपभोग करने वाले व्यक्ति अनजाने में कम जानकारी प्राप्त कर सकते हैं और बौद्धिक क्षमता खो सकते हैं।
सौभाग्य से, आशा है। एंडरसन का सुझाव है कि चिंताओं के बीच आशावाद की एक झलक पेश करते हुए, मॉडल पतन को रोका जा सकता है। संभावित समाधानों के बारे में और ऑनलाइन जानकारी की गुणवत्ता में गिरावट से बचने के तरीकों के बारे में अधिक जानने के लिए, हम आपको और अन्वेषण करने के लिए प्रोत्साहित करते हैं।
जबकि जेनेरेटिव एआई में वादा है, सतर्क रहना और इसके द्वारा पेश की जाने वाली चुनौतियों का समाधान करना आवश्यक है। मॉडल पतन से जुड़े जोखिमों को समझकर और कम करके, हम इंटरनेट पर सूचना की अखंडता को बनाए रखते हुए इस तकनीक के लाभों का उपयोग करने की दिशा में काम कर सकते हैं।
एआई के बारे में और पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
