ग्रामनर के सीईओ आनंद एस ने एलएलएम पर आंख मूंदकर भरोसा करने में जोखिमों की चेतावनी दी, मॉडल साक्षरता की वकालत की
संक्षेप में
के साथ बातचीत में Metaverse Post - ग्रामनर के सीईओ आनंद एस ने एलएलएम पर अत्यधिक निर्भरता के संभावित नुकसान पर प्रकाश डाला।
सैकड़ों एआई और एमएल उपकरण बाजार में व्याप्त होने के साथ, नवाचार क्षमता असीमित है। उद्योग की चुनौतियों से निपटने के लिए कई स्टार्टअप उभर रहे हैं, जबकि हर हफ्ते उन्नत बड़े भाषा मॉडल की निरंतर आमद परिवर्तनकारी शक्ति को बढ़ाती है जनरेटिव ए.आई.. यह तकनीकी अभिसरण असीमित संभावनाओं वाले उद्योगों को नया आकार दे रहा है।
हालाँकि, जेमिनी जैसे शक्तिशाली भाषा मॉडल की रिलीज़ और व्यापक उपयोग महत्वपूर्ण नैतिक और व्यावहारिक विचारों को जन्म देता है, और हमें एक प्रश्न पर विचार करने के लिए कहता है - क्या हम मनुष्य के रूप में ऐसे मॉडल पर आँख बंद करके भरोसा कर सकते हैं?
के साथ बातचीत में Metaverse Post - आनंद एस, यूएस-आधारित B2B SaaS कंपनी के सीईओ ग्राम करनेवाला जैसे एलएलएम पर अत्यधिक निर्भरता के संभावित नुकसान पर जोर दिया ChatGPT, चेतावनी देते हुए कि यह प्रवृत्ति मिथुन जैसे उभरते मॉडलों के साथ जारी रहने की संभावना है।
“सही प्रशिक्षण डेटा के साथ भी, एक इंसान अपनी विशेषज्ञता के क्षेत्र से बाहर जाने पर गलतियाँ कर सकता है। क्या एक बड़ा भाषा मॉडल इसलिए एक्सट्रपलेशन कर रहा है, या उसने जो सीखा है उसे याद कर रहा है? इसमें बहुत बड़ा अंतर है और यह परीक्षण के लायक है। हम लोगों के साथ बार-बार बातचीत करके अंतर्ज्ञान के माध्यम से आत्मविश्वास पैदा करते हैं, ”आनंद ने कहा। "हम जानते हैं कि हमें किसी अजनबी की जांच करने की ज़रूरत है और इसी तरह हमें बड़े भाषा मॉडलों के साथ भी बातचीत करनी चाहिए।"
उदाहरण के लिए, वर्गीज़ बनाम साउदर्न एयरलाइंस कंपनी लिमिटेड मामले में, एक वकील ने काल्पनिक हवाला दिया ChatGPT-जनित मामले, जिसके कारण न्यायाधीश ने वकील को दंडित किया, गैर-महत्वपूर्ण उपयोग के जोखिमों पर जोर दिया। आनंद ऐसे भाषा मॉडल का लाभ उठाते समय सावधानी और जांच की आवश्यकता पर प्रकाश डालते हैं।
इसके अलावा, इस क्षेत्र में एक मजबूत फीडबैक तंत्र की आवश्यकता है। ChatGPT टेक्स्ट इनपुट के साथ एक साधारण अंगूठे ऊपर/अंगूठे नीचे बटन के माध्यम से उपयोगकर्ता की प्रतिक्रिया को प्रोत्साहित करता है। यह दृष्टिकोण इस बारे में बहुमूल्य अंतर्दृष्टि एकत्रित करता है कि क्या अच्छा काम करता है और क्या नहीं। के उपयोग से यह फीडबैक प्रणाली और अधिक सामान्य होने की संभावना है बड़े भाषा मॉडल, उनके प्रदर्शन को बेहतर बनाने में मदद करना।
आनंद ने बताया, "एलएलएम के हर एक आउटपुट की निगरानी करना बहुत किफायती नहीं है, लेकिन संभावित त्रुटियों को दूर करने में सक्षम होना एक शक्तिशाली लीवर है।" Metaverse Post.
“दिलचस्प बात यह है कि बड़े भाषा मॉडल स्वयं अन्य बड़े भाषा मॉडल का आकलन करने में बहुत अच्छे होते हैं। इसलिए आउटपुट की निगरानी के लिए विशेष रूप से एक मानव का उपयोग करने के बजाय, हम एलएलएम और मनुष्यों के संयोजन का उपयोग कर सकते हैं, एलएलएम अंततः विकसित होने पर मानव भूमिका का बड़ा हिस्सा ले लेते हैं, ”उन्होंने कहा।
मॉडल साक्षरता ही आगे बढ़ने का रास्ता है
एलएलएम के क्षेत्र में, एक प्रमुख सिद्धांत उभरता है - जितनी अधिक बातचीत, उतनी गहरी समझ। यह सीधी अवधारणा उपयोगकर्ता की सहभागिता और एलएलएम क्षमताओं की समझ के बीच संबंध को रेखांकित करती है, जिससे अंततः उपयोग में वृद्धि होती है।
“यह समझने के बारे में भी है कि कोई विशेष एलएलएम किसके लिए अच्छा है। उदाहरण के लिए, मैं लोगो बनाने के लिए DALL-E का उपयोग नहीं करूंगा क्योंकि यह बहुत अच्छी तरह से टेक्स्ट उत्पन्न नहीं करता है। लेकिन यह लोगो विचार और लोगो डिज़ाइन तैयार करने का बहुत अच्छा काम करता है। यह मॉडल साक्षरता का एक उदाहरण है जो बार-बार उपयोग से सामने आता है और इसलिए, मुझे देता है defiविश्वास के ऐसे क्षेत्र चाहिए जिनके भीतर मैं मॉडल का अधिक प्रभावी ढंग से उपयोग कर सकूं,'' आनंद ने कहा।
जैसे भाषा मॉडलों के संतुलित एकीकरण की तलाश में मिथुन राशि हमारे तकनीकी परिदृश्य में, आनंद कई रणनीतियों का सुझाव देते हैं। सबसे पहले, वह समय के साथ विकसित होने वाली आदत को बढ़ावा देने के लिए बड़े भाषा मॉडलों के साथ दैनिक बातचीत की वकालत करते हैं। इसी तरह, व्यक्तिगत उपयोग में अधिक प्रोत्साहन के आह्वान के साथ, इन उपकरणों तक सार्वभौमिक पहुंच सुनिश्चित करना महत्वपूर्ण है। आनंद संगठनों द्वारा अवरोध पैदा करने की मौजूदा प्रवृत्ति पर ध्यान देते हैं ChatGPT काम के लैपटॉप पर, सहायक संचार की आवश्यकता पर जोर दिया गया।
वह एक वातावरण के भीतर भाषा मॉडल (एलएलएम) तक पहुंच प्रदान करने और प्रयोग को प्रोत्साहित करने के लिए संगठनात्मक तंत्र को लागू करने का प्रस्ताव करता है।
“आखिरकार, जब लोग परिचित हो जाएंगे तब वे समझेंगे कि किस पर भरोसा करना है, इसका उपयोग कब करना है और इसका उपयोग कैसे करना है। आनंद ने बताया, "बढ़ता हुआ उपयोग और बढ़े हुए उपयोग को प्रोत्साहित करना, सबसे महत्वपूर्ण रणनीति और शैक्षिक पहल है जिसे कोई भी अपना सकता है।" Metaverse Post.
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
और अधिक लेख
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
