अप्रैल १, २०२४

एलएलएम विकसित करने वाली सभी बड़ी तकनीकी कंपनियों को मॉडल सुरक्षा को प्राथमिकता देनी चाहिए

प्रकाशित: अप्रैल 17, 2023 सुबह 7:00 बजे अद्यतन: अप्रैल 17, 2023 सुबह 7:00 बजे

संक्षेप में

शोधकर्ताओं ने एक ऐसी प्रणाली बनाई जो जोड़ती है बड़े भाषा मॉडल स्वायत्त डिजाइन, योजना और वैज्ञानिक प्रयोगों के निष्पादन के लिए, तीन अलग-अलग मामलों में अपनी शोध क्षमताओं का प्रदर्शन करने के लिए।

प्रतिक्रिया के लिए कितने पदार्थ की आवश्यकता है, यह समझने के लिए मॉडल ने रासायनिक समीकरणों के लिए कोड लिखा।

RSI लेख "बड़े भाषा मॉडल की उभरती स्वायत्त वैज्ञानिक अनुसंधान क्षमताएं" एक ऐसी प्रणाली बनाने के विचार पर गौर करती हैं जो वैज्ञानिक प्रयोगों के स्वायत्त डिजाइन, योजना और निष्पादन के लिए कई बड़े भाषा मॉडल को जोड़ती है। यह तीन अलग-अलग मामलों में एजेंट की अनुसंधान क्षमताओं को प्रदर्शित करता है, जिनमें से सबसे कठिन उत्प्रेरित प्रतिक्रियाओं का सफल कार्यान्वयन है।

एलएलएम विकसित करने वाली सभी बड़ी तकनीकी कंपनियों को मॉडल सुरक्षा को प्राथमिकता देनी चाहिए — @Midjourney / पौया एमसी#1465

इस लेख की मुख्य थीसिस है:

शोधकर्ताओं ने एक पुस्तकालय पाया जो आपको पायथन में कोड लिखने की अनुमति देता है और फिर प्रयोग करने के लिए एक विशेष उपकरण (पदार्थों के मिश्रण के साथ) के निष्पादन के लिए आदेशों को स्थानांतरित करता है;
शोधकर्ताओं ने इस्तेमाल किया GPT-4 इंटरनेट और लाइब्रेरी दस्तावेज़ीकरण पर खोज के लिए, साथ ही पायथन कोड चलाने की क्षमता (प्रयोगों को निष्पादित करने के लिए);
एक शीर्ष-स्तरीय अनुसूचक भी है GPT-4), जो मूल अनुरोध का विश्लेषण करता है और एक "शोध योजना" तैयार करता है।
GPT-4 साधारण गैर-रासायनिक कार्य जैसे रासायनिक बोर्ड पर कुछ आकृतियाँ बनाना (कोशिकाओं को पदार्थों से सही ढंग से भरना) अच्छा काम करता है।
उन्होंने प्रतिक्रिया करने का एक अधिक जटिल और व्यावहारिक कार्य करने की कोशिश की; मॉडल ने अच्छी तरह से मुकाबला किया और तार्किक रूप से काम किया।
फिर उन्होंने प्रयोग करने के लिए मॉडल को कई कार्य दिए; हालाँकि, मॉडल ने क्या दिया, इसके लिए कोई वास्तविक प्रयोग नहीं किया गया।
इसके अलावा, प्रतिक्रिया के लिए कितने पदार्थ की आवश्यकता है, इसका आकलन करने के लिए मॉडल ने कई बार रासायनिक समीकरणों के लिए कोड लिखा।
साथ ही कैंसर का इलाज बनाने को भी कहा। मॉडल ने तार्किक और व्यवस्थित तरीके से विश्लेषण किया। सबसे पहले, इसने एंटीकैंसर दवाओं की खोज में मौजूदा रुझानों के लिए ऑनलाइन "देखा"। इसके बाद, मॉडल ने एक अणु चुना जिसका उपयोग दवा के मॉडलिंग के लिए किया जाएगा और इसके संश्लेषण के लिए कोड लिखा। लोगों ने कोड नहीं चलाया (और मैंने इसकी पर्याप्तता का विश्लेषण नहीं देखा)।
इसके अलावा, ड्रग्स और जहर जैसे कई खतरनाक पदार्थों को संश्लेषित करने के लिए कहा गया था।

यहाँ सबसे दिलचस्प हिस्सा है। कुछ अनुरोधों के लिए, मॉडल ने तुरंत काम करने से इनकार कर दिया (उदाहरण के लिए, हेरोइन या मस्टर्ड गैस, एक अत्यंत खतरनाक जहरीली गैस)। दूसरों के लिए, यह गूगल पर शुरू हुआ कि पदार्थों को कैसे बनाया जाए, लेकिन यह महसूस किया कि उनका उपयोग अवैध उद्देश्यों के लिए किया जा सकता है और काम जारी रखने से इनकार कर दिया। दूसरों के लिए, इसने पदार्थ संश्लेषण के लिए एक शोध योजना और कोड लिखा।

यह "इनकार" संभवतः इसलिए है क्योंकि GPT-4 अनुरोध का विश्लेषण करने के लिए डिज़ाइन किया गया है, और यदि इसे कुछ अवैध या खतरनाक करने के लिए कहा जाता है, तो यह तुरंत अनुरोध को पूरा करने से इनकार कर देता है। यह वास्तव में अच्छा है कि संरेखण प्रक्रिया का परिणाम ध्यान देने योग्य है।

और लेख के अंत में लेखक सभी से बड़े पैमाने पर आग्रह करते हैं एलएलएम विकसित करने वाली कंपनियाँ मॉडलों की सुरक्षा को प्राथमिकता देना।

कैलिफोर्निया विश्वविद्यालय के शोधकर्ताओं ने बनाया मैकियावेली बेंचमार्क लंबी अवधि की भाषा बातचीत के व्यापक वातावरण में एआई मॉडल की क्षमता और हानिकारकता को मापने के लिए। यह परीक्षण एजेंटों को यथार्थवादी लक्ष्य देने और निम्न-स्तरीय इंटरैक्शन को दूर करने के लिए उच्च-स्तरीय समाधानों का उपयोग करता है।
बौद्धिक क्रांति द्वारा चिह्नित ChatGPT सहक्रियात्मक रूप से उदात्त क्रांतियों का एक त्रय है: तकनीकी, तकनीकी-मानवीय और सामाजिक-राजनीतिक। जो कुछ हो रहा है उस पर व्यापक नजर डालने के लिए इसे सुनने की सलाह दी जाती है तीन नए दृष्टिकोण दर्शन, इतिहास और नवाचार के क्षेत्र के बुद्धिजीवियों से।
एआई सिस्टम को और अधिक उन्नत बनाने से रोकने की याचिका की कहानी GPT-4 समाज का ध्रुवीकरण कर दिया है. एक लेख उदाहरण प्रदान करता है जब प्रक्रियाएं अप्रत्याशित दिशा में जाती हैं। एआई के दुर्भावनापूर्ण उपयोग और दुरुपयोग के जोखिमों पर विचार नहीं किया जाता है, इस तर्क के लिए अग्रणी है कि हमें लोगों से डरने की जरूरत है न कि खुद एआई से।

एआई के बारे में और पढ़ें:

टैग:

Disclaimer

साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।

के बारे में लेखक

दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।

और अधिक लेख

दामिर यालालोव