प्रोटेक्ट एआई ने मौजूदा एआई और एमएल सिस्टम में गंभीर कमजोरियों की रिपोर्ट दी, ओपन सोर्स प्रोजेक्ट्स को सुरक्षित करने का आग्रह किया
संक्षेप में
प्रोटेक्ट एआई रिपोर्ट अद्वितीय सुरक्षा खतरों के साथ एआई/एमएल आपूर्ति श्रृंखला, अक्सर ओपन सोर्स, के भीतर उपयोग किए जाने वाले उपकरणों में कमजोरियों की पहचान करती है।
प्रोटेक्ट एआई की रिपोर्ट के अनुसार, एआई/एमएल आपूर्ति श्रृंखला के भीतर उपयोग किए जाने वाले टूल में कमजोरियां हैं, अक्सर ओपन सोर्स, अद्वितीय सुरक्षा खतरों को लेकर और ये कमजोरियां अप्रमाणित रिमोट कोड निष्पादन और स्थानीय फ़ाइल समावेशन के जोखिम पैदा करती हैं। साइबर सुरक्षा कंपनी ने एआई और एमएल सिस्टम पर ध्यान केंद्रित किया।
रिपोर्ट में कहा गया है कि इसके परिणामस्वरूप सर्वर पर कब्ज़ा करने से लेकर संवेदनशील जानकारी की चोरी तक के परिणाम हो सकते हैं।
रिपोर्ट डेटा, मॉडल और क्रेडेंशियल्स की सुरक्षा के लिए इन कमजोरियों की पहचान करने और उन्हें संबोधित करने में एक सक्रिय दृष्टिकोण की आवश्यकता पर जोर देती है।
प्रोटेक्ट एआई के प्रयासों में सबसे आगे हंटर है, जो दुनिया का पहला एआई/एमएल बग बाउंटी प्रोग्राम है, जो 13,000 से अधिक सदस्यों के समुदाय को सक्रिय रूप से कमजोरियों की तलाश में संलग्न करता है। इस पहल का उद्देश्य संभावित खतरों पर महत्वपूर्ण खुफिया जानकारी प्रदान करना और सुरक्षित एआई सिस्टम के लिए त्वरित प्रतिक्रिया की सुविधा प्रदान करना है।
अगस्त 2023 में, कंपनी ने हंटर के लॉन्च की घोषणा की - एक एआई/एमएल बग बाउंटी प्लेटफॉर्म जो विशेष रूप से एआई/एमएल ओपन-सोर्स सॉफ्टवेयर (ओएसएस) की सुरक्षा पर केंद्रित है। मूलभूत मॉडल, और एमएल सिस्टम्स। हंटर एआई/एमएल बग बाउंटी प्लेटफॉर्म का लॉन्च प्रोटेक्ट एआई द्वारा हंटर.देव के अधिग्रहण के परिणामस्वरूप हुआ है।
प्रोटेक्ट एआई के अध्यक्ष और सह-संस्थापक डेरियन देहघनपिशेह ने कहा, "अब 15,000 से अधिक सदस्यों के साथ, प्रोटेक्ट एआई का हंटर खतरा शोधकर्ताओं और हैकर्स का सबसे बड़ा और सबसे केंद्रित समूह है जो विशेष रूप से एआई/एमएल सुरक्षा पर केंद्रित है।"
“हंटर का ऑपरेटिंग मॉडल सरलता, पारदर्शिता और पुरस्कारों पर केंद्रित है। रखरखावकर्ताओं के लिए खतरों को प्रासंगिक बनाने में स्वचालित सुविधाएँ और प्रोटेक्ट एआई की ट्राइएज विशेषज्ञता एआई में ओपन-सोर्स सॉफ़्टवेयर के सभी योगदानकर्ताओं को अधिक सुरक्षित सॉफ़्टवेयर पैकेज बनाने में मदद करती है। इससे अंततः सभी उपयोगकर्ताओं को लाभ होता है, क्योंकि एआई सिस्टम अधिक सुरक्षित और लचीला हो जाता है,'देहघनपिशेह ने कहा।
रिपोर्ट गंभीर कमजोरियों की पहचान करती है
पिछले महीने में हंटर समुदाय के निष्कर्षों पर प्रकाश डालते हुए, रिपोर्ट तीन महत्वपूर्ण कमजोरियों की पहचान करती है जिसमें एमएलफ्लो रिमोट कोड निष्पादन, एमएलफ्लो आर्बिटरी फाइल ओवरराइट और एमएलफ्लो लोकल फाइल शामिल हैं।
- एमएलफ़्लो रिमोट कोड निष्पादन: दोष के परिणामस्वरूप सर्वर पर कब्ज़ा हो जाता है और संवेदनशील जानकारी का नुकसान होता है। एमएलफ्लो, मॉडलों को संग्रहीत करने और ट्रैक करने के लिए एक उपकरण, रिमोट डेटा स्टोरेज को खींचने के लिए उपयोग किए जाने वाले कोड में रिमोट कोड निष्पादन भेद्यता थी। उपयोगकर्ताओं को दुर्भावनापूर्ण दूरस्थ डेटा स्रोतों का उपयोग करके मूर्ख बनाया जा सकता है जो उपयोगकर्ता की ओर से कमांड निष्पादित कर सकते हैं।
- एमएलफ़्लो आर्बिट्रेरी फ़ाइल ओवरराइट: दोष में सिस्टम अधिग्रहण, सेवा से इनकार और डेटा को नष्ट करने की क्षमता है। एमएलफ़्लो फ़ंक्शन में एक बाईपास पाया गया जो पुष्टि करता है कि फ़ाइल पथ सुरक्षित है, जिससे दुर्भावनापूर्ण उपयोगकर्ता को एमएलफ़्लो सर्वर पर फ़ाइलों को दूरस्थ रूप से अधिलेखित करने की अनुमति मिलती है। इससे अतिरिक्त चरणों के साथ रिमोट कोड निष्पादन हो सकता है जैसे सिस्टम पर SSH कुंजियों को ओवरराइट करना या अगले उपयोगकर्ता लॉगिन पर मनमाने कमांड चलाने के लिए .bashrc फ़ाइल को संपादित करना।
- एमएलफ़्लो स्थानीय फ़ाइल में शामिल हैं: दोष के परिणामस्वरूप संवेदनशील जानकारी का नुकसान होता है और सिस्टम अधिग्रहण की संभावना होती है। एमएलफ़्लो, जब विशिष्ट ऑपरेटिंग सिस्टम पर होस्ट किया जाता है, तो संवेदनशील फ़ाइलों की सामग्री को प्रदर्शित करने के लिए हेरफेर किया जा सकता है, जिससे सर्वर पर आवश्यक क्रेडेंशियल संग्रहीत होने पर सिस्टम अधिग्रहण के लिए संभावित अवसर उत्पन्न होता है।
प्रोटेक्ट एआई के सह-संस्थापक डेरियन देहघनपिशेह ने बताया Metaverse Post, “एआई/एमएल सिस्टम की कमजोरियों को दूर करने की तात्कालिकता उनके व्यावसायिक प्रभाव पर निर्भर करती है। समकालीन व्यवसाय में एआई/एमएल की महत्वपूर्ण भूमिका और संभावित शोषण की गंभीर प्रकृति के साथ, अधिकांश संगठन इस तात्कालिकता को उच्च पाएंगे। एआई/एमएल सिस्टम को सुरक्षित करने में प्राथमिक चुनौती एमएलओपीएस जीवनचक्र में जोखिमों को समझने में निहित है।
उन्होंने कहा, "इन जोखिमों को कम करने के लिए, कंपनियों को अपने एआई और एमएल सिस्टम के लिए खतरे की मॉडलिंग करनी चाहिए, एक्सपोज़र विंडो की पहचान करनी चाहिए और एक एकीकृत और व्यापक एमएलसेकऑप्स प्रोग्राम के भीतर उपयुक्त नियंत्रण लागू करना चाहिए।"
प्रोटेक्ट एआई ने अपनी रिपोर्ट में इन्हें संबोधित करने की तात्कालिकता पर जोर दिया है कमजोरियों संभावित जोखिमों को कम करने में सक्रिय रुख के महत्व को रेखांकित करते हुए, उत्पादन में प्रभावित परियोजनाओं वाले उपयोगकर्ताओं के लिए तुरंत सिफारिशों की एक सूची प्रदान करता है। इन कमजोरियों को कम करने में चुनौतियों का सामना करने वाले उपयोगकर्ताओं को प्रोटेक्ट एआई के समुदाय तक पहुंचने के लिए प्रोत्साहित किया जाता है।
जैसे-जैसे एआई तकनीक आगे बढ़ रही है, प्रोटेक्ट एआई कृत्रिम बुद्धिमत्ता के लाभों का जिम्मेदार और सुरक्षित उपयोग सुनिश्चित करने के लिए एआई/एमएल सिस्टम के जटिल वेब को सुरक्षित करने की दिशा में काम कर रहा है।
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
और अधिक लेख
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
