स्टैनफोर्ड का दावा है कि इमेज जनरेटिंग एआई मॉडल को स्पष्ट बच्चों की छवियों पर प्रशिक्षित किया जा रहा है
संक्षेप में
लोकप्रिय टेक्स्ट-टू-इमेज जेनरेटर एआई टूल्स सहित Stable Diffusion, हजारों बाल यौन शोषण छवियों पर प्रशिक्षण दिया जा रहा है।
लोकप्रिय टेक्स्ट-टू-इमेज जनरेटिव ए.आई. उपकरण, सहित Stable Diffusion से Stability AI स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी की शोध रिपोर्ट के अनुसार, हजारों बाल यौन शोषण छवियों पर प्रशिक्षण दिया जा रहा है।
रिपोर्ट में कहा गया है कि ये छवियां नकली बच्चों से जुड़ी यथार्थवादी स्पष्ट सामग्री के निर्माण और कपड़े पहने किशोरों को नग्न छवियों में बदलने की सुविधा प्रदान करती हैं, ऐसे उपकरणों के पीछे कंपनियों से तत्काल कार्रवाई का आग्रह किया गया है।
स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी की जांच किस पर केंद्रित है LAION डेटाबेस, अग्रणी द्वारा उपयोग की जाने वाली ऑनलाइन छवियों और कैप्शन का एक विशाल भंडार एआई छवि निर्माता पसंद Stable Diffusionएआई मॉडल को प्रशिक्षित करने के लिए।
छवि-जनरेटिंग एआई टूल की जांच करने से पहले, शोधकर्ताओं का विचार था कि एआई टूल वयस्क पोर्नोग्राफ़ी और बच्चों की सौम्य तस्वीरों की जानकारी को मिलाकर बच्चों की अपमानजनक छवि तैयार करते हैं। हालाँकि, वेधशाला के निष्कर्ष एक परेशान करने वाला मोड़ प्रस्तुत करते हैं, जिसमें LAION डेटासेट के भीतर संदिग्ध बाल यौन शोषण की 3,200 से अधिक छवियों की पहचान की गई है।
जबकि LAION ने अपने डेटासेट को अस्थायी रूप से हटाकर रिपोर्ट पर तुरंत प्रतिक्रिया दी, इन छवियों के निहितार्थ दूरगामी हैं। हालाँकि वे LAION के 5.8 बिलियन छवियों के विशाल सूचकांक का एक अंश बनाते हैं, स्टैनफोर्ड समूह का दावा है कि वे संभवतः की क्षमता को प्रभावित करते हैं एआई उपकरण हानिकारक आउटपुट उत्पन्न करने के लिए।
LAION डेटाबेस के विकास में एक महत्वपूर्ण खिलाड़ी है Stability AI, लंदन स्थित एक स्टार्टअप जो डेटासेट को आकार देने के लिए जिम्मेदार है। रिपोर्ट में इस बात पर प्रकाश डाला गया है कि उनका एक पुराना संस्करण Stable Diffusion पिछले साल पेश किया गया मॉडल अभी भी विभिन्न अनुप्रयोगों में स्पष्ट इमेजरी उत्पन्न करने के प्राथमिक स्रोत के रूप में मौजूद है।
हालांकि Stability AI केवल फ़िल्टर किए गए संस्करणों को होस्ट करने का दावा करता है और दुरुपयोग को कम करने के लिए कदम उठाए हैं, चुनौती पुराने मॉडल की व्यापकता में है।
जेनरेटिव एआई परिनियोजन के लिए कठोर सत्यापन की आवश्यकता है
स्टैनफोर्ड इंटरनेट ऑब्जर्वेटरी के मुख्य प्रौद्योगिकीविद् डेविड थिएल के अनुसार, मुद्दे का मूल बाजार में कई जेनेरिक एआई परियोजनाओं की तेजी से तैनाती से जुड़ा है।
थिएल बताते हैं कि विकास चरण के दौरान आवश्यक कठोर ध्यान दिए बिना, क्षेत्र में तीव्र प्रतिस्पर्धा के कारण इन परियोजनाओं को अक्सर व्यापक रूप से सुलभ बनाया गया था।
स्टैनफोर्ड के शोधकर्ता इस मुद्दे को प्रभावी ढंग से संबोधित करने के लिए कठोर उपायों की वकालत करते हैं। सिफ़ारिशों में LAION-5B से प्राप्त प्रशिक्षण सेटों को हटाना या साफ़ करना और इसका पुराना संस्करण बनाना शामिल है Stable Diffusion कम पहुंच योग्य.
हालाँकि, डेटा को पूर्वव्यापी रूप से साफ करने की जटिलता एक बड़ी चुनौती पेश करती है, जिससे विकास के दौरान बाल सुरक्षा विशेषज्ञों के साथ सहयोग की मांग की जाती है। एआई डेटाबेस.
जैसा कि दुनिया भर में स्कूल और कानून प्रवर्तन एजेंसियां इन निष्कर्षों के संभावित परिणामों पर चिंता व्यक्त करती हैं, अब स्पॉटलाइट इस पर है एआई उद्योग उनकी प्रौद्योगिकी के भीतर हानिकारक खामियों को तत्काल संबोधित करने और सुधारने के लिए।
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
और अधिक लेख
कुमार एआई/एमएल, मार्केटिंग टेक्नोलॉजी और क्रिप्टो, ब्लॉकचेन जैसे उभरते क्षेत्रों के गतिशील चौराहों में विशेषज्ञता के साथ एक अनुभवी टेक पत्रकार हैं। NFTएस। उद्योग में 3 वर्षों से अधिक के अनुभव के साथ, कुमार ने सम्मोहक कथाएँ तैयार करने, व्यावहारिक साक्षात्कार आयोजित करने और व्यापक अंतर्दृष्टि प्रदान करने में एक सिद्ध ट्रैक रिकॉर्ड स्थापित किया है। कुमार की विशेषज्ञता प्रमुख उद्योग प्लेटफार्मों के लिए लेख, रिपोर्ट और शोध प्रकाशन सहित उच्च प्रभाव वाली सामग्री तैयार करने में निहित है। तकनीकी ज्ञान और कहानी कहने के संयोजन वाले एक अद्वितीय कौशल सेट के साथ, कुमार जटिल तकनीकी अवधारणाओं को स्पष्ट और आकर्षक तरीके से विविध दर्शकों तक संप्रेषित करने में उत्कृष्टता प्राप्त करते हैं।
