नस्लवाद कांड: चीन का आक्रामक एआई छवि जनरेटर एक अंतरराष्ट्रीय घटना का कारण बनता है
संक्षेप में
टेनसेंट का एआई अकस्मात काले लोगों को एनीमे पात्रों के बजाय जानवरों में बदल देता है
Tencent का डिफरेंट डायमेंशन मी (DDM) हाल ही में पेश किया गया AI टूल है जो कर सकता है तस्वीरें बारी लोगों को एनीम पात्रों में। प्लेटफ़ॉर्म को चीनी उपयोगकर्ताओं के लिए डिज़ाइन किया गया था, लेकिन जल्द ही अन्य क्षेत्रों में लोकप्रिय हो गया, जहाँ एनीमे को प्यार किया जाता है, जैसे कि दक्षिण अमेरिका। हालांकि, उपयोगकर्ताओं को जल्द ही एहसास हुआ कि मंच अश्वेतों और प्लस-साइज़ लोगों की पहचान नहीं कर सकता, ऐसे समूह जो जापानी एनीमे से स्पष्ट रूप से अनुपस्थित हैं, जिसके परिणामस्वरूप आपत्तिजनक एआई-जनित परिणाम सामने आए।
दुर्भाग्य से, एआई ने हमेशा सबसे चापलूसी वाले परिणाम नहीं दिए। कुछ मामलों में, एआई-जनित छवियां नस्लीय रूप से आक्रामक थीं, जैसे अतिरंजित होंठ वाले एक काले आदमी या अत्यधिक बड़े स्तनों वाली एक सफेद महिला।
एआई को प्रशिक्षित करने के लिए डेटा की कमी के कारण यह समस्या होने की संभावना थी। जापानी एनीमे में अश्वेतों और विशाल लोगों को मुख्य पात्रों के रूप में प्रदर्शित करने की प्रवृत्ति नहीं है, जिसका अर्थ है कि एआई के लिए सीखने के लिए कोई सटीक डेटा नहीं था। नतीजतन, एआई-जनित परिणाम गलत और आपत्तिजनक थे।
तब से Tencent ने आक्रामक परिणामों के लिए माफी मांगी है और AI को बेहतर बनाने का वचन दिया है ताकि यह विभिन्न प्रकार के लोगों की बेहतर पहचान कर सके। इस बीच, उपयोगकर्ताओं को सलाह दी जाती है कि वे प्लेटफ़ॉर्म का उपयोग करते समय सावधान रहें और परिणामों को सार्वजनिक रूप से साझा करने से पहले जाँच लें।
चीनी तंत्रिका नेटवर्क के बारे में
उनका अपना है तंत्रिका जाल वहां, और वे Google, Nvidia, की उपलब्धियों से काफी उत्साहित और पूरी तरह से स्वतंत्र हैं। OpenAI, StabilityAI, और अन्य Midjourney कंपनियों।
- Baidu, जिसने खुद को खोज इंजनों में स्थापित किया है और हाल के वर्षों में स्वायत्त ड्राइविंग के क्षेत्र में अपनी गतिविधि को आगे बढ़ाया है, 10 मिलियन चीनी छवि और पाठ जोड़े के डेटासेट पर प्रशिक्षित 145 बिलियन पैरामीटर वाले मॉडल ERNIE-ViLG का उपयोग करता है।
- डिफरेंट डायमेंशन मी (DDM) टेनसेंट द्वारा लोगों की तस्वीरों को एनीमे पात्रों में बदल सकते हैं। चीनी उपयोगकर्ताओं के उद्देश्य से, यह अचानक अन्य एनीमे-प्रेमी क्षेत्रों में लोकप्रिय हो गया।
- एक और चीनी टेक्स्ट-टू-इमेज मॉडल ताईई, आईडिया के दिमाग की उपज है, जो हैरी शम के नेतृत्व में एक अनुसंधान प्रयोगशाला है, जिसने माइक्रोसॉफ्ट रिसर्च एशिया के सबसे बड़े अनुसंधान प्रभाग की सह-स्थापना की। ओपन-सोर्स मॉडल को 20 मिलियन फ़िल्टर किए गए चीनी इमेज-टेक्स्ट जोड़े पर प्रशिक्षित किया गया है और इसमें एक बिलियन पैरामीटर हैं।
यह देखने के लिए उत्सुक है कि चीनी इस अपमान को कैसे नियंत्रित करेंगे क्योंकि उनके पास अधिक अनुभव है "विनियमन“बाकी दुनिया की तुलना में। और जबकि एआई विद्रोही "क्राउडफंडिंग" बनाने के लिए धन जुटा रहे हैंStable Diffusion सेंसरशिप के बिना, “चीनी शांति से तंत्रिका नेटवर्क को विनियमित करने के लिए एल्गोरिदम का सम्मान कर रहे हैं राज्य के हित और विश्वासियों की भावनाओं पर ध्यान केंद्रित नहीं करना।
एआई के बारे में और पढ़ें:
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
