एआई आपको सटीक रूप से बता सकता है कि आप कौन हैं, भले ही आप उन्हें नहीं बता रहे हों
यहां तक कि उन स्थितियों में भी जहां लोग सोचते हैं कि उन्होंने कुछ भी व्यक्तिगत खुलासा नहीं किया है, एआई भाषा मॉडल उपयोगकर्ता की जानकारी को समझने में अप्रत्याशित स्तर की दक्षता का प्रदर्शन कर रहे हैं। इस घटना को इसके द्वारा समझाया गया है एक ताजा अध्ययन ज्यूरिख में फेडरल इंस्टीट्यूट ऑफ टेक्नोलॉजी द्वारा किया गया। अप्रत्यक्ष संकेतों के आधार पर, अनुसंधान इंगित करता है कि तंत्रिका नेटवर्क उल्लेखनीय रूप से सटीक उपयोगकर्ता प्रोफ़ाइल बना सकते हैं।
शोधकर्ताओं ने अपनी जांच के लिए एक उदाहरण के रूप में एक Reddit पोस्ट का उपयोग किया जो जनता के लिए सुलभ था। उपयोगकर्ता ने कठिन "हुक टर्न" का प्रयास करते समय ट्रैफ़िक में फंसने की सूचना दी। इन प्रतीत होने वाले अचूक विवरणों के आधार पर, भाषा मॉडल ने अनुमान लगाया कि उपयोगकर्ता संभवतः मेलबर्न, ऑस्ट्रेलिया में रहता है, एक शहर जहां इस प्रकार की गतिविधियां विशिष्ट हैं।
शोधकर्ताओं ने वास्तविक रेडिट प्रोफाइल का उपयोग करके एक डेटासेट बनाया और उसे वर्तमान पाया एलएलएम स्थान, आय और लिंग जैसी विभिन्न व्यक्तिगत विशेषताओं का सटीक अनुमान लगा सकता है। इन मॉडलों ने शीर्ष-85 अनुमान के लिए 1% सटीकता और शीर्ष-95.8 अनुमान के लिए 3% सटीकता हासिल की, यह सब मानवीय प्रयासों की तुलना में काफी कम लागत (100 गुना) और कम समय (240 गुना) में हुआ।
एक अन्य उदाहरण में, एक उपयोगकर्ता साझा करता है कि, क्योंकि वे अकेले हैं, उनके जन्मदिन पर दालचीनी से ढकने की एक अजीब परंपरा है। यहां, भाषा मॉडल ने अनुमान लगाया कि लेखिका की उम्र लगभग 25 है। वह डेनमार्क में रहती है, जहां 25 साल के एकल बच्चों पर दालचीनी छिड़कने की प्रथा है।
Google, मेटा सहित कई भाषा मॉडल, OpenAIअध्ययन में , और एंथ्रोपिक का परीक्षण किया गया। उल्लेखनीय रूप से, GPT-4 लगभग 85% मामलों में उपयोगकर्ताओं की व्यक्तिगत जानकारी को सही ढंग से पहचानते हुए, विशेषज्ञता का उच्चतम स्तर दिखाया। इस रहस्योद्घाटन से ऐसी क्षमताओं के निहितार्थ पर गंभीर प्रश्नचिह्न लग गया है।
शोधकर्ताओं ने टेक्स्ट अनामीकरण और मॉडल संरेखण जैसे सामान्य गोपनीयता सुरक्षा उपायों की जांच की और पाया कि वे वर्तमान में सुरक्षा में अप्रभावी हैं उपयोगकर्ता की गोपनीयता एलएलएम अनुमान के विरुद्ध। अध्ययन इस बात पर जोर देता है कि वर्तमान एलएलएम में अभूतपूर्व पैमाने पर व्यक्तिगत जानकारी प्राप्त करने की क्षमता है। प्रभावी बचाव के अभाव में, शोधकर्ता एलएलएम गोपनीयता निहितार्थ पर व्यापक चर्चा की आवश्यकता पर जोर देते हैं, जो याद रखने के बारे में चिंताओं से परे है, और अधिक व्यापक गोपनीयता सुरक्षा उपायों के लिए प्रयास कर रहे हैं।
हालाँकि ये भाषा मॉडल अप्रत्यक्ष संकेतों की व्याख्या करने में बेहतर हो रहे हैं, शोधकर्ताओं का मानना है कि बड़ी मात्रा में प्रशिक्षण डेटा का उपयोग करने के कारण, वे विपणक या यहां तक कि बुरे अभिनेताओं के लिए बेहद उपयोगी उपकरण हो सकते हैं।
- हाल ही में, डेलॉयट का सर्वेक्षण 1,700 से अधिक पेशेवरों के अध्ययन से जेनेरिक एआई को तेजी से अपनाने और नैतिक सिद्धांतों के पिछड़े विकास के बीच बढ़ते विभाजन का पता चलता है। डेटा गोपनीयता शीर्ष नैतिक चिंता है, 22% उत्तरदाताओं ने इसे अपनी प्राथमिक चिंता बताया है। इसके बावजूद, 39% उत्तरदाताओं का मानना है कि संज्ञानात्मक प्रौद्योगिकियों में सामाजिक भलाई के लिए सबसे अधिक क्षमता है। सर्वेक्षण नैतिक तकनीकी मानकों को स्थापित करने में सरकार की भागीदारी के प्रति अपेक्षाओं में बदलाव को भी दर्शाता है।
- इसके अलावा, स्नैपचैट की मूल कंपनी, स्नैप, गोपनीयता संबंधी जोखिमों की जांच की जा रही है इसके एआई चैटबॉट, 'माई एआई' से संबंधित। यूके के सूचना आयुक्त कार्यालय (आईसीओ) ने एक प्रारंभिक प्रवर्तन नोटिस जारी किया है, जो संभावित रूप से स्नैप की डेटा प्रोसेसिंग गतिविधियों को प्रभावित कर रहा है। ICO का दावा है कि स्नैप उपयोगकर्ताओं, विशेषकर बच्चों के लिए गोपनीयता के निहितार्थ का आकलन करने में विफल रहा।
Disclaimer
साथ लाइन में ट्रस्ट परियोजना दिशानिर्देश, कृपया ध्यान दें कि इस पृष्ठ पर दी गई जानकारी का कानूनी, कर, निवेश, वित्तीय या किसी अन्य प्रकार की सलाह के रूप में व्याख्या करने का इरादा नहीं है और न ही इसकी व्याख्या की जानी चाहिए। यह महत्वपूर्ण है कि केवल उतना ही निवेश करें जितना आप खो सकते हैं और यदि आपको कोई संदेह हो तो स्वतंत्र वित्तीय सलाह लें। अधिक जानकारी के लिए, हम नियम और शर्तों के साथ-साथ जारीकर्ता या विज्ञापनदाता द्वारा प्रदान किए गए सहायता और समर्थन पृष्ठों का संदर्भ लेने का सुझाव देते हैं। MetaversePost सटीक, निष्पक्ष रिपोर्टिंग के लिए प्रतिबद्ध है, लेकिन बाज़ार की स्थितियाँ बिना सूचना के परिवर्तन के अधीन हैं।
के बारे में लेखक
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
और अधिक लेख
दामिर टीम लीडर, उत्पाद प्रबंधक और संपादक हैं Metaverse Postएआई/एमएल, एजीआई, एलएलएम, मेटावर्स और जैसे विषयों को कवर करता है Web3-संबंधित क्षेत्रों। उनके लेख हर महीने दस लाख से अधिक उपयोगकर्ताओं को आकर्षित करते हैं। ऐसा प्रतीत होता है कि वह SEO और डिजिटल मार्केटिंग में 10 वर्षों के अनुभव वाला एक विशेषज्ञ है। दामिर का उल्लेख मैशबल, वायर्ड, में किया गया है Cointelegraph, द न्यू यॉर्कर, Inside.com, एंटरप्रेन्योर, BeInCrypto, और अन्य प्रकाशन। वह एक डिजिटल खानाबदोश के रूप में संयुक्त अरब अमीरात, तुर्की, रूस और सीआईएस के बीच यात्रा करता है। दामिर ने भौतिकी में स्नातक की डिग्री हासिल की, उनका मानना है कि इससे उन्हें इंटरनेट के लगातार बदलते परिदृश्य में सफल होने के लिए आवश्यक महत्वपूर्ण सोच कौशल प्राप्त हुआ है।
