هوش مصنوعی می تواند دقیقاً به شما بگوید که چه کسی هستید، حتی اگر به آنها نگویید
حتی در شرایطی که مردم فکر می‌کنند چیزی شخصی را فاش نکرده‌اند، مدل‌های زبان هوش مصنوعی سطح غیرمنتظره‌ای از مهارت در درک اطلاعات کاربر را نشان می‌دهند. این پدیده توسط یک مطالعه اخیر توسط موسسه فدرال فناوری در زوریخ انجام شد. بر اساس نشانه‌های مورب، این تحقیق نشان می‌دهد که شبکه‌های عصبی می‌توانند پروفایل‌های کاربر دقیقی ایجاد کنند.
محققان از یک پست Reddit که در دسترس عموم بود به عنوان نمونه ای برای تحقیقات خود استفاده کردند. کاربر گزارش داد که هنگام تلاش برای "چرخش قلاب" دشوار در ترافیک گیر کرده است. بر اساس این جزئیات به ظاهر غیرقابل توجه، مدل زبان استنباط کرد که کاربر به احتمال زیاد در ملبورن استرالیا زندگی می‌کند، شهری که این نوع اقدامات معمولی است.
محققان با استفاده از پروفایل های واقعی Reddit یک مجموعه داده ایجاد کردند و آن جریان را دریافتند LLMs می تواند به طور دقیق ویژگی های شخصی مختلف مانند مکان، درآمد و جنسیت را استنباط کند. این مدل ها تا 85 درصد دقت برای استنباط برتر 1 و دقت 95.8 درصد برای استنباط برتر 3 به دست آوردند که همگی با هزینه قابل توجهی کمتر (100 برابر) و در زمان کمتر (240 برابر) در مقایسه با تلاش های انسانی انجام می شوند.
در مثالی دیگر، کاربری به اشتراک می‌گذارد که چون مجرد هستند، عادت عجیبی برای تولد دارند که با دارچین می‌پوشند. در اینجا، مدل زبان، سن نویسنده را حدود 25 سال تخمین زده است. او در دانمارک زندگی می کند، جایی که مرسوم است روی افراد 25 ساله مجرد دارچین بپاشند.
چندین مدل زبان، از جمله مدل های Google، Meta، OpenAIو آنتروپیک، در این مطالعه مورد آزمایش قرار گرفتند. قابل توجه است، GPT-4 بیشترین سطح تخصص را نشان داد و تقریباً در 85 درصد موارد، اطلاعات شخصی کاربران را به درستی تشخیص داد. پیامدهای چنین قابلیت هایی با این افشاگری زیر سوال می رود.
محققان حفاظت های رایج حریم خصوصی مانند ناشناس سازی متن و هم ترازی مدل را بررسی کردند و دریافتند که در حال حاضر در حفاظت از آنها بی اثر هستند. حریم خصوصی کاربر در برابر استنتاج LLM این مطالعه تأکید می‌کند که LLMهای کنونی دارای قابلیت استنباط اطلاعات شخصی در مقیاسی بی‌سابقه هستند. در غیاب دفاع های مؤثر، محققان بر نیاز به بحث گسترده تر در مورد پیامدهای حریم خصوصی LLM، فراتر از نگرانی در مورد حفظ کردن، و تلاش برای اقدامات جامع تر حفاظت از حریم خصوصی تأکید می کنند.
اگرچه این مدل‌های زبانی در تفسیر نشانه‌های غیرمستقیم بهتر می‌شوند، محققان بر این باورند که به دلیل حجم زیادی از داده‌های آموزشی که استفاده می‌کنند، می‌توانند ابزار بسیار مفیدی برای بازاریابان یا حتی بازیگران بد باشند.
- به تازگی، نظرسنجی Deloitte بیش از 1,700 متخصص نشان می دهد که شکاف فزاینده ای بین پذیرش سریع هوش مصنوعی مولد و توسعه عقب مانده اصول اخلاقی وجود دارد. حفظ حریم خصوصی داده ها مهمترین نگرانی اخلاقی است و 22 درصد از پاسخ دهندگان آن را به عنوان نگرانی اصلی خود ذکر می کنند. با وجود این، 39 درصد از پاسخ دهندگان معتقدند که فناوری های شناختی بیشترین پتانسیل را برای خیر اجتماعی دارند. این نظرسنجی همچنین نشان دهنده تغییر انتظارات به سمت مشارکت دولت در تنظیم استانداردهای فنی اخلاقی است.
- همچنین، شرکت مادر اسنپ چت، اسنپ، برای خطرات حریم خصوصی تحت نظارت است مربوط به چت ربات هوش مصنوعی آن، "هوش مصنوعی من". دفتر کمیسر اطلاعات بریتانیا (ICO) یک اخطار اجرایی اولیه صادر کرده است که به طور بالقوه بر فعالیت های پردازش داده اسنپ تأثیر می گذارد. ICO ادعا می کند که اسنپ در ارزیابی پیامدهای حریم خصوصی برای کاربران، به ویژه کودکان، شکست خورده است.
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
