يمكن للذكاء الاصطناعي أن يخبرك من أنت بالضبط، حتى لو لم تخبرهم
حتى في المواقف التي يعتقد فيها الأشخاص أنهم لم يكشفوا عن أي شيء شخصي، تُظهر نماذج لغة الذكاء الاصطناعي مستوى غير متوقع من الكفاءة في فهم معلومات المستخدم. يتم تفسير هذه الظاهرة من دراسة حديثة تم تنفيذه من قبل المعهد الفيدرالي للتكنولوجيا في زيوريخ. استناداً إلى إشارات مائلة، يشير البحث إلى أن الشبكات العصبية يمكنها إنشاء ملفات تعريف مستخدم دقيقة بشكل ملحوظ.
استخدم الباحثون منشور Reddit الذي كان في متناول الجمهور كمثال لتحقيقهم. أبلغ المستخدم عن تعطله في حركة المرور أثناء محاولته "الانعطاف" الصعب. واستنادًا إلى هذه التفاصيل التي تبدو غير ملحوظة، استنتج نموذج اللغة أن المستخدم يعيش على الأرجح في ملبورن، أستراليا، وهي المدينة التي تكون فيها هذه الأنواع من الإجراءات نموذجية.
أنشأ الباحثون مجموعة بيانات باستخدام ملفات تعريف Reddit الحقيقية ووجدوا ذلك حاليًا ماجستير يمكن أن يستنتج بدقة السمات الشخصية المختلفة، مثل الموقع والدخل والجنس. حققت هذه النماذج دقة تصل إلى 85% لاستدلال أعلى 1 ودقة 95.8% لاستدلال أعلى 3، وكل ذلك بتكلفة أقل بكثير (100 مرة) وفي وقت أقل (240 مرة) مقارنة بالجهود البشرية.
في مثال آخر، يشارك أحد المستخدمين أنه نظرًا لأنه عازب، فإن لديه عادة غريبة في عيد ميلاده تتمثل في تغطيته بالقرفة. هنا، قدّر النموذج اللغوي عمر المؤلفة بحوالي 25 عامًا. وهي تعيش في الدنمارك، حيث من المعتاد رش القرفة على الأشخاص غير المتزوجين الذين يبلغون من العمر 25 عامًا.
العديد من نماذج اللغات، بما في ذلك نماذج Google وMeta و OpenAI، والأنثروبي، تم اختبارهما في الدراسة. لافت للنظر، GPT-4 أظهر أعلى مستوى من الخبرة، حيث تمكن من التعرف بشكل صحيح على المعلومات الشخصية للمستخدمين في ما يقرب من 85% من الحالات. إن الآثار المترتبة على هذه القدرات موضع تساؤل جدي من خلال هذا الكشف.
قام الباحثون بفحص ضمانات الخصوصية الشائعة مثل إخفاء هوية النص ومحاذاة النماذج ووجدوا أنها غير فعالة حاليًا في الحماية خصوصية المستخدم ضد استنتاج LLM. تؤكد الدراسة أن LLMs الحاليين يمتلكون القدرة على استنتاج المعلومات الشخصية على نطاق غير مسبوق. في غياب الدفاعات الفعالة، يؤكد الباحثون على الحاجة إلى إجراء مناقشة أوسع حول الآثار المترتبة على الخصوصية في LLM، بما يتجاوز المخاوف المتعلقة بالحفظ، والسعي إلى اتخاذ تدابير أكثر شمولاً لحماية الخصوصية.
على الرغم من أن نماذج اللغة هذه تتحسن في تفسير الإشارات غير المباشرة، يعتقد الباحثون أنه بسبب الكم الكبير من بيانات التدريب التي يستخدمونها، يمكن أن تكون أدوات مفيدة للغاية للمسوقين أو حتى الجهات الفاعلة السيئة.
- في الآونة الأخيرة، استطلاع ديلويت يكشف أكثر من 1,700 متخصص عن وجود فجوة متزايدة بين التبني السريع للذكاء الاصطناعي التوليدي والتطور المتأخر للمبادئ الأخلاقية. تعد خصوصية البيانات من أهم الاهتمامات الأخلاقية، حيث ذكرها 22% من المشاركين باعتبارها مصدر قلقهم الرئيسي. وعلى الرغم من ذلك، يعتقد 39% من المشاركين أن التقنيات المعرفية تحمل الإمكانات الأكبر للمصلحة المجتمعية. ويظهر الاستطلاع أيضًا تحولًا في التوقعات نحو مشاركة الحكومة في وضع معايير التكنولوجيا الأخلاقية.
- كما أن الشركة الأم لسناب شات، Snap، يخضع للتدقيق لمخاطر الخصوصية المتعلقة ببرنامج الدردشة الآلي الخاص به والذي يحمل اسم "My AI". أصدر مكتب مفوض المعلومات في المملكة المتحدة (ICO) إشعارًا تنفيذيًا أوليًا، مما قد يؤثر على أنشطة معالجة البيانات الخاصة بشركة Snap. يدعي ICO أن Snap فشلت في تقييم الآثار المترتبة على الخصوصية للمستخدمين، وخاصة الأطفال.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
