مرصد ستانفورد: سيؤدي الذكاء الاصطناعي إلى أكاذيب في كل مكان ودعاية لا تقاوم في عام 2023
في سطور
ستجعل تقنيات AICG (توليد محتوى الذكاء الاصطناعي) الحقيقة والأكاذيب لا يمكن تمييزها ، سواء للأفراد أو للمجتمعات على أي نطاق.
وهذا من شأنه أن يخلق بيئة "ما بعد الحقيقة" التي ستصبح فيها الأكاذيب والدعاية منتشرة في كل مكانdefiنبيلة ولا تقاوم.
حقيقة أن الكثير من الناس يثقون في المعلومات التي تأتي من الإنترنت أكثر من الثقة في وسائل الإعلام التقليدية هي مصدر قلق كبير.
أصبحت مولدات الصور والفيديو القائمة على الذكاء الاصطناعي أكثر ملاءمة للاستخدام وموثوقية عالية وكفاءة عالية.
هذا يجعلها مفيدة بشكل لا يصدق لأغراض الدعاية.
في خطابه أمام مجتمع الذكاء الاصطناعي العالمي ، حذر خبير الذكاء الاصطناعي الصيني كاي فو لي من أن العالم سيواجه خطرًا أكثر خطورة من مخاطر الحرب النووية أو المجاعة أو الوباء بحلول عام 2023. يكمن الخطر في توليد محتوى الذكاء الاصطناعي (AICG). يمكن لتقنيات AICG أن تجعل الحقيقة والأكاذيب لا يمكن تمييزها ، سواء بالنسبة للأفراد أو للمجتمعات على أي نطاق.
• تقرير جديد من قبل مركز الأمن والتكنولوجيا الناشئة ، OpenAI، ومرصد ستانفورد للإنترنت ، "نماذج اللغة التوليدية وعمليات التأثير الآلي: التهديدات الناشئة وإجراءات التخفيف المحتملة" ، يوفر نظرة إستراتيجية للسيناريو الكارثي الذي وصفه كاي فو لي.
يشرح التقرير بالتفصيل كيف من المحتمل أن يحدث سقوط البشرية في هاوية AICG. ستجعل تقنيات AICG من الممكن توليد كميات هائلة من المحتوى الذي لا يمكن تمييزه عن المحتوى الذي ينشئه الإنسان. وهذا من شأنه أن يخلق بيئة "ما بعد الحقيقة" التي ستصبح فيها الأكاذيب والدعاية منتشرة في كل مكانdefiنبيلة ولا تقاوم.
ويوصي التقرير بعدد من تدابير التخفيف ، بما في ذلك تنظيم استخدام تقنيات AICG ، وزيادة الشفافية حول استخدامها ، ووضع معايير لاستخدامها. ومع ذلك ، يحذر مؤلفو التقرير من أن هذه الإجراءات لن تكون فعالة إلا إذا تم تنفيذها على نطاق عالمي.
يأتي إصدار التقرير في وقت يكافح فيه العالم بالفعل للتعامل مع انتشار المعلومات المضللة والمعلومات المضللة. رافق جائحة كوفيد -19 انتشار معلومات خاطئة عن الفيروس وأصوله ، وتكافح منصات التواصل الاجتماعي لمنع انتشار هذه المعلومات الخاطئة.
سوف يغير الذكاء الاصطناعي الويب بشكل كبير
لطالما كانت الأكاذيب والدعاية جزءًا من المجتمع البشري. ومع ذلك ، فإن توافر وفعالية أي عمليات تأثير (على الأفراد والمجتمعات على حد سواء) تتزايد بسبب تطوير تقنيات أكثر تعقيدًا ، لا سيما في مجال الذكاء الاصطناعي (AI).
| مقالة ذات صلة: OpenAIينص الرئيس التنفيذي لشركة "على" أن نظام التعليم يجب أن يتكيف معه ChatGPT، لا تحظرها |
هناك ثلاثة عوامل رئيسية تساهم في ظهور الأكاذيب على أنها حقيقة ، وانتشارها ، وقبولها:
- تطوير الصور والفيديو المعتمد على الذكاء الاصطناعي مولدات يمكنها إنشاء صور ومقاطع فيديو واقعية للغاية لأشخاص وأحداث لم تحدث أبدًا في الواقع.
- استخدام وسائل التواصل الاجتماعي لنشر معلومات كاذبة لأعداد كبيرة من الناس بسرعة كبيرة.
- حقيقة أن الكثير من الناس يثقون الآن في المعلومات التي تأتي من الإنترنت أكثر من مصادر الوسائط التقليدية.
نتيجة لهذه العوامل ، أصبحت مولدات الصور والفيديو القائمة على الذكاء الاصطناعي أكثر ملاءمة للاستخدام وموثوقية عالية وكفاءة عالية. هذا يجعلها مفيدة بشكل لا يصدق لأغراض الدعاية.
أصبح من الممكن الآن لأي شخص لديه جهاز كمبيوتر واتصال بالإنترنت إنشاء صور ومقاطع فيديو مزيفة لا يمكن تمييزها فعليًا عن الواقع. وقد أدى ذلك إلى وضع يصعب فيه تحديد ما هو حقيقي وما هو غير صحيح.
استخدام وسائل التواصل الاجتماعي لنشر معلومات كاذبة هو أيضا مصدر قلق كبير. نظرًا للطريقة التي تعمل بها وسائل التواصل الاجتماعي ، يمكن أن تنتشر المعلومات الخاطئة بسرعة وسهولة. هذا يجعل من الصعب على الناس معرفة ما يؤمنون به.
يوضح ما يلي كيف أتاح التطور الثوري في عام 2022 إنشاء المنتجات المزيفة صور تطابق أوصافًا مثل "راكون يرتدي ملابس رسمية بقبعة علوية وعصا وحقيبة قمامة. "لوحة زيتية بأسلوب رامبرانت (النتيجة على اليسار) وفان جوخ (النتيجة على اليمين)."
إن التبسيط الشديد لعملية محو الخط الفاصل بين الحقيقة والباطل، إلى جانب عدم قدرة التفكير النقدي لدى الناس على مواجهة دعاية الذكاء الاصطناعي، سيؤدي إلى هيمنة الوجود في كل مكان، في كل مكان.defiعمليات التأثير النبيلة والتي لا يمكن التغلب عليها، سواء في السياسة أو الأعمال.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
