OpenAI: يمكن للذكاء الاصطناعي أن يلحق ضررًا كبيرًا بالناس ، لكن محاولة وقف التقدم ليست خيارًا
في سطور
OpenAIتقترح وثيقة "التخطيط للذكاء الاصطناعي العام وما بعده" إدخالًا تدريجيًا وبطيئًا لنماذج أكثر تعقيدًا و "ذكية" ، وتنظيم عمليات تدقيق مستقلة للأنظمة الكبيرة ، والحد من موارد الحوسبة.
OpenAI يريد أن يكون الذكاء الاصطناعي مفتوحًا للجميع على قدم المساواة وأن يخلق المزيد من الاتساق و نماذج يمكن التحكم فيها لتقليل التحيز والسلوك غير المرغوب فيه.
OpenAI نشرت مؤخرًا وثيقة بعنوان "التخطيط للذكاء الاصطناعي العام وما بعده". إنه يحدد الأفكار العامة التي توجه أعمال الشركة بينما يقترب العالم من تطوير الذكاء الاصطناعي العام.
OpenAI مع الاعتقاد بأنه في حين أن الذكاء الاصطناعي لديه القدرة على التسبب في ضرر كبير للأشخاص ، فإن محاولة وقف التقدم ليست خيارًا. نتيجة لذلك ، يجب أن نتعلم كيفية الحفاظ على هذا التحسن حتى لا يتدهور بشكل كبير.
يمكن العثور على الوثيقة هنا. دعنا نسلط الضوء على بعض العناصر الحاسمة منه:
- OpenAI يريد AGI أن يساعد الناس على الازدهار في جميع جوانب حياتهم ، اقتصاديًا وعلميًا.
بدلاً من إنشاء ذكاء اصطناعي كبير وفائق الروعة وإطلاقه على الفور في العالم ، OpenAI ستقدم نماذج أكثر تعقيدًا و "ذكية" تدريجيًا. الافتراض هو أن زيادة قدرات الذكاء الاصطناعي تدريجياً لن تصدم العالم ، مما يمنح البشر الوقت الكافي للتكيف ، وتكييف الاقتصاد ، وبناء إجراءات للتفاعل مع الذكاء الاصطناعي. - OpenAI يدعو جميع المنظمات إلى اعتماد المبدأ المذكور أعلاه رسميًا (إطلاق الذكاء الاصطناعي القوي تدريجيًا). يوصي ألتمان أيضًا بالحد من كمية موارد الحوسبة التي يمكن استخدامها لتدريب النماذج وإعداد عمليات تدقيق محايدة للأنظمة الرئيسية قبل إتاحتها لعامة الناس. بدلاً من المشاركة في مسابقات مثل "من سيكون أول من يطرح نموذجًا أكثر روعة وأكبر؟" OpenAI يطلب من الشركات العمل معا لتحسين أمان الذكاء الاصطناعي.
- OpenAI يعتقد أنه من الأهمية بمكان أن يتم إطلاع الحكومات على دورات التدريب التي تتجاوز نطاقًا معينًا. هذا مفهوم مثير للاهتمام ، ونود معرفة المزيد عن خطط OpenAI في هذا الصدد. لا يبدو هذا الاقتراح رائعًا بالنسبة لي في البداية.
- OpenAI سيحاول تطوير نماذج أكثر موثوقية ويمكن التحكم فيها ، على الأرجح للحد من التحيز والسلوك غير المواتي في الذكاء الاصطناعي. النهج الذي اتبعته OpenAI في هذه الحالة ، هو جعل النموذج متاحًا لعامة الناس في شكل مقيد للغاية مع منح المستخدمين أيضًا خيار تخصيصه. نظرًا لأن المستهلكين لن يكونوا قادرين على "تخصيص" أي شيء هناك ، فأنا لست متأكدًا من كيفية مساعدة هذا النموذج ككل على أن يصبح أقل تحيزًا. ما لم يعفي الشركة من المسؤولية عن تصرفات النموذج.
بشكل عام ، يشير المستند إلى الطريق الصحيح. ومع ذلك ، كان هناك تعارض بسيط بين "لن نعرض على الفور نماذج رائعة للجمهور ، ولكننا سنتحدث عنها للدول" و "يجب أن يعرف الناس حول تقدم الذكاء الاصطناعي ". باختصار ، سننتظر توضيحات مفصلة من OpenAI في جميع المواضيع.
اقرأ المزيد عن الذكاء الاصطناعي:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالاتدامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.