OpenAI تكشف النقاب عن أحدث نهج لضمان سلامة الذكاء الاصطناعي
في سطور
OpenAI أصدرت مدونة توضح نهجها المحسن للسلامة بعد المخاوف الأخيرة المتعلقة بالسلامة والخصوصية والتحقيقات.
تتعهد الشركة بإجراء اختبارات صارمة وإشراك خبراء خارجيين للحصول على تعليقات والعمل مع الحكومات لتحديد الأفضل نهج للوائح منظمة العفو الدولية.
بعد مواجهة مخاوف تتعلق بالسلامة والخصوصية والمتابعة التحقيقات الأخيرة في بعض الدول الأوروبية ، OpenAI لديها صدر منشور مدونة يوضح نهج الشركة المحسّن للسلامة.
OpenAI يتعهد بإجراء اختبارات صارمة ، وإشراك خبراء خارجيين للحصول على تعليقات قبل إطلاق أي نظام جديد ، والعمل مع الحكومات لتحديد أفضل نهج للوائح الذكاء الاصطناعي.
في السابق، أمضت الشركة أكثر من ستة أشهر في العمل على سلامة ومواءمة أحدث طراز لها، GPT-4قبل أن ينشرها علناً. لضمان سلامة أحدث نموذج لغوي لها، GPT-4, OpenAI التعاقد فريق مكون من أكثر من 50 خبيرًا: متخصصون في السلامة والأخلاقيات والسياسات في مجال الذكاء الاصطناعي ، بما في ذلك الباحثون والمهندسون.
"بشكل حاسم ، نعتقد أن المجتمع يجب أن يكون لديه الوقت للتحديث والتكيف مع الذكاء الاصطناعي ذي القدرات المتزايدة ، وأن كل شخص يتأثر بهذه التكنولوجيا يجب أن يكون له رأي هام في كيفية تطور الذكاء الاصطناعي بشكل أكبر ،"
OpenAI كتب.
OpenAIالتركيز على سلامة الأطفال وخصوصيتهم
حظرت إيطاليا ChatGPTنقلا عن OpenAIفشل التحقق من عمر مستخدميها ، على الرغم من كونها مصممة للأفراد الذين تزيد أعمارهم عن 13 عامًا ، كأحد الأسباب. تحول التركيز الأساسي لجهود الشركة في مجال السلامة إلى حماية الأطفال من خلال تنفيذ خيارات التحقق من العمر ، والتي OpenAI يستكشف الآن ، خاصة وأن أدوات الذكاء الاصطناعي مخصصة للأفراد الذين تبلغ أعمارهم 18 عامًا أو أكبر أو 13 عامًا أو أكبر بموافقة الوالدين.
تحظر الشركة بشكل صارم إنشاء محتوى يحض على الكراهية أو المضايقة أو العنف أو محتوى للبالغين GPT-4 لديها بالفعل احتمالية أقل بنسبة 82% للاستجابة لطلبات المحتوى غير المسموح به مقارنة بـ GPT-3.5.
OpenAI أنشأت نظامًا قويًا لرصد إساءة الاستخدام وتأمل في إنشاءه GPT-4 متاح لعدد أكبر من الأشخاص مع مرور الوقت. تعمل الشركة مع المطورين على إجراءات تخفيف السلامة المخصصة، مثل أكاديمية خان غير الربحية، وتعمل على ميزات للسماح بمعايير أكثر صرامة لمخرجات النماذج.
يعد تحسين الخصوصية جانبًا آخر من جوانب الأمان OpenAI تركز عليه ، خاصة بعد الأحدث خروقات البيانات. يتم تدريب النماذج اللغوية الكبيرة لشركة AI على كمية هائلة من النصوص التي تتضمن المحتوى المتاح للجمهور والمحتوى المرخص والمحتوى الذي تم إنشاؤه بواسطة المراجعين البشريين ؛ يستخدم البيانات لجعل نماذج الذكاء الاصطناعي أكثر فائدة للأشخاص.
OpenAI تتخذ خطوات لحماية خصوصية الأفراد عن طريق إزالة المعلومات الشخصية من بيانات التدريب الخاصة بها ، وضبط النماذج لرفض طلبات الحصول على المعلومات الشخصية ، وحذف المعلومات الشخصية من أنظمتها عند الطلب. هذا يقلل من فرصة قيام نماذج الذكاء الاصطناعي بتوليد استجابات تتضمن معلومات شخصية.
OpenAIنهج لمعالجة مخاوف السلامة المتعلقة بالذكاء الاصطناعي هو البحث عن وسائل التخفيف الفعالة وتقنيات المحاذاة واختبارها ضد الإساءة في العالم الحقيقي. كما تتعهد بتوخي الحذر بشكل متزايد في إنشاء ونشر نماذج أكثر قدرة وتعزيز احتياطات السلامة. تعد الحوكمة الفعالة لتطوير الذكاء الاصطناعي ونشره ضرورية لضمان السلامة ، الأمر الذي يتطلب الابتكار التقني والمؤسسي.
اقرأ أكثر:
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
Agne هي صحفية تغطي أحدث الاتجاهات والتطورات في metaverse و AI و Web3 صناعات ل Metaverse Post. دفعها شغفها بسرد القصص إلى إجراء العديد من المقابلات مع خبراء في هذه المجالات، وتسعى دائمًا للكشف عن قصص مثيرة وجذابة. حصلت أغني على درجة البكالوريوس في الأدب ولديها خلفية واسعة في الكتابة حول مجموعة واسعة من المواضيع بما في ذلك السفر والفن والثقافة. كما تطوعت كمحررة في منظمة حقوق الحيوان، حيث ساعدت في رفع مستوى الوعي حول قضايا رعاية الحيوان. اتصل بها على [البريد الإلكتروني محمي].
المزيد من المقالات
Agne هي صحفية تغطي أحدث الاتجاهات والتطورات في metaverse و AI و Web3 صناعات ل Metaverse Post. دفعها شغفها بسرد القصص إلى إجراء العديد من المقابلات مع خبراء في هذه المجالات، وتسعى دائمًا للكشف عن قصص مثيرة وجذابة. حصلت أغني على درجة البكالوريوس في الأدب ولديها خلفية واسعة في الكتابة حول مجموعة واسعة من المواضيع بما في ذلك السفر والفن والثقافة. كما تطوعت كمحررة في منظمة حقوق الحيوان، حيث ساعدت في رفع مستوى الوعي حول قضايا رعاية الحيوان. اتصل بها على [البريد الإلكتروني محمي].
