ينبغي لشركات الذكاء الاصطناعي أن تنفق 30% من تمويلها على البحث والتطوير في مجالي السلامة والأخلاق
إن الضرر الناجم عن التحيز والمعلومات الكاذبة واضح بالفعل. وهناك دلائل تشير إلى أن مخاطر أخرى قد تظهر أيضا. ومن الأهمية بمكان التخفيف من المخاطر الحالية والتنبؤ بالمخاطر الناشئة.
لن نعرف كيفية التأكد من أن الأنظمة المستقلة المتقدمة أو الذكاء الاصطناعي العام آمنة أو كيفية اختبارها إذا كانت متاحة الآن. علاوة على ذلك، تفتقر الحكومات إلى المؤسسات اللازمة لوقف الانتهاكات وتطبيق الممارسات الآمنة، حتى لو فعلت ذلك. يدعم المؤلفون تطوير الرقابة الحكومية الفعالة وإعادة توجيه جهود البحث والتطوير نحو السلامة والأخلاق.
التحكم والصدق (يمكن للأنظمة الأكثر تطوراً أن تتفوق على الاختبار من خلال إنتاج إجابات خاطئة ولكنها مقنعة)، والمتانة (في الظروف الجديدة مع تحول التوزيع أو المدخلات المتعارضة)، وقابلية التفسير (فهم العمل)، وتقييم المخاطر (ظهور قدرات جديدة يصعب التنبؤ بها)، وظهور تحديات جديدة (أوضاع الفشل غير المسبوقة) هي بعض من تحديات البحث والتطوير التي لن يتم حلها عن طريق تطوير أنظمة ذكاء اصطناعي أكثر قوة.
يقترح المؤلفون أن السلامة والأخلاق يجب أن تتلقى ما لا يقل عن ثلث التمويل المخصص للبحث والتطوير في مجال الذكاء الاصطناعي.
ويلزم إنفاذ المعايير فيما يتعلق بكل من المؤسسات الوطنية والحوكمة العالمية. ويفتقر الذكاء الاصطناعي إلى هذه العناصر، لكن الصناعات الدوائية والمالية والنووية تفتقر إليها. وهناك الآن حوافز للدول والشركات للاقتصاد على حساب الأمن. يمكن للشركات أن تستفيد من تطورات الذكاء الاصطناعي بينما تترك المجتمع ليتحمل العواقب، مثلما تقوم الصناعات بإلقاء النفايات في الأنهار.
إن الدراية التقنية القوية والقدرة على التحرك بسرعة هي متطلبات للمؤسسات الوطنية. وعلى الساحة العالمية، تعد الشراكات والاتفاقات ضرورية. ولابد من تجنب العقبات البيروقراطية التي تعترض النماذج الصغيرة والتي يمكن التنبؤ بها من أجل حماية البحث الأكاديمي والتطبيقات المنخفضة المخاطر. ويجب أن تحظى النماذج الحدودية - وهي مجموعة مختارة من أقوى الأنظمة المدربة على أجهزة الكمبيوتر العملاقة التي تبلغ قيمتها مليارات الدولارات - بأكبر قدر من التركيز.
ويجب على الحكومات أن تكون أكثر انفتاحاً بشأن التطورات حتى تكون اللوائح التنظيمية فعالة. يجب على المنظمين فرض تسجيل النماذج، وحماية المخبرين الداخليين، والإبلاغ عن الحوادث، ومراقبة تطوير النماذج واستخدام أجهزة الكمبيوتر العملاقة.
ويجب أن يتمتع المنظمون أيضًا بإمكانية الوصول إلى هذه الأنظمة قبل إطلاقها في الإنتاج من أجل تقييمها يحتمل أن تكون ضارة ميزات مثل توليد مسببات الأمراض، والنسخ الذاتي، واختراق النظام.
تحتاج الأنظمة التي يحتمل أن تكون خطرة إلى مجموعة متنوعة من أساليب التحكم. نموذج الحدود يجب أيضًا أن يتحمل منشئو المحتوى المسؤولية القانونية عن أي ضرر يلحق بأنظمتهم كان من الممكن تجنبه. وهذا ينبغي أن يشجع الاستثمار الأمني. المزيد من الميزات، مثل الترخيص الحكومي، والقدرة على وقف التنمية استجابة ل يحتمل أن تكون خطرة وقد تكون القدرات، وضوابط الوصول، وتدابير أمن المعلومات التي لا يمكن اختراقها أمام المتسللين على مستوى الدولة، مطلوبة للأنظمة ذات القدرة العالية.
على الرغم من عدم وجود قواعد، يجب على الشركات توضيح مسؤولياتها بسرعة من خلال تحديد الخطوات الدقيقة التي ستتخذها إذا تجاوزت قدرات نموذجية معينة خطًا أحمر. تحتاج هذه التدابير إلى شرح شامل وتأكيدها بشكل مستقل. هكذا هو الحال. منفصل ملحق السياسة يجمع ملخصًا للأطروحات.
- في أكتوبر، منتدى النموذج الحدودي أنشأت صندوق أمان الذكاء الاصطناعي بقيمة تزيد عن 10 ملايين دولار، بهدف دفع التقدم في أبحاث سلامة الذكاء الاصطناعي. سيوفر الصندوق، وهو عبارة عن تعاون بين منتدى Frontier Model Forum والشركاء الخيريين، الدعم للباحثين المستقلين في جميع أنحاء العالم المنتسبين إلى المؤسسات الأكاديمية والمنظمات البحثية والشركات الناشئة. المساهمين الأساسيين في المبادرة هم Anthropic، وGoogle، وMicrosoft، OpenAI، جنبًا إلى جنب مع المنظمات الخيرية مثل مؤسسة باتريك جي ماكغفرن، ومؤسسة ديفيد ولوسيل باكارد، وإريك شميدت، وجان تالين. يركز صندوق سلامة الذكاء الاصطناعي في المقام الأول على دعم تطوير تقنيات التقييم الجديدة وأساليب الفريق الأحمر لنماذج الذكاء الاصطناعي، بهدف الكشف عن المخاطر المحتملة. ويخطط المنتدى لإنشاء مجلس استشاري في الأشهر المقبلة، وسيصدر دعوته الأولى لتقديم المقترحات ومنح الجوائز بعد ذلك بوقت قصير.
| مقالات ذات صلة: أطلقت هيئة المنافسة والأسواق في المملكة المتحدة مراجعة لنماذج الذكاء الاصطناعي مع تصاعد جهود التنظيم الحكومية |
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
