صندوق الذكاء الاصطناعي الأسود: ما هو وكيف يعمل
في سطور
الصناديق السوداء للذكاء الاصطناعي هي أنظمة تعمل دون معرفة المستخدم ، مثل التعلم الآلي ، الذي يتكون من خوارزمية وبيانات تدريب ونموذج.
تعتبر الصناديق السوداء مهمة لأمان البرامج ، حيث يمكن استخدامها لعكس هندسة البرامج واكتشاف العيوب لاستغلالها ، ويمكن استخدامها من قبل مختبري البرامج والمتسللين للعثور على نقاط الضعف.
بالنسبة للكثيرين ، يشير مصطلح "الصندوق الأسود" إلى أجهزة التسجيل في الطائرات ذات القيمة لفحوصات ما بعد الوفاة إذا حدث ما لا يمكن تصوره. بالنسبة للآخرين ، إنه مسرح صغير مؤثث بالحد الأدنى. ومع ذلك ، فإن الصناديق السوداء حيوية أيضًا للذكاء الاصطناعي.
الصناديق السوداء لمنظمة العفو الدولية هي أنظمة تعمل بدون معرفة المستخدم. يمكنك إطعامهم المدخلات والحصول على المخرجات ، لكن لا يمكنك فحص رمز النظام أو المنطق المستخدم لتوليد المخرجات.
تعلم الآلة هو النوع المهيمن من الذكاء الاصطناعي. وهي تتألف من خوارزمية أو مجموعة من الخوارزميات وبيانات التدريب ونموذج.
- الخوارزمية هي سلسلة من الإجراءات. بعد التدريب ، تكون الخوارزمية قادرة على التعرف على الأنماط المعروفة.
- التدريب البيانات هي مجموعة البيانات المستخدمة لتدريب نموذج الذكاء الاصطناعي.
- تعد خوارزمية التعلم الآلي ، في جوهرها ، إجراءً مصممًا للتعلم من عدد كبير من الأمثلة وإنتاج نموذج للتعلم الآلي. نموذج التعلم الآلي هو ما يستخدمه الناس بمجرد إنشائه.
يمكن برمجة خوارزمية التعرف على الصور لاكتشاف اتجاهات الصور ، ويمكن أن تمثل بيانات التدريب صورًا للكلاب. يمكنك إطعامها صورة كمدخلات والحصول عليها كإخراج سواء وأين تظهر مجموعة من البيكسلات لتمثل كلبًا وأين تظهر في الصورة.
نظرًا لأن خوارزميات التعلم الآلي معروفة للجمهور ، فإن إخفاء الصناديق السوداء يكون أقل فعالية. نظرًا لأن مهندسي الذكاء الاصطناعي غالبًا ما يخفون ملكيتهم الفكرية في الصناديق السوداء ، فإنهم عادةً ما يضعون النموذج في صندوق واحد. طريقة أخرى لمطوري البرامج إخفاء البيانات من خلال حجب البيانات المستخدمة لتدريب النموذج - بمعنى آخر ، وضع بيانات التدريب في صندوق أسود.
من الصعب فهم كيفية عمل خوارزميات الصندوق الأسود ، لكن هذا ليس أبيض وأسود تمامًا.
يشير الصندوق الزجاجي إلى نظام يمكن الوصول إلى خوارزمياته وبيانات التدريب والنماذج الخاصة به للجمهور ، بينما يشير الصندوق الأسود إلى نظام يتم إخفاء خوارزمياته وبيانات التدريب والنماذج الخاصة به. غالبًا ما يستخدم مصطلح الصندوق الأسود عندما يصف الباحثون حتى هذه الجوانب من نظام الذكاء الاصطناعي بأنها سوداء.
هناك ندرة في المعرفة حول كيفية خوارزميات التعلم الآلي ، على وجه الخصوص خوارزميات التعلم العميق، وظيفة. يطور الباحثون خوارزميات يمكن أن يفهمها البشر بشكل أفضل ، رغم أنها ليست بالضرورة علب زجاجية.
لماذا تعتبر الصناديق السوداء للذكاء الاصطناعي مهمة؟
ليس من الجيد دائمًا الوثوق بخوارزميات ونماذج التعلم الآلي في الصندوق الأسود. ماذا لو رفض نموذج التعلم الآلي الذي يحدد ما إذا كنت مؤهلاً للحصول على قرض تجاري من أحد البنوك؟ تريد أن تعرف حتى تتمكن من استئناف القرار بشكل أفضل أو تغيير وضعك لزيادة فرصك في الحصول على قرض في المرة القادمة.
يُعتقد أن الاحتفاظ بالبرنامج في الصندوق الأسود يمنع المتسللين من فحصه ، وبالتالي يجعله آمنًا. ومع ذلك ، يمكن للقراصنة مهندس عكسي البرمجيات - أي دراسة كيفية عمل جزء من البرنامج عن كثب - واكتشف العيوب التي يجب استغلالها. الصناديق السوداء لها أيضًا آثار مهمة على أمان نظام البرامج.
من الممكن لمختبري البرامج والمتسللين ذوي النوايا الحسنة أن ينظروا داخل صندوق زجاجي يستخدم لاختبار البرامج للعثور على نقاط الضعف ، وبالتالي تقليل الهجمات الإلكترونية.
اقرأ المزيد من المقالات ذات الصلة:
- NFT الصناديق الغامضة: ما هي وأين تشتريها
- 15+ أفضل دورات AI للتعلم في 2023: مجانية ومدفوعة
- أعلى 15 GPT-4 و GPT-3 Chatbots: تحدث مع الذكاء الاصطناعي، واطرح الأسئلة
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
المزيد من المقالات
دامير هو قائد الفريق ومدير المنتج والمحرر في Metaverse Post، تغطي موضوعات مثل AI / ML و AGI و LLMs و Metaverse و Web3-حقول ذات صله. تجذب مقالاته جمهورًا هائلاً يزيد عن مليون مستخدم كل شهر. يبدو أنه خبير يتمتع بخبرة 10 سنوات في تحسين محركات البحث والتسويق الرقمي. تم ذكر دامير في Mashable، Wired، Cointelegraphو The New Yorker و Inside.com و Entrepreneur و BeInCrypto ومنشورات أخرى. يسافر بين الإمارات العربية المتحدة وتركيا وروسيا ورابطة الدول المستقلة كبدو رقمي. حصل دامير على درجة البكالوريوس في الفيزياء ، والذي يعتقد أنه منحه مهارات التفكير النقدي اللازمة للنجاح في المشهد المتغير باستمرار للإنترنت.
