ممکن است 29، 2023

جعبه سیاه هوش مصنوعی: چیست و چگونه کار می کند

تاریخ انتشار: 29 مه 2023 ساعت 9:00 صبح بروزرسانی: 29 مه 2023 ساعت 8:11 ق.ظ.

ویرایش و بررسی شده: 29 مه 2023 ساعت 9:00 صبح

به طور خلاصه

جعبه‌های سیاه هوش مصنوعی سیستم‌هایی هستند که بدون دانش کاربر عمل می‌کنند، مانند یادگیری ماشینی که از یک الگوریتم، داده‌های آموزشی و یک مدل تشکیل شده است.

جعبه‌های سیاه برای امنیت نرم‌افزار مهم هستند، زیرا می‌توان از آنها برای مهندسی معکوس نرم‌افزار و کشف نقص‌ها برای بهره‌برداری استفاده کرد و آزمایش‌کنندگان نرم‌افزار و هکرها می‌توانند از آنها برای یافتن نقاط ضعف استفاده کنند.

برای بسیاری، اصطلاح "جعبه سیاه" به دستگاه های ضبط در هواپیماها اشاره دارد که در صورت وقوع غیرقابل تصور برای معاینات پس از مرگ ارزشمند هستند. برای دیگران، این یک تئاتر کوچک و کم مبلمان است. با این حال، جعبه سیاه برای هوش مصنوعی نیز حیاتی است.

جعبه سیاه هوش مصنوعی: چیست و چگونه کار می کند — @Midjourney

جعبه های سیاه هوش مصنوعی سیستم هایی هستند که بدون دانش کاربر کار می کنند. شما می توانید به آنها ورودی بدهید و خروجی بگیرید، اما نمی توانید کد سیستم یا منطق استفاده شده برای تولید خروجی را بررسی کنید.

فراگیری ماشین نوع غالب هوش مصنوعی است. این شامل یک الگوریتم یا مجموعه ای از الگوریتم ها، داده های آموزشی و یک مدل است.

الگوریتم دنباله ای از رویه ها است. پس از آموزش، یک الگوریتم قادر به تشخیص الگوهای شناخته شده است.
تمرین داده ها مجموعه داده ای است که برای آموزش مدل هوش مصنوعی استفاده می شود.
الگوریتم یادگیری ماشینی، در اصل، رویه ای است که برای یادگیری از تعداد زیادی مثال و تولید یک مدل یادگیری ماشینی طراحی شده است. یک مدل یادگیری ماشینی همان چیزی است که افراد پس از ایجاد آن از آن استفاده می کنند.

یک الگوریتم تشخیص تصویر می تواند برای کشف روندهای تصویر برنامه ریزی شود و داده های آموزشی می تواند عکس های سگ ها را نشان دهد. شما یک تصویر را به عنوان ورودی به آن می دهید و آن را به عنوان خروجی دریافت می کنید که آیا و در کجا در تصویر مجموعه ای از پیکسل ها به نظر می رسد نشان دهنده یک سگ باشد.

از آنجایی که الگوریتم‌های یادگیری ماشین به طور عمومی شناخته شده‌اند، پنهان کردن جعبه‌های سیاه کارایی کمتری دارد. از آنجایی که مهندسان هوش مصنوعی اغلب دارایی‌های معنوی خود را در جعبه‌های سیاه پنهان می‌کنند، معمولاً مدل را در یک جعبه سیاه قرار می‌دهند. راه دیگر توسعه دهندگان نرم افزار پنهان کردن، پوشاندن داده ها با پنهان کردن داده هایی است که برای آموزش مدل استفاده می شود - به عبارت دیگر، قرار دادن داده های آموزشی در یک جعبه سیاه.

درک نحوه عملکرد الگوریتم های جعبه سیاه دشوار است، اما این کاملا سیاه و سفید نیست.

جعبه شیشه‌ای به سیستمی اطلاق می‌شود که الگوریتم‌ها، داده‌های آموزشی و مدل‌های آن در دسترس عموم هستند، در حالی که جعبه سیاه به سیستمی اشاره دارد که الگوریتم‌ها، داده‌های آموزشی و مدل‌های آن پنهان هستند. اصطلاح جعبه سیاه اغلب زمانی استفاده می شود که محققان حتی این جنبه های یک سیستم هوش مصنوعی را سیاه توصیف می کنند.

در مورد چگونگی الگوریتم های یادگیری ماشینی، به ویژه، کمبود دانش وجود دارد الگوریتم های یادگیری عمیق، تابع. محققان در حال توسعه الگوریتم‌هایی هستند که اگرچه لزوما جعبه‌های شیشه‌ای نیستند، اما برای انسان بهتر قابل درک است.

چرا جعبه سیاه هوش مصنوعی مهم است؟

همیشه اعتماد به الگوریتم ها و مدل های یادگیری ماشین جعبه سیاه ایده خوبی نیست. اگر یک مدل یادگیری ماشینی که تعیین می کند واجد شرایط دریافت وام تجاری از بانک هستید، شما را رد کند، چه؟ دوست دارید بدانید تا بهتر بتوانید در مورد تصمیم تجدید نظر کنید یا وضعیت خود را تغییر دهید تا شانس خود را برای دریافت وام در دفعه بعد افزایش دهید.

تصور می‌شود که نگهداری نرم‌افزار در جعبه سیاه مانع از بررسی آن توسط هکرها می‌شود و بنابراین، آن را ایمن می‌کند. با این حال، هکرها می توانند مهندسی معکوس نرم‌افزار - یعنی مطالعه کنید که چگونه یک نرم‌افزار از نزدیک کار می‌کند - و نقص‌هایی را برای بهره‌برداری کشف کنید. جعبه سیاه همچنین پیامدهای مهمی برای امنیت سیستم نرم افزاری دارد.

این امکان برای آزمایش کنندگان نرم افزار و هکرهای خوش نیت وجود دارد که به داخل جعبه شیشه ای مورد استفاده برای آزمایش نرم افزار برای یافتن نقاط ضعف نگاه کنند و در نتیجه حملات سایبری را کاهش دهند.

مقالات مرتبط بیشتر را بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف