حفاظت از هوش مصنوعی آسیب‌پذیری‌های حیاتی در سیستم‌های هوش مصنوعی و ML موجود را گزارش می‌کند، و به ایمن کردن پروژه‌های منبع باز نیاز دارد.
به طور خلاصه
گزارش حفاظت از هوش مصنوعی، آسیب‌پذیری‌ها را در ابزارهای مورد استفاده در زنجیره تامین AI/ML، اغلب منبع باز، با تهدیدات امنیتی منحصربه‌فرد شناسایی می‌کند.
بر اساس گزارش Protect AI – a، در ابزارهای مورد استفاده در زنجیره تامین AI/ML آسیب‌پذیری‌هایی وجود دارد که اغلب منبع باز هستند و تهدیدات امنیتی منحصر به فردی را به همراه دارند و این آسیب‌پذیری‌ها خطر اجرای کد از راه دور غیرقابل احراز هویت و گنجاندن فایل‌های محلی را به همراه دارند. امنیت سایبری این شرکت بر روی سیستم های هوش مصنوعی و ML متمرکز شده است.
این گزارش می‌تواند منجر به پیامدهایی از تصاحب سرور گرفته تا سرقت اطلاعات حساس شود.
این گزارش همچنین بر ضرورت رویکردی فعال در شناسایی و رسیدگی به این آسیب‌پذیری‌ها برای حفاظت از داده‌ها، مدل‌ها و اعتبارنامه‌ها تأکید می‌کند.
در خط مقدم تلاش‌های Protect AI، huntr قرار دارد، اولین برنامه جایزه باگ AI/ML در جهان، که جامعه‌ای متشکل از 13,000 عضو را به طور فعال در جستجوی آسیب‌پذیری‌ها درگیر می‌کند. هدف این ابتکار ارائه اطلاعات حیاتی در مورد تهدیدات بالقوه و تسهیل واکنش سریع به سیستم های هوش مصنوعی ایمن است.
در آگوست 2023، این شرکت راه اندازی Huntr را اعلام کرد - یک پلتفرم جایزه باگ AI/ML که منحصراً بر محافظت از نرم افزار منبع باز AI / ML (OSS) متمرکز است. مدل های بنیادی، و سیستم های ML. راه‌اندازی پلتفرم باگ باگ huntr AI/ML در نتیجه خرید huntr.dev توسط Protect AI صورت می‌گیرد.
داریان دهقان پیشه، رئیس و یکی از بنیانگذاران Protect AI، گفت: با بیش از 15,000 عضو در حال حاضر، Protect AI's Hunter بزرگترین و متمرکزترین مجموعه از محققان و هکرهای تهدید است که منحصراً بر امنیت هوش مصنوعی / ML متمرکز شده اند.
مدل عملیاتی هانتر بر سادگی، شفافیت و پاداش متمرکز است. ویژگی‌های خودکار و تخصص تریاژ «محافظت از هوش مصنوعی» در زمینه‌سازی تهدیدها برای نگهداری‌کنندگان به همه مشارکت‌کنندگان نرم‌افزار منبع باز در هوش مصنوعی کمک می‌کند تا بسته‌های نرم‌افزاری امن‌تری بسازند. دهقان پیشه افزود: این در نهایت به نفع همه کاربران است، زیرا سیستم‌های هوش مصنوعی ایمن‌تر و انعطاف‌پذیرتر می‌شوند.
گزارش آسیب پذیری های حیاتی را شناسایی می کند
این گزارش با برجسته کردن یافته‌های جامعه شکار در ماه گذشته، سه آسیب‌پذیری حیاتی را شناسایی می‌کند که شامل اجرای کد از راه دور MLflow، بازنویسی فایل دلخواه MLflow و شامل فایل محلی MLflow است.
- MLflow Remote Code Execution: نقص منجر به تصاحب سرور و از دست دادن اطلاعات حساس می شود. MLflow، ابزاری برای ذخیره و ردیابی مدل‌ها، دارای یک آسیب‌پذیری اجرای کد از راه دور در کد مورد استفاده برای پایین کشیدن ذخیره‌سازی اطلاعات از راه دور بود. کاربران ممکن است فریب بخورند و از منابع داده از راه دور مخرب استفاده کنند که می تواند دستورات را از طرف کاربر اجرا کند.
- بازنویسی فایل دلخواه MLflow: این نقص دارای پتانسیل تصاحب سیستم، انکار سرویس و تخریب داده ها است. یک دور زدن در یک تابع MLflow که تأیید می‌کند که یک مسیر فایل ایمن است، پیدا شد و به کاربر مخرب اجازه می‌دهد تا فایل‌ها را از راه دور روی سرور MLflow بازنویسی کند. این می تواند منجر به اجرای کد از راه دور با مراحل اضافی مانند بازنویسی کلیدهای SSH در سیستم یا ویرایش فایل .bashrc برای اجرای دستورات دلخواه پس از ورود کاربر بعدی شود.
- فایل محلی MLflow شامل: نقص منجر به از دست رفتن اطلاعات حساس و پتانسیل تصاحب سیستم می شود. MLflow، هنگامی که بر روی سیستم عامل های خاصی میزبانی می شود، می تواند برای نمایش محتویات فایل های حساس دستکاری شود و در صورت ذخیره اعتبارنامه های ضروری در سرور، یک راه بالقوه برای تصاحب سیستم ایجاد می کند.
داریان دهقان پیشه، یکی از بنیانگذاران هوش مصنوعی محافظت کنید Metaverse Post"فوریت در رسیدگی به آسیب‌پذیری‌های سیستم AI/ML به تاثیر تجاری آنها بستگی دارد. با توجه به نقش حیاتی AI/ML در تجارت معاصر و ماهیت شدید بهره برداری های بالقوه، بیشتر سازمان ها این فوریت را بالا می یابند. چالش اصلی در ایمن سازی سیستم های AI/ML در درک خطرات در طول چرخه عمر MLOps نهفته است.
او افزود: «برای کاهش این خطرات، شرکت‌ها باید مدل‌سازی تهدید را برای سیستم‌های هوش مصنوعی و ML خود انجام دهند، پنجره‌های مواجهه را شناسایی کنند و کنترل‌های مناسب را در یک برنامه یکپارچه و جامع MLSecOps اجرا کنند.»
Protect AI در گزارش خود بر فوریت رسیدگی به این موارد تاکید می کند آسیب پذیری به سرعت و فهرستی از توصیه‌ها را برای کاربرانی که پروژه‌های آسیب‌دیده در تولید دارند ارائه می‌کند، که بر اهمیت موضع پیشگیرانه در کاهش خطرات احتمالی تأکید می‌کند. کاربرانی که در کاهش این آسیب‌پذیری‌ها با چالش‌هایی مواجه هستند تشویق می‌شوند تا با جامعه محافظت از هوش مصنوعی تماس بگیرند.
با پیشرفت فناوری هوش مصنوعی، پروتکت هوش مصنوعی در تلاش است تا شبکه پیچیده سیستم های AI/ML را ایمن کند تا از بهره برداری مسئولانه و ایمن از مزایای هوش مصنوعی اطمینان حاصل کند.
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
مقالات بیشتر
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
