Mevcut Yapay Zeka ve Makine Öğrenimi Sistemlerindeki Yapay Zeka Raporlarındaki Kritik Güvenlik Açıklarını Koruyun, Açık Kaynak Projelerinin Güvenliğini Artırın
Kısaca
AI'yı koruyun raporu, AI/ML tedarik zincirinde kullanılan, genellikle Açık Kaynak olan ve benzersiz güvenlik tehditlerine sahip araçlardaki güvenlik açıklarını tanımlar.
Koruma AI tarafından hazırlanan rapora göre, AI/ML tedarik zincirinde kullanılan, genellikle Açık Kaynak olan ve benzersiz güvenlik tehditleri taşıyan araçlarda güvenlik açıkları bulunuyor ve bu güvenlik açıkları, kimliği doğrulanmamış uzaktan kod yürütme ve yerel dosya ekleme riskleri oluşturuyor. siber güvenlik şirket AI ve ML sistemlerine odaklandı.
Raporda, bunun sunucunun ele geçirilmesinden hassas bilgilerin çalınmasına kadar çeşitli sonuçlara yol açabileceği de belirtildi.
Rapor ayrıca verileri, modelleri ve kimlik bilgilerini korumak için bu güvenlik açıklarını belirleme ve giderme konusunda proaktif bir yaklaşımın gerekliliğini vurguluyor.
Koruma AI'nın çabalarının ön saflarında, aktif olarak güvenlik açıklarını arayan 13,000'den fazla üyeden oluşan bir topluluğun katılımını sağlayan, dünyanın ilk AI/ML hata ödül programı olan hunter yer alıyor. Bu girişim, potansiyel tehditler hakkında önemli istihbarat sağlamayı ve güvenli yapay zeka sistemlerine hızlı yanıt vermeyi kolaylaştırmayı amaçlıyor.
Ağustos 2023'te şirket, yalnızca AI/ML açık kaynak yazılımını (OSS) korumaya odaklanan bir AI/ML hata ödül platformu olan hunterr'ın lansmanını duyurdu. temel modellerve ML Sistemleri. Hunter AI/ML hata ödül platformunun lansmanı, Huntr.dev'in Protect AI tarafından satın alınmasının bir sonucu olarak gerçekleşti.
Koruma AI'nın başkanı ve kurucu ortağı Daryan Dehghanpisheh, "Şu anda 15,000'den fazla üyesiyle, Protect AI'nin avcısı, yalnızca AI/ML güvenliğine odaklanan en büyük ve en yoğun tehdit araştırmacıları ve bilgisayar korsanları grubudur" dedi.
"Huntr'un çalışma modeli basitlik, şeffaflık ve ödüllere odaklanıyor. Otomatik özellikler ve Koruma Yapay Zekasının bakımcılar için tehditleri bağlamsallaştırma konusundaki önceliklendirme uzmanlığı, yapay zekaya açık kaynaklı yazılıma katkıda bulunan tüm kişilerin daha güvenli yazılım paketleri oluşturmasına yardımcı olur. Yapay zeka sistemleri daha güvenli ve dayanıklı hale geldikçe bu sonuçta tüm kullanıcılara fayda sağlıyor" diye ekledi Dehghanpisheh.
Rapor Kritik Güvenlik Açıklarını Belirliyor
Hunter topluluğunun geçen ayki bulgularını vurgulayan rapor, MLflow Uzaktan Kod Yürütme, MLflow Rastgele Dosya Üzerine Yazma ve MLflow Yerel Dosya Eklemeyi içeren üç kritik güvenlik açığını belirliyor.
- MLflow Uzaktan Kod Yürütme: Kusur, sunucunun ele geçirilmesine ve hassas bilgilerin kaybına neden olur. Modelleri depolamak ve izlemek için kullanılan bir araç olan MLflow, uzak veri depolamayı kapatmak için kullanılan kodda uzaktan kod yürütme güvenlik açığına sahipti. Kullanıcılar, kullanıcı adına komutlar yürütebilecek kötü amaçlı uzak veri kaynaklarını kullanma konusunda kandırılabilir.
- MLflow Rastgele Dosya Üzerine Yazma: Kusur, sistemin ele geçirilmesi, hizmet reddi ve verilerin yok edilmesi potansiyeline sahiptir. Bir MLflow işlevinde, bir dosya yolunun güvenli olduğunu doğrulayan ve kötü niyetli bir kullanıcının MLflow sunucusundaki dosyaların üzerine uzaktan yazmasına olanak tanıyan bir atlama bulundu. Bu, sistemdeki SSH anahtarlarının üzerine yazmak veya .bashrc dosyasını bir sonraki kullanıcı oturum açma işleminde rastgele komutlar çalıştıracak şekilde düzenlemek gibi ek adımlarla uzaktan kod yürütülmesine yol açabilir.
- MLflow Yerel Dosyası şunları içerir: Kusur, hassas bilgilerin kaybına ve sistemin ele geçirilmesi potansiyeline neden olur. MLflow, belirli işletim sistemlerinde barındırıldığında hassas dosyaların içeriğini görüntüleyecek şekilde değiştirilebilir; bu da, gerekli kimlik bilgilerinin sunucuda saklanması durumunda sistemin ele geçirilmesi için potansiyel bir yol oluşturur.
AI'nin kurucu ortağı Daryan Dehghanpisheh'i koruyun Metaverse Post, “AI/ML sistemindeki güvenlik açıklarını ele almanın aciliyeti, bunların iş üzerindeki etkisine bağlıdır. AI/ML'nin çağdaş iş dünyasındaki kritik rolü ve potansiyel suiistimallerin şiddetli doğası nedeniyle çoğu kuruluş bu aciliyetin yüksek olduğunu düşünecektir. AI/ML sistemlerini güvence altına almanın temel zorluğu, MLOps yaşam döngüsü boyunca risklerin anlaşılmasında yatmaktadır."
"Bu riskleri azaltmak için şirketlerin yapay zeka ve makine öğrenimi sistemleri için tehdit modellemesi yapması, maruz kalma pencerelerini belirlemesi ve entegre ve kapsamlı bir MLSecOps programı dahilinde uygun kontrolleri uygulaması gerekir" diye ekledi.
Report AI, raporunda bu sorunlara çözüm bulmanın aciliyetini vurguluyor güvenlik açıkları derhal ve üretimde etkilenen projeleri olan kullanıcılara bir öneri listesi sunarak potansiyel risklerin azaltılmasında proaktif bir duruşun öneminin altını çizer. Bu güvenlik açıklarını azaltma konusunda zorluklarla karşılaşan kullanıcıların, Koruma AI topluluğuna ulaşmaları teşvik edilmektedir.
AI teknolojisi ilerledikçe, Koruma AI, yapay zekanın faydalarından sorumlu ve güvenli bir şekilde yararlanılmasını sağlamak için karmaşık AI/ML sistemleri ağının güvenliğini sağlamaya çalışıyor.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTS. Sektördeki 3 yılı aşkın tecrübesiyle Kumar, ilgi çekici anlatılar oluşturma, aydınlatıcı röportajlar yürütme ve kapsamlı bilgiler sunma konusunda kanıtlanmış bir performansa sahiptir. Kumar'ın uzmanlığı, önde gelen endüstri platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerik üretmede yatmaktadır. Teknik bilgi ile hikaye anlatıcılığını birleştiren benzersiz beceri seti ile Kumar, karmaşık teknolojik kavramları farklı hedef kitlelere açık ve ilgi çekici bir şekilde aktarma konusunda uzmandır.
Daha fazla haber
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTS. Sektördeki 3 yılı aşkın tecrübesiyle Kumar, ilgi çekici anlatılar oluşturma, aydınlatıcı röportajlar yürütme ve kapsamlı bilgiler sunma konusunda kanıtlanmış bir performansa sahiptir. Kumar'ın uzmanlığı, önde gelen endüstri platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerik üretmede yatmaktadır. Teknik bilgi ile hikaye anlatıcılığını birleştiren benzersiz beceri seti ile Kumar, karmaşık teknolojik kavramları farklı hedef kitlelere açık ve ilgi çekici bir şekilde aktarma konusunda uzmandır.
