OpenAI Söylentilere Göre Bilgisayar Korsanlarını Etkisiz Hale Getirmek İçin Jailbreak GAN Geliştiriyor
Kısaca
OpenAI çok adımlı bir yöntemle "hızlı bilgisayar korsanlarına" karşı koruma sağlamak için yapay zeka tabanlı yeni bir sistem geliştiriyor jailbreak stratejisi.
Jailbreak GAN, tehditleri ciddi bir sorun haline gelmeden tespit etme ve bunlara karşı koyma potansiyeline sahiptir ve etkili güvenlik sistemleri oluşturmak için kullanılabilir.
OpenAI veri güvenliği dünyasında devrim yaratacak yeni bir projeye imza atıyor. Araştırma ve geliştirme şirketi, çeşitli çevrimiçi sistemlerin zayıflıklarından yararlanmak için veri madenciliği ve diğer yöntemleri kullanan "hızlı bilgisayar korsanlarına" (bilgisayar korsanlarına) karşı koruma sağlamak için yeni bir yapay zeka tabanlı sistem geliştiriyor. ChatGPT. "Jailbreak GAN" olarak adlandırılan sistem, potansiyel saldırılara karşı yeni karşı önlemler oluşturmak için üretken bir düşman ağı (GAN) kullanıyor.
GAN'lar, iki ağı karşı karşıya getiren bir tür yapay zeka tekniğidir: "ayrımcının" tanımlamaya çalıştığı verileri oluşturan bir "jeneratör". Bu yarışma sayesinde GAN'lar, çok çeşitli fenomenleri incelemek için kullanılabilecek inanılmaz derecede karmaşık ortamları simüle edebilir.
Jailbreak GAN durumunda, ayrımcı bilgisayar korsanlığı girişimlerini tespit etmek ve karşı önlemleri başlatmak için çeşitli teknikler kullanır. Jeneratör, kurnazlığa karşı çeşitli karşı önlemler geliştirmek için bir dizi farklı veri seti, sohbet, veri tabanı ve bulut günlükleri üzerinde eğitim alır. potansiyel bilgi istemi hacker.
Ekip en OpenAI çok adımlı bir yöntemle anında hackleme zorluğunu aşmaya çalışıyor jailbreak stratejisi. Bu yaklaşım, potansiyel güvenlik açıklarını belirlemek ve proaktif çözümler geliştirmek için doğal dil işleme, makine öğrenimi algoritmaları ve takviyeli öğrenme tekniklerinin bir kombinasyonunu kullanır. GAN bileşeni, karşı önlemleri değerlendirmekten ve bunları her yeni saldırıyla sürekli olarak güncellemekten sorumludur.
Jailbreak GAN, var olan ve gelecekteki tehditleri tehlikeli hale gelmeden tespit etme potansiyeline sahiptir. ciddi sorunlar. Teknoloji olgunlaştıkça, antivirüs veya diğer koruma yazılımlarına benzer şekilde çevrimiçi sistemlerde etkili güvenlik sistemlerinin temelini oluşturmak için kullanılabilir.
Ekip, sistemin belirli hackleme girişimlerini tespit etme ve bunlara karşı koyma yeteneğini başarıyla test ettiğini henüz açıklamadı ve şu anda onu vahşi ortamda dağıtmanın yollarını araştırıyor. olup olmadığı da bilinmiyor OpenAI jailbreak GAN sistemini güvenli bir ortamda dağıtmak için güvenlik firmaları ve kurumsal ortaklarla işbirliği yapıyor.
Son zamanlarda, Hong Kong Bilim ve Teknoloji Üniversitesi'nden araştırmacılar bir makale yayınladılar, “Çok Adımlı Jailbreaking Gizlilik Saldırıları ChatGPTolası tüm saldırıları sistematik olarak tanımladıkları. Ve bu sadece bir banal değil DAN modu ama aynı zamanda bir geliştirici modu: bir akıl yürütme zinciri yoluyla bir model çıkarmanın yolları, vb.
- İki ay önce, Reddit kullanıcıları paylaşılan jailbreak istemleri kilidi açmak için ChatGPT Geliştirici Modu ve %100 tamamen etkinleştirilmesi featured filtreden kaçınma.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
