OpenAI: AI Potansiyel Olarak İnsanlara Çok Fazla Zarar Verebilir, Ancak İlerlemeyi Durdurmaya Çalışmak Bir Seçenek Değil
Kısaca
OpenAI'nin "AGI ve Ötesi için Planlama" belgesi, daha karmaşık ve "akıllı" modellerin kademeli ve yavaş bir şekilde tanıtılmasını, büyük sistemlerin bağımsız denetimlerinin organize edilmesini ve bilgi işlem kaynaklarının sınırlandırılmasını önermektedir.
OpenAI Yapay zekanın herkese eşit şekilde açık olmasını ve daha tutarlı ve yönetilebilir modeller ön yargıyı ve istenmeyen davranışları azaltmak için.
OpenAI yakın zamanda “AGI ve Ötesi için Planlama” başlıklı bir belge yayınladı. Dünya AGI'nin (yapay genel zeka) geliştirilmesine yaklaştıkça şirketin eylemlerine rehberlik eden genel fikirlerin ana hatlarını çiziyor.
OpenAI Yapay zekanın insanlara ciddi zarar verme potansiyeli olmasına rağmen ilerlemeyi durdurmaya çalışmanın bir seçenek olmadığına inanıyor. Sonuç olarak, bu iyileşmenin önemli ölçüde bozulmaması için nasıl sürdürüleceğini öğrenmeliyiz.
Belge bulunabilir okuyun. Ondan birkaç önemli unsuru vurgulayalım:
- OpenAI AGI'nin insanların hem ekonomik hem de bilimsel olarak hayatlarının her alanında başarılı olmalarına yardımcı olmasını istiyor.
Süper havalı büyük yapay zeka yaratıp onu hemen dünyaya sunmak yerine, OpenAI yavaş yavaş daha karmaşık ve “akıllı” modelleri tanıtacak. Varsayım, kademeli olarak artan yapay zeka yeteneklerinin dünyayı şok etmeyeceği, insanlara uyum sağlamaları, ekonomiyi uyarlamaları ve yapay zeka ile etkileşime geçmek için prosedürler oluşturmaları için zaman tanıyacağı yönünde. - OpenAI tüm kuruluşları yukarıda belirtilen prensibi resmi olarak benimsemeye (yavaş yavaş güçlü yapay zekayı kullanıma sunmaya) davet eder. Altman ayrıca modelleri eğitmek için kullanılabilecek bilgi işlem kaynaklarının miktarının sınırlandırılmasını ve büyük sistemlerin genel kullanıma sunulmadan önce tarafsız denetimlerinin yapılmasını tavsiye ediyor. "Daha havalı ve daha büyük bir modeli ilk kim piyasaya sürecek?" gibi yarışmalara katılmak yerine. OpenAI işletmelerden şunu talep eder: birlikte çalışmak yapay zekanın güvenliğini artırmak için.
- OpenAI belirli bir ölçeği aşan eğitim çalışmaları hakkında hükümetlerin bilgilendirilmesinin kritik olduğuna inanıyor. Bu ilgi çekici bir kavram ve bu konu hakkında daha fazla bilgi edinmek istiyoruz. ağladım OpenAI bu konuda sahiptir. Bu teklif ilk başta bana o kadar da harika gelmiyor.
- OpenAI Daha güvenilir ve kontrol edilebilir, büyük olasılıkla yapay zekadaki önyargıyı ve olumsuz davranışları sınırlayacak modeller geliştirmeye çalışacağız. Tarafından benimsenen yaklaşım OpenAI Bu durumda amaç, modeli oldukça kısıtlı bir biçimde genel kamuoyunun kullanımına sunmak ve aynı zamanda kullanıcılara onu kişiselleştirme seçeneği sunmaktır. Tüketiciler burada hiçbir şeyi "kişiselleştiremeyecekleri" için bunun modelin bir bütün olarak daha az önyargılı olmasına nasıl yardımcı olacağından emin değilim. Firmayı modelin eylemlerine ilişkin sorumluluktan kurtarmadığı sürece.
Genel olarak, belge doğru yolu işaret ediyor. Ancak “havalı modelleri hemen halka göstermeyeceğiz ama devletlerle konuşacağız” arasında küçük bir çelişki yaşandı. “insanlar bilmeli Yapay zekanın ilerleyişi hakkında.” Kısacası detaylı açıklamaları bekleyeceğiz. OpenAI tüm konularda.
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
