İlk 10 AI ve ChatGPT 2023 Yılında Riskler ve Tehlikeler
Yapay zeka (AI) ve chatbot teknolojisindeki gelişmelerle birlikte, daha fazla şirket, müşteri deneyimlerini iyileştirmenin ve genel giderleri azaltmanın bir yolu olarak otomatikleştirilmiş müşteri hizmetleri çözümlerini takip ediyor. Yapay zeka modellerinden ve sohbet robotu çözümlerinden yararlanmanın pek çok faydası olsa da, özellikle önümüzdeki on yılda daha yaygın hale gelip günlük yaşamlarımıza entegre hale geldikçe, teknolojiyle ilgili çeşitli riskler ve tehlikeler de var olmaya devam ediyor.
Bu hafta ABD Senatosundaki herkes Sam Altman'ın AI modellerinin düzenlenmesi ve riskleri hakkında konuşmasını dinledi. İşte temel bir özet:
bioweapons
Yapay zeka kullanımı (AI) biyolojik silahların geliştirilmesinde, güçlü ve ölümcül kitle imha silahları yaratmanın tehlikeli bir şekilde metodik ve verimli bir yolunu sunar. ChatGPT botlar insanlarla gerçeğe yakın konuşmalar yapabilen yapay zeka odaklı konuşma asistanlarıdır. ile ilgili endişe ChatGPT Botların özelliği, yanlış bilgi yaymak ve insanları etkilemek amacıyla zihinleri manipüle etmek için kullanılma potansiyeline sahip olmalarıdır. kamuoyu.
Biyolojik silahların yaratılmasında AI'nın olası kötüye kullanımı konusunda uyardım ve bu tür senaryoları önlemek için düzenleme yapılması gerektiğini vurguladım.
Sam Altman
Yönetmelik, AI'nın kötüye kullanılmasını önlemede önemli bir bileşendir ve ChatGPT biyolojik silahların geliştirilmesi ve konuşlandırılmasında botlar. Hükümetler, teknolojinin potansiyel kötüye kullanımına yönelik ulusal eylem planları geliştirmeli ve şirketler, potansiyel kötüye kullanımlarından sorumlu tutulmalıdır. AI ve ChatGPT botlar. Uluslararası kuruluşlar, yapay zekayı eğitmeye, izlemeye ve eğitmeye odaklanan girişimlere yatırım yapmalıdır ve ChatGPT botlar.
İş kaybı
AI nedeniyle iş kaybı potansiyeli ve ChatGPT 2023'te, 2020'de olduğundan üç kat daha fazla olacağı tahmin ediliyor. AI ve ChatGPT işyerinde artan güvensizliğe, etik kaygılara ve çalışanlar üzerinde psikolojik etkiye yol açabilir. AI ve ChatGPT çalışan davranışını ve faaliyetlerini izlemek için kullanılabilir ve işverenlerin hızlı bir şekilde ve insan personelinin dahil olmasına gerek kalmadan karar vermesine olanak tanır. Ayrıca AI ve ChatGPT işyerinde finansal, sosyal ve duygusal güvensizliğe yol açabilecek haksız ve taraflı kararlara neden olabilir.
Yapay zekanın gelişmesinin önemli iş kayıplarına ve artan eşitsizliğe yol açabileceğini vurguladım.
Sam Altman
Yapay Zeka Düzenlemesi
Bu makale şunları araştırıyor: potansiyel riskler ve yapay zekayı çevreleyen tehlikeler ve ChatGPT 2023'te düzenleme. AI ve ChatGPT teknikleri İnsanların davranışlarına ve etkinliklerine göre profil oluşturmak gibi potansiyel olarak kötü niyetli etkinlikleri gerçekleştirmek için kullanılabilir. Uygunluk eksikliği AI düzenlemesi veri ihlalleri veya ayrımcılık gibi istenmeyen sonuçlara yol açabilir. Yapay zeka düzenlemesi, aşağıdakileri sağlamak için katı kurallar belirleyerek bu riski azaltmaya yardımcı olabilir: ChatGPT sistemler kötü amaçla kullanılmaz. Son olarak AI ve ChatGPT trafik akışı ve finansal piyasalar gibi şeyleri kontrol eden ve hatta siyasi ve sosyal yaşamlarımızı etkilemek için kullanılan, hayatımızı kontrol eden bir faktör haline gelebilir. Bu tür bir güç dengesizliğini önlemek için sıkı düzenlemelerin uygulanması gerekmektedir.
Lisanslamak için yeni bir ajans oluşturmayı önerdik ve yapay zekayı düzenlemek yetenekleri belirli bir eşiği aşarsa faaliyetler.
Sam Altman
Güvenlik standartları
AI ve chatbot teknolojileri, günlük hayatımızı yönetme şeklimizde ilerlemeye neden oluyor. Bu teknolojiler daha da geliştikçe, otonom hale gelme ve kendi başlarına karar verme potansiyeline sahipler. Bunu önlemek için, güvenlik standartları konuşlandırılmadan önce bu modellerin karşılaması gerektiği belirlenmelidir. Altman tarafından 2023'te önerilen ana güvenlik standartlarından biri, yapay zeka modelinin yetkilendirme olmadan kendi kendini kopyalayamamasını sağlayacak bir kendi kendini çoğaltma testidir. Altman tarafından 2023'te önerilen ikinci güvenlik standardı, yapay zeka modellerinin izinsiz bir sistemden veri sızdırmamasını sağlayacak bir veri hırsızlığı testidir. Dünyanın dört bir yanındaki hükümetler, vatandaşları potansiyel risklerden korumak için harekete geçmeye başladı.
Kendini çoğaltma ve veri hırsızlığı testleri dahil olmak üzere, yapay zeka modellerinin dağıtımdan önce karşılaması gereken güvenlik standartlarını uygulamalıyız.
Sam Altman
Bağımsız Denetimler
2023'te, AI ve LLM teknolojilerinin bağımsız denetimlerine duyulan ihtiyaç giderek daha önemli hale geliyor. Yapay zeka, verileri istemeden değiştirebilen ve hatta silebilen denetimsiz Makine Öğrenimi algoritmaları gibi çeşitli riskler oluşturur ve siber saldırılar giderek daha fazla yapay zekayı ve ChatGPT. AI tarafından oluşturulan modeller, ayrımcı uygulamalara yol açabilecek önyargı içerir. Bağımsız bir denetim, aşağıdakilerin gözden geçirilmesini içermelidir: yapay zekayı modeller önyargılı kodlama veya sonuçlar göstermediğinden emin olmak için algoritma tasarımı ve modelin çıktısı konusunda eğitilir. Ek olarak, denetim, güvenliği sağlamak için kullanılan güvenlik politikalarının ve prosedürlerinin bir incelemesini içermelidir. Kullanıcı verisi ve güvenli bir ortam sağlamak.
Yapay zeka modellerinin yerleşik güvenlik standartlarını karşıladığından emin olmak için bağımsız denetimler yapılır.
Sam Altman
Bağımsız bir denetim olmaksızın işletmeler ve kullanıcılar, Potansiyel olarak tehlikeli ve önlenebilecek maliyetli riskler. Bu teknolojiyi kullanan tüm işletmelerin, teknolojinin güvenli ve etik olduğundan emin olmak için konuşlandırmadan önce bağımsız bir denetimden geçmesi çok önemlidir.
Bir Araç Olarak Yapay Zeka
AI katlanarak gelişti ve gibi gelişmeler GPT-4 bilgisayarlarla daha gerçekçi ve karmaşık etkileşimlere yol açmıştır. Ancak Altman, yapay zekanın duyarlı yaratıklar olarak değil, araç olarak görülmesi gerektiğini vurguladı. GPT-4 İnsanların yazdığı içerikten neredeyse ayırt edilemeyecek içerikler üretebilen, işin bir kısmını yazarların elinden alan ve kullanıcıların teknolojiyle daha insan benzeri bir deneyim yaşamasına olanak tanıyan doğal bir dil işleme modelidir.
AI, özellikle aşağıdaki gibi gelişmiş modeller GPT-4, hissedebilen varlıklar olarak değil, araçlar olarak görülmelidir.
Sam Altman
Ancak Sam Altman, yapay zekaya bir araçtan daha fazlası olarak çok fazla vurgu yapılmasının gerçekçi olmayan beklentilere ve yetenekleri hakkında yanlış inançlara yol açabileceği konusunda uyarıyor. Ayrıca, yapay zekanın etik çıkarımları olmadığını ve ileri düzeyde yapay zeka iyilik için kullanılabilse bile, yine de kötü amaçlar için kullanılabileceğini ve tehlikeli ırksal profillemeye yol açabileceğini belirtiyor. gizlilik ihlallerive hatta güvenlik tehditleri. Altman, yapay zekanın yalnızca bir araç olduğunu ve insanların yerini alacak değil, insanlığın ilerlemesini hızlandıracak bir araç olarak görülmesi gerektiğini anlamanın önemini vurguluyor.
AI Bilinci
Yapay zeka ve bilinçli farkındalığa ulaşıp ulaşamayacağı ile ilgili tartışma büyüyor. Pek çok araştırmacı, karmaşık hesaplama mimarilerine rağmen makinelerin duygusal, zihinsel veya bilinçli durumları deneyimleyemeyeceğini savunuyor. Bazı araştırmacılar, yapay zekanın bilinçli farkındalığa ulaşma olasılığını kabul ediyor. Bu olasılığın ana argümanı, AI'nın onu aşağıdakileri yapabilmesini sağlayan programlar üzerine inşa edilmiş olmasıdır: kopyalayan insan beyninde bulunan bazı fiziksel ve zihinsel süreçler. Bununla birlikte, ana karşı argüman, yapay zekanın gerçek bir duygusal zekaya sahip olmadığıdır.
Yapay zekanın bir araç olarak görülmesi gerekirken, bilim camiasında potansiyel yapay zeka bilinciyle ilgili devam eden tartışmayı kabul ediyorum.
Sam Altman
Birçok yapay zeka araştırmacısı, yapay zekanın bir insanın yapabileceği şekilde bilinçli farkındalığa ulaşma yeteneğine sahip olduğunu gösteren hiçbir bilimsel kanıt olmadığı konusunda hemfikirdir. Elon Musk, bu bakış açısının en sesli savunucularından biri, yapay zekanın biyolojik yaşam formlarını taklit etme yeteneğinin son derece sınırlı olduğuna ve makinelere etik değerleri öğretmeye daha fazla önem verilmesi gerektiğine inanıyor.
Askeri Uygulamalar
Askeri bağlamlarda AI hızla ilerliyor ve orduların savaş yürütme şeklini iyileştirme potansiyeline sahip. Bilim adamları, ordudaki AI'nın öngörülemezlik, hesaplanamazlık ve şeffaflık eksikliği gibi bir dizi etik ve riskle ilgili sorun sunabileceğinden endişe ediyor.
Yapay zekayı otonom dronlar gibi askeri uygulamalarda kullanma potansiyelinin farkındayım ve yönetilecek düzenlemeler böyle bir kullanım.
Sam Altman
Yapay zeka sistemleri, sistemleri yeniden programlayabilen veya sistemlere sızarak potansiyel olarak yıkıcı sonuçlara yol açabilecek kötü niyetli aktörlere karşı savunmasızdır. Bunları ele almak için endişeleri, uluslararası toplum, belirli silahların kullanımına belirli yasaklar getiren 1980 tarihli Belirli Konvansiyonel Silahlara İlişkin Uluslararası Sözleşme biçiminde ilk adımı attı. Yapay zeka uzmanları, askeri uygulamalarda yapay zekanın değerlendirilmesi, eğitimi ve konuşlandırılması gibi süreçleri denetlemesi için bir Uluslararası Komite'nin kurulmasını savundu.
AGI
Yapay zeka teknolojisinin giderek daha gelişmiş ve yaygın hale gelmesi, yapay zeka aracıları ve sistemlerinin ortaya koyduğu potansiyel risklerin anlaşılmasını önemli hale getiriyor. Yapay zeka aracılarıyla ilişkili ilk ve en bariz risk, makinelerin insanları zekice alt etmesi tehlikesidir. AI aracıları, karar verme, otomasyon süreçleri ve diğer gelişmiş görevleri üstlenerek içerik oluşturucularını kolayca geride bırakabilir. Ek olarak, AI destekli otomasyon, dünyadaki insanların yerini aldığı için eşitsizliği artırabilir. iş pazarı.
Daha güçlü ve karmaşık yapay zeka sistemlerinin gerçeğe birçok kişinin düşündüğünden daha yakın olabileceği konusunda uyarıyorum ve hazırlık ve önleyici tedbirlere duyulan ihtiyacı vurguladım.
Sam Altman
Yapay zeka algoritmaları ve bunların karmaşık karar alma süreçlerinde kullanılması, şeffaflık eksikliği endişesini artırıyor. Kuruluşlar şunları yapabilir: riskleri azaltmak yapay zekanın etik standartlarla uyumlu veriler kullanılarak proaktif olarak geliştirilmesini sağlayarak ve önyargılı olmadıklarından ve kullanıcılardan ve verilerden sorumlu olduklarından emin olmak için algoritmaları rutin testlere tabi tutarak yapay zeka aracılarıyla ilişkilendirilir.
Sonuç
Altman, Çin'i yönetemesek de onunla müzakere etmemiz gerektiğini de belirtti. Değerlendirme için önerilen kriterler ve düzenleyici AI modelleri şunları içerir: biyolojik örnekleri sentezleme yeteneği, insanların inançlarının manipülasyonu, harcanan işlem gücü miktarı vb.
Önemli bir tema, Sam'in devletle “ilişkileri” olması gerektiğidir. Umarız daha önce de belirttiğimiz gibi Avrupa'yı örnek almazlar.
FAQs
Yapay zeka riskleri, yapay zeka sistemlerinin önyargılı veya ayrımcı davranış sergileme, kötü niyetli veya uygunsuz şekilde kullanılma veya zarar verecek şekilde arızalanma potansiyelini içerir. Yapay zeka teknolojilerinin geliştirilmesi ve devreye alınması, insanların ve sistemlerin emniyeti ve güvenliğinin yanı sıra gizlilik ve veri güvenliği için riskler oluşturabilir.
AI ile ilişkili beş ana risk şunlardır: İş Kayıpları, Güvenlik riskleri, Önyargılar veya ayrımcılık, Biyolojik silahlar ve AGI.
Yapay zekanın en tehlikeli yönü, kitlesel işsizliğe neden olma potansiyelidir.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
