OpenAI Super razvedka va sun'iy intellektning kelgusi o'n yillikda inson imkoniyatlaridan oshib ketishi haqida ogohlantirmoqda
Qisqacha
OpenAI sun'iy intellektning jadal rivojlanishini hisobga olgan holda boshqaruv zarurligini ta'kidlab, super razvedkani tartibga solishga chaqiradi.
AI tizimlari inson tajribasidan oshib ketishi prognoz qilinmoqda va o'n yil ichida korporativ mahsuldorlik, ga ko'ra OpenAI.
OpenAI kuchli AI tizimlari uchun jamoatchilik nazorati va demokratik nazorat muhimligini ta'kidlaydi.
OpenAI, yaratuvchisi ChatGPT, uchun o'ylantiruvchi chaqiriq qildi tartibga solish Atom energetikasini tartibga solish bilan parallel ravishda o'ta razvedka. Yaqinda blog post, OpenAI sun'iy intellektning jadal rivojlanishining mumkin bo'lgan oqibatlarini ta'kidladi va bu rivojlanayotgan landshaftda boshqaruvning dolzarb zarurligini ta'kidladi. Kompaniyaning ta'kidlashicha, AI tizimlari o'n yil ichida mahsuldorlik va ko'nikmalar bo'yicha mutaxassislar va eng yirik korporatsiyalarni ortda qoldiradi.
"Biz bugungi sun'iy intellekt texnologiyasi xavfini ham kamaytirishimiz kerak, ammo super razvedka alohida davolash va muvofiqlashtirishni talab qiladi", - deydi Sam Altman, Greg Brokman va Ilya Sutskever. OpenAI ta'kidladi.
Superintellekt insonning umumiy aql-zakovatidan yoki razvedkaning ba'zi o'ziga xos jihatlaridan ustun bo'lgan shaxsni tavsiflaydi. Mualliflarning fikricha, sun'iy intellektning o'ta intellekti ham ijobiy, ham salbiy tomonlarini o'z ichiga olgan mislsiz darajadagi kuchga ega bo'ladi.
Muqarrar super razvedkaning rivojlanishi va xavflari
OpenAI superintellektning muvaffaqiyatli rivojlanishida hal qiluvchi rol o'ynaydigan uchta muhim g'oyani aniqladi. Rivojlanish boʻyicha yetakchi saʼy-harakatlarni muvofiqlashtirish, Atom energiyasi boʻyicha xalqaro agentlikka (MAGATE) oʻxshash xalqaro hokimiyatni tashkil etish va xavfsizlik uchun texnik imkoniyatlarni rivojlantirish shular jumlasidandir.
paytda OpenAI AI tizimlari xavf-xatarlar bilan kelishini tan oladi, bu xavflar internet bilan bog'liq boshqa texnologiyalar bilan bog'liq bo'lganlar bilan solishtirish mumkin. Altman, Brokman va Sutskever ham jamiyatning ushbu xavflarni boshqarish bo'yicha hozirgi yondashuvlari mos ekanligiga ishonch bildirishmoqda. Biroq, asosiy tashvish - misli ko'rilmagan kuchga ega bo'lgan kelajakdagi tizimlar.
"Aksincha, bizni xavotirga solayotgan tizimlar hali yaratilgan har qanday texnologiyadan tashqari kuchga ega bo'ladi va biz shunga o'xshash standartlarni ushbu chiziqdan ancha pastroq texnologiyaga qo'llash orqali ularga e'tiborni yo'qotmaslikdan ehtiyot bo'lishimiz kerak", deyiladi blog postida.
Mualliflarning ta'kidlashicha, kuchli AI tizimlari jamoatchilik nazorati va demokratik nazoratga muhtoj. Shuningdek, ular ushbu texnologiyani nima uchun qurayotganliklarini tushuntiradilar OpenAI: yaxshiroq dunyo yaratish va uni to'xtatish xavfidan qochish. AI turli sohalarda, jumladan, ta'lim, ijodkorlik va samaradorlik, shuningdek, umumiy iqtisodiy o'sishda yordam beradi.
OpenAI qiyin va xavfli deb hisoblaydi super intellektni to'xtating yaratilganidan. Superintelligence katta afzalliklarga ega, har yili arzonlashadi, ko'proq odamlar u ustida ishlamoqda va bu kompaniyaning texnologiya yo'lining bir qismidir.
Ilman Shajaev, AI bo'yicha techpreneur va hammuassisi Farcana laboratoriyalari, yangilikka oid bir nechta fikrlari bilan o'rtoqlashdi. Prognozlar shuni ko'rsatadiki, agar to'g'ri boshqarilmasa, superintellekt insoniyatning barcha davrlardagi eng halokatli ixtirolaridan biri bo'lishi mumkin. Biroq, texnologiyani qo'llash bo'yicha suhbatlar hali ham ishlab chiqilmaganligi sababli, bo'linish bo'lib qolmoqda. Bashorat qilish qo'rquvi asosida rivojlanishni to'xtatishga intilish insoniyatni yangi texnologiya mavjud bo'lishi mumkin bo'lgan imkoniyatlardan mahrum qilishi mumkin.
"OpenAIMarkazlashtirilmagan boshqaruv yondashuvi uning keng xavfsizligini ta'minlashga yordam beradi. To'g'ri qoidalarga rioya qilgan holda, dastur bu holatda o'chirilishi mumkin tahdid soladi. Agar ushbu kafolatlar mavjud bo'lsa, Superintelligence o'rganishga arziydigan yangilik bo'lishi mumkin», - dedi Shajaev.
AI super razvedkasi va taklif qilingan tartibga solish choralari haqidagi fikrlarini ochiq muhokama qilib, OpenAI bilimli munozaralarga yordam beradi va turli istiqbollarni taklif qiladi.
Sem Altman qattiq ishonadi AIning ommaga keng tarqalishida. U barcha muammolarni oldindan aytib bo'lmasligini tan olib, muammolarni imkon qadar tezroq hal qilish tarafdori. Biroq, Altman, shuningdek, tizimlar uchun mustaqil auditlarning muhimligini ta'kidlaydi ChatGPT ozod qilishdan oldin. Bundan tashqari, u yangi model yaratish sur'atlarini cheklash yoki qo'mitani tashkil etish kabi chora-tadbirlarni amalga oshirish imkoniyatini tan oladi. AI modellarining xavfsizligini baholash bozorga chiqarilishidan oldin. Shunisi e'tiborga loyiqki, Altman har 18 oyda koinotdagi aql miqdori ikki baravar ko'payishini bashorat qilmoqda.
Ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Agne - bu metaverse, AI va eng so'nggi tendentsiyalari va ishlanmalarini yorituvchi jurnalist Web3 uchun sanoatlar Metaverse Post. Uning hikoya qilishga bo'lgan ishtiyoqi uni har doim hayajonli va qiziqarli voqealarni ochishga intilib, ushbu sohadagi mutaxassislar bilan ko'plab intervyular o'tkazishga undadi. Agne adabiyot bo'yicha bakalavr darajasiga ega va sayohat, san'at va madaniyat kabi keng ko'lamli mavzular haqida yozishda keng ma'lumotga ega. U, shuningdek, hayvonlar huquqlarini himoya qilish tashkilotining muharriri sifatida ko'ngilli bo'lib, u erda hayvonlar farovonligi muammolari haqida xabardorlikni oshirishga yordam berdi. U bilan bog'laning [elektron pochta bilan himoyalangan].
Boshqa maqolalar
Agne - bu metaverse, AI va eng so'nggi tendentsiyalari va ishlanmalarini yorituvchi jurnalist Web3 uchun sanoatlar Metaverse Post. Uning hikoya qilishga bo'lgan ishtiyoqi uni har doim hayajonli va qiziqarli voqealarni ochishga intilib, ushbu sohadagi mutaxassislar bilan ko'plab intervyular o'tkazishga undadi. Agne adabiyot bo'yicha bakalavr darajasiga ega va sayohat, san'at va madaniyat kabi keng ko'lamli mavzular haqida yozishda keng ma'lumotga ega. U, shuningdek, hayvonlar huquqlarini himoya qilish tashkilotining muharriri sifatida ko'ngilli bo'lib, u erda hayvonlar farovonligi muammolari haqida xabardorlikni oshirishga yordam berdi. U bilan bog'laning [elektron pochta bilan himoyalangan].
