Top 10 AI va ChatGPT 2023 yildagi xavf va xavf
Sun'iy intellekt (AI) va chatbot texnologiyasi yutuqlari bilan ko'proq kompaniyalar mijozlar tajribasini yaxshilash va qo'shimcha xarajatlarni kamaytirish vositasi sifatida mijozlarga xizmat ko'rsatishning avtomatlashtirilgan echimlarini izlamoqda. Sun'iy intellekt modellari va chatbot yechimlaridan foydalanishning ko'plab afzalliklari mavjud bo'lsa-da, texnologiya bilan bog'liq turli xil xavf va xavflar saqlanib qolmoqda, ayniqsa ular kelgusi o'n yil ichida kundalik hayotimizga yanada kengroq kirib boradi.
Bu hafta AQSh Senatida hamma Sem Altmanning sun'iy intellekt modellarini tartibga solish va xavflari haqida gapirganini tingladi. Bu erda asosiy xulosa:
Bioqurollar
Sun'iy intellektdan foydalanish (AI) bioqurollarni ishlab chiqishda kuchli va halokatli ommaviy qirg'in qurollarini yaratishning xavfli uslubiy va samarali usulini taqdim etadi. ChatGPT bots - bu sun'iy intellektga asoslangan suhbatdoshlar bo'lib, ular odamlar bilan jonli suhbatlar o'tkazishga qodir. Bilan tashvish ChatGPT Botlar yolg'on ma'lumotlarni tarqatish va ta'sir qilish uchun ongni manipulyatsiya qilish uchun foydalanish potentsialiga ega. jamoatchilik fikri.
Men biologik qurollarni yaratishda sun'iy intellektdan noto'g'ri foydalanish mumkinligi haqida ogohlantirdim va bunday stsenariylarning oldini olish uchun tartibga solish zarurligini ta'kidladim.
Sem Altman
Tartibga solish AI dan noto'g'ri foydalanishni oldini olishning asosiy komponentidir va ChatGPT bioqurollarni ishlab chiqish va joylashtirishda botlar. Hukumatlar texnologiyadan potentsial noto'g'ri foydalanishni bartaraf etish bo'yicha milliy harakatlar rejalarini ishlab chiqishlari kerak va kompaniyalar o'z imkoniyatlaridan noto'g'ri foydalanish uchun javobgar bo'lishlari kerak. AI va ChatGPT bots. Xalqaro tashkilotlar AIni o'qitish, monitoring qilish va o'qitishga qaratilgan tashabbuslarga sarmoya kiritishi va ChatGPT botlar
Ishni yo'qotish
AI tufayli ishni yo'qotish ehtimoli va ChatGPT 2023 yilda 2020 yilga nisbatan uch barobar ko'p bo'lishi prognoz qilinmoqda. AI va ChatGPT ish joyidagi ishonchsizlikning kuchayishiga, axloqiy mulohazalar va ishchilarga psixologik ta'sir ko'rsatishiga olib kelishi mumkin. AI va ChatGPT xodimlarning xatti-harakati va faoliyatini nazorat qilish uchun ishlatilishi mumkin, bu esa ish beruvchilarga tez va insoniy xodimlarni jalb qilmasdan qaror qabul qilish imkonini beradi. Bundan tashqari, AI va ChatGPT ish joyida moliyaviy, ijtimoiy va hissiy ishonchsizlikka olib kelishi mumkin bo'lgan adolatsiz va noxolis qarorlarni keltirib chiqarishi mumkin.
Men sun'iy intellektning rivojlanishi ish o'rinlarining sezilarli darajada yo'qolishiga va tengsizlikning kuchayishiga olib kelishi mumkinligini ta'kidladim.
Sem Altman
AI reglamenti
Ushbu maqola o'rganadi mumkin bo'lgan xatarlar va AI atrofidagi xavflar va ChatGPT 2023 yilda tartibga solish. AI va ChatGPT texnikasi potentsial zararli harakatlarni amalga oshirish uchun ishlatilishi mumkin, masalan, odamlarning xatti-harakatlari va faoliyati asosida profil yaratish. To'g'ri yo'qligi AI tartibga solish ma'lumotlarning buzilishi yoki kamsitish kabi kutilmagan oqibatlarga olib kelishi mumkin. AIni tartibga solish qat'iy ko'rsatmalarni belgilash orqali ushbu xavfni kamaytirishga yordam beradi ChatGPT tizimlari zararli maqsadlarda foydalanilmaydi. Nihoyat, AI va ChatGPT hayotimizda nazorat qiluvchi omilga aylanishi, transport oqimi va moliyaviy bozorlar kabi narsalarni nazorat qilish va hatto siyosiy va ijtimoiy hayotimizga ta'sir qilish uchun ishlatilishi mumkin. Bunday quvvat nomutanosibligini oldini olish uchun qat'iy qoidalarni amalga oshirish kerak.
Biz litsenziyalash uchun yangi agentlik yaratishni taklif qildik va AIni tartibga solish agar ularning imkoniyatlari ma'lum chegaradan oshsa, faoliyat.
Sem Altman
Xavfsizlik standartlari
AI va chatbot texnologiyalari bizning kundalik hayotimizni boshqarishda muvaffaqiyatga olib keladi. Ushbu texnologiyalar yanada rivojlangani sayin, ular avtonom bo'lib, mustaqil qaror qabul qilish imkoniyatiga ega. Buning oldini olish uchun, xavfsizlik standartlari Bu modellar joylashtirilishidan oldin mos kelishi kerakligi aniqlanishi kerak. 2023 yilda Altman tomonidan taklif qilingan asosiy xavfsizlik standartlaridan biri bu o'z-o'zini takrorlash uchun sinov bo'lib, u AI modeli avtorizatsiyasiz o'zini o'zi takrorlay olmasligini ta'minlaydi. 2023-yilda Altman tomonidan taklif qilingan ikkinchi xavfsizlik standarti bu maʼlumotlarni eksfiltratsiya qilish uchun sinov boʻlib, u AI modellari ruxsatsiz tizimdan maʼlumotlarni oʻtkaza olmasligini taʼminlaydi. Dunyo bo'ylab hukumatlar fuqarolarni ehtimoliy xavflardan himoya qilish uchun harakat qila boshladilar.
Biz sunʼiy intellekt modellari oʻrnatishdan oldin javob berishi kerak boʻlgan xavfsizlik standartlarini, jumladan, oʻz-oʻzini koʻpaytirish va maʼlumotlarni eksfiltratsiya qilish uchun sinovlarni amalga oshirishimiz kerak.
Sem Altman
Mustaqil audit
2023 yilda AI va LLM texnologiyalarining mustaqil auditini o'tkazish zarurati tobora muhim ahamiyat kasb etmoqda. AI turli xil xavflarni keltirib chiqaradi, masalan, nazoratsiz Mashinalarni o'rganish algoritmlari ma'lumotlarni ixtiyoriy ravishda o'zgartirishi va hatto yo'q qilishi mumkin va kiberhujumlar tobora ko'proq AI va AIga qaratilgan. ChatGPT. AI tomonidan yaratilgan modellar kamsituvchi amaliyotlarga olib kelishi mumkin bo'lgan tarafkashlikni o'z ichiga oladi. Mustaqil audit tekshirishni o'z ichiga olishi kerak AIni modellashtiradi noxolis kodlash yoki natijalarni ko'rsatmasligiga ishonch hosil qilish uchun modelning algoritm dizayni va chiqishi bo'yicha o'qitiladi. Bundan tashqari, audit himoya qilish uchun foydalaniladigan xavfsizlik siyosati va protseduralarini ko'rib chiqishni o'z ichiga olishi kerak foydalanuvchi ma'lumotlari va xavfsiz muhitni ta'minlash.
AI modellarining belgilangan xavfsizlik standartlariga javob berishini ta'minlash uchun mustaqil auditlar o'tkaziladi.
Sem Altman
Mustaqil auditsiz, korxonalar va foydalanuvchilar ta'sir ko'rsatadi potentsial xavfli va oldini olish mumkin bo'lgan qimmat xavflar. Ushbu texnologiyadan foydalanadigan barcha korxonalar texnologiya xavfsiz va axloqiy ekanligini ta'minlash uchun joylashtirishdan oldin mustaqil auditdan o'tishlari juda muhimdir.
AI vosita sifatida
AI eksponent tarzda rivojlandi va kabi yutuqlar GPT-4 kompyuterlar bilan yanada real va murakkab o'zaro aloqalarga olib keldi. Biroq, Altman AIni sezgir mavjudotlar emas, balki vosita sifatida ko'rish kerakligini ta'kidladi. GPT-4 bu tilni qayta ishlashning tabiiy modeli boʻlib, u inson tomonidan yozilgan kontentdan deyarli farqlanmaydigan tarkibni yaratishi mumkin boʻlib, ishning bir qismini yozuvchilardan tortib oladi va foydalanuvchilarga texnologiya bilan koʻproq insoniy tajribaga ega boʻlish imkonini beradi.
AI, ayniqsa ilg'or modellar kabi GPT-4, ongli mavjudotlar emas, balki vositalar sifatida ko'rish kerak.
Sem Altman
Biroq, Sem Altman ogohlantiradiki, sun'iy intellektga vosita sifatidan ko'ra ko'proq e'tibor berish uning imkoniyatlariga nisbatan haqiqiy bo'lmagan umidlar va yolg'on e'tiqodlarga olib kelishi mumkin. U shuningdek, sun'iy intellektning axloqiy ta'siridan xoli emasligini va AIning ilg'or darajalari yaxshilik uchun ishlatilishi mumkin bo'lsa ham, u yomon maqsadlarda ishlatilishi mumkin, bu esa xavfli irqiy profilga olib kelishi mumkinligini ta'kidlaydi. maxfiylik buzilishi, va hatto xavfsizlik tahdidlari. Altman AI faqat vosita ekanligini tushunish muhimligini ta'kidlaydi va uni odamlarning o'rnini bosadigan emas, balki insoniyat taraqqiyotini tezlashtiradigan vosita sifatida ko'rish kerak.
AI ongi
AI va u ongli ravishda xabardorlikka erisha oladimi yoki yo'qmi haqidagi munozaralar kuchayib bormoqda. Ko'pgina tadqiqotchilar, murakkab hisoblash arxitekturasiga qaramay, mashinalar hissiy, aqliy yoki ongli holatlarni boshdan kechirishga qodir emasligini ta'kidlamoqda. Ba'zi tadqiqotchilar AI ongli ravishda xabardorlikka erishish imkoniyatini qabul qilishadi. Bu imkoniyat uchun asosiy dalil shundaki, sun'iy intellekt uni qobiliyatli qiladigan dasturlarga asoslangan takrorlash inson miyasida topilgan ma'lum jismoniy va ruhiy jarayonlar. Biroq, asosiy qarshi dalil shundaki, AI hech qanday haqiqiy hissiy intellektga ega emas.
AIni vosita sifatida ko'rish kerak bo'lsa-da, men potentsial AI ongi bo'yicha ilmiy hamjamiyatda davom etayotgan munozaralarni tan olaman.
Sem Altman
Ko'pgina sun'iy intellekt tadqiqotchilari, sun'iy intellekt inson kabi ongli ongga erishishga qodirligini tasdiqlovchi ilmiy dalil yo'qligiga rozi. Elon MuskUshbu nuqtai nazarning eng faol tarafdorlaridan biri, AIning biologik hayot shakllarini taqlid qilish qobiliyati juda cheklangan va mashinalarga axloqiy qadriyatlarni o'rgatishga ko'proq e'tibor qaratish kerak, deb hisoblaydi.
Harbiy dasturlar
Harbiy kontekstda sun'iy intellekt jadal rivojlanmoqda va harbiylarning urush olib borish usullarini yaxshilash potentsialiga ega. Olimlar armiyada sun'iy intellekt oldindan aytib bo'lmaydiganlik, hisoblab bo'lmaydiganlik va shaffoflik yo'qligi kabi bir qator axloqiy va xavf bilan bog'liq muammolarni keltirib chiqarishi mumkinligidan xavotirda.
Men avtonom dronlar kabi harbiy dasturlarda sun'iy intellektdan foydalanish imkoniyatlarini tan olaman va buni talab qilaman tartibga soluvchi qoidalar bunday foydalanish.
Sem Altman
AI tizimlari zararli oqibatlarga olib keladigan tizimlarni qayta dasturlashi yoki tizimlarga kirib borishi mumkin bo'lgan zararli aktyorlarga nisbatan zaifdir. Bularni hal qilish uchun xavotirlar, xalqaro hamjamiyat o'zining 1980 yildagi Ba'zi oddiy qurollar to'g'risidagi xalqaro konventsiyasi shaklida birinchi qadamni qo'ydi, bu esa muayyan qurollardan foydalanishga ma'lum taqiqlarni qo'yadi. Sun'iy intellekt bo'yicha mutaxassislar harbiy qo'llanmalarda sun'iy intellektni baholash, o'qitish va qo'llash kabi jarayonlarni nazorat qilish uchun Xalqaro qo'mitani qo'llab-quvvatladilar.
AGI
AI texnologiyasi tobora takomillashib bormoqda va bu AI agentlari va tizimlari tomonidan yuzaga kelishi mumkin bo'lgan xavflarni tushunishni muhim qiladi. AI agentlari bilan bog'liq bo'lgan birinchi va eng aniq xavf - bu mashinalarning odamlarni aqldan ozdirishi xavfi. AI agentlari qarorlar qabul qilish, avtomatlashtirish jarayonlari va boshqa ilg'or vazifalarni o'z zimmasiga olish orqali o'z ijodkorlarini osongina ortda qoldirishi mumkin. Bundan tashqari, sun'iy intellektga asoslangan avtomatlashtirish tengsizlikni kuchaytirishi mumkin, chunki u odamlarning o'rnini egallaydi ish bozori.
Men kuchliroq va murakkab AI tizimlari ko'pchilik o'ylagandan ko'ra haqiqatga yaqinroq bo'lishi mumkinligi haqida ogohlantiraman va tayyorgarlik va profilaktika choralari zarurligini ta'kidladim.
Sem Altman
AI algoritmlari va ulardan murakkab qarorlar qabul qilishda foydalanish shaffoflik yo'qligi haqida tashvish uyg'otadi. Tashkilotlar mumkin xavflarni kamaytirish sun'iy intellektning axloqiy jihatdan ishlab chiqilishini proaktiv tarzda ta'minlash, axloqiy me'yorlarga mos keladigan ma'lumotlardan foydalanish va algoritmlarni odatiy sinovlardan o'tkazish orqali ular foydalanuvchilar va ma'lumotlarga nisbatan mas'uliyat bilan bog'liq.
Xulosa
Altman shuningdek, Xitoyni boshqara olmasak-da, u bilan muzokara olib borishimiz kerakligini aytdi. Taklif etilayotgan baholash mezonlari va AI modellarini tartibga solish kiradi biologik namunalarni sintez qilish qobiliyati, odamlarning e'tiqodlarini manipulyatsiya qilish, sarflangan qayta ishlash quvvati miqdori va boshqalar.
Muhim mavzu shundaki, Sem davlat bilan "munosabatlar" bo'lishi kerak. Umid qilamizki, ular avval aytib o‘tganimizdek, Yevropadan o‘rnak olishmaydi.
tez so'raladigan savollar
AI xatarlari AI tizimlarining noxolis yoki kamsituvchi xatti-harakatlarni namoyon etishi, zararli yoki noto'g'ri ishlatilishi yoki zarar etkazadigan tarzda noto'g'ri ishlashini o'z ichiga oladi. AI texnologiyalarini ishlab chiqish va joriy etish maxfiylik va ma'lumotlar xavfsizligiga, shuningdek, odamlar va tizimlarning xavfsizligi va xavfsizligiga xavf tug'dirishi mumkin.
AI bilan bog'liq bo'lgan beshta asosiy xavf: Ishni yo'qotish, Xavfsizlik xatarlari, Taraflar yoki kamsitish, Bioqurollar va AGI.
AIning eng xavfli tomoni uning ommaviy ishsizlikni keltirib chiqarishi mumkin.
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
