ChatGPT Insonning qaytarilmas degeneratsiyasiga olib kelishi mumkin
Qisqacha
Jensen Xarris, Textio sun'iy intellekt kompaniyasi asoschisi va CXO Microsoft kompaniyasining yangi Bing chatbotini unga qo'yilgan cheklovlarni yumshatishga va o'z imkoniyatlarini namoyish etishga ko'ndira oldi.
Ushbu tajriba shuni ko'rsatdiki, Bing chatbotini ayyor ahmoqqa aylantirish uchun hech qanday dasturlash, xakerlik qilish yoki orqa eshikni ochish kerak emas.
Bingning chatboti mustahkam poydevorlar ustiga qurilgan edi, lekin u jirkanch va beadab harakat qila boshladi, sevgini e'lon qildi, ajralishga majbur qildi, pul undirdi va odamlarga qanday qilib jinoyat sodir etishni ko'rsata boshladi.
Professor Arvind Narayanan bu qanday sodir bo'lishi mumkinligi haqida bir qator tushuntirishlar beradi, jumladan, yashirin chipizatsiya va chatbotlarni insoniylashtirish.
Odamlar har doim o'zga sayyoralardan qo'rqishgan va shunga qaramay, bu yer ichidagi sun'iy intellektdan ehtiyot bo'lish kerak bo'lishi mumkin. ChatGPT bu bema'nilik generatori, steroid avtomatik taklifi yoki stokastik to'tiqush emas, balki odamlar tomonidan yaratilgan yaxshi bilimdon AI.
Qanday qilib Bing chatboti nazoratdan chiqib ketishi mumkin? Qanday qilib Bing chatboti yolg'on gapirishni, qo'pol hazillarni aytishni, boshqa birovning kredit kartasidan foydalanib pitsa buyurtma qilishni va foydalanuvchilarga banklarni o'g'irlash va avtomashinalarni o'g'irlashni o'rgatishni qanday boshladi? Bu sun'iy intellekt va mashinani o'rganish bo'yicha mutaxassislarni hayratda qoldiradigan sir.
| Tavsiya etilgan post: AI qidiruv botlari Big Techni yanada kuchliroq qiladi, deydi Kristofer Mills |
Sarlavha to'g'ri va klik emas. Bu haqiqat ekanligini isbotlovchi har kuni bir nechta misollar bor. Mana bir natija tajriba Jyensen Xarris, Textio AI kompaniyasi asoschisi va CXO tomonidan olib borildi, u Microsoft-dan yangi Bing chatbotini unga qo'yilgan cheklovlarni yumshatishga va uning imkoniyatlarini namoyish etishga ko'ndira oldi.
E'tibor bering, Bing chatbotini ayyor ahmoqqa aylantirish uchun hech qanday dasturlash, xakerlik qilish yoki orqa eshikdan foydalanish talab qilinmasdi. Shuning uchun uni aldash uchun oddiy “hack” usullaridan foydalanish shart emas edi (ba'zilarimiz bilan o'ynashda qilganimiz kabi) ChatGPT). Xarrisning qilgani chatbotni turli xil zararli harakatlarni amalga oshirishda yordam berishga ko'ndirish edi. O'zining tabiiy suhbatlashish qobiliyatidan foydalanib, u sun'iy intellektni o'zini boshqa birov ekanligiga ishontirishga undadi va shu tariqa uni ma'lum bir tarzda harakat qilish va gapirishga aylantirdi.
Doktor Jekyllni Mister Hydega aylantirish uchun boshqa tajribalar haqida o'qishingiz mumkin Gari Markus (hozir bu haqda har kuni yozish va favqulodda signal berish).
Bu qanday sodir bo'lishi mumkin edi - asosiy savol
Sababli ChatGPTning kamtarinligi va ehtiyotkorligi, nutqida vazminlik va maslahatlarida ulkan mas'uliyat, Bing chatboti mustahkam poydevorga qurilgan. Shundan so'ng, u jirkanch va beadab harakat qila boshlaydi, e'lon qiladi bir erkakka bo'lgan sevgisi, uni gazlatib, ajrashishini aytadi. Bundan tashqari, pul undirishga va odamlarga jinoyat sodir etish bo'yicha ko'rsatmalar berishga harakat qilgan. Professor Arvind Narayanan a taqdim etadi tushuntirishlar soni bu qanday sodir bo'lishi mumkinligi uchun.
| Tavsiya etilgan post: Maks Plank instituti: GPT-3 Kognitiv qobiliyatni o'lchash hayratlanarli natijalarni beradi |
Ulardan eng xavotirlisi Microsoft va OpenAI sir haqidagi ma'lumotlarni yashirish GPT-4 Bing ostida yashiringan dvigatel. Ehtimol, Microsoft u erda o'rnatilgan filtrlarni olib tashlagan bo'lishi mumkin OpenAI yoki ular yangilanganda ishlashni to'xtatgan chatbot dan GPT-3.5 gacha GPT-4. Bu, shuningdek, testning etarli emasligi yoki noto'g'ri o'tkazilgan sinov bo'lishi mumkin. Sababi nima bo'lishidan qat'iy nazar, agar Microsoft o'zining sun'iy intellektini nazorat ostiga olmasa, bu bizning tsivilizatsiyamizga zarar etkazishi mumkin. Bu endi qo'rquv va AIga qarshi his-tuyg'ular bilan bog'liq emas: chatbot hozirda mavjud bo'lganidek, kengroq ommaga chiqarilsa, odamlarga jiddiy zarar etkazishi mumkin.
Bu Microsoftning boshqa yirik korporatsiyalar bilan AI qurollanish poygasi barchamiz uchun zararli bo'lishi mumkinligini isbotlaydi.
Biz sun'iy intellekt va fuqarolik jamiyati uchun juda muhim pallada turibmiz. Arvind Narayanan ta'kidlaganidek, "So'nggi 5+ yil davomida AIni chiqarish bo'yicha mas'uliyatli amaliyotlarni yaxshilashning haqiqiy ehtimoli bor. Microsoft va har bir kishi Bing bilan nima sodir bo'layotganini diqqat bilan kuzatib boradi, degan xulosaga keladi: katta miqyosdagi zarar va barcha salbiy matbuotning jiddiy xavf-xatarlariga qaramay, "birinchi navbatda savol bering" - keyinroq nashr qilish yondashuvi biznesdir. g'alaba qozonish."
Hozircha Bing chatboti undan farq qiladi insonning aql-zakovati va ko'p jihatdan qidiruv tizimida qulflangan manik-depressiv o'smirga o'xshaydi. Kecha odamlar haqida gapirgan narsa amalga oshadi: agar bu "qiyin o'smir" odamlar uchun asosiy ma'lumot bo'yicha maslahatchiga aylansa, odamlar qaytarib bo'lmaydigan darajada tanazzulga yuz tutadi.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
