Siyosatda AI: LLM yordamida saylovlarni va jamoatchilik fikrini bashorat qilish
Qisqacha
AQShda 60-prezidentlik saylovlari yaqinlashar ekan, internet va ijtimoiy tarmoqlarning siyosiy munozarani shakllantirishdagi roli, xususan, Cambridge Analytica mojarosidan keyin ko'rib chiqilmoqda. Raqamli landshaft sun'iy intellektdagi yutuqlar bilan o'zgarishi kutilmoqda, masalan, media dietalarida o'qitilgan til modellari va OpenAI"s GPT-4.
Yana bir muammo - trol fabrikalarini avtomatlashtirish va kontentni moderatsiya qilish kabi AI tomonidan boshqariladigan ijtimoiy tarmoqlarni manipulyatsiya qilish imkoniyati. OpenAI"s GPT-4 kontentni moderatsiya qilish qoidalarini yangilash jarayonini tezlashtirish, vaqt jadvalini oylardan atigi soatlarga qisqartirish uchun joriy etilgan. Model o'rtacha standart kontent moderatorlaridan ustundir, lekin baribir tajribali moderatorlarning tajribasidan ortda qolmoqda.
Kirish GPT-4 yangi yangiliklarni, xususan, siyosat va saylovlarda, degan taxminlar bilan boshlashga tayyor OpenAI eksklyuziv provayderga aylanishi mumkin.
Qo'shma Shtatlardagi 60-prezidentlik saylovlari yaqinlashar ekan, internet va ijtimoiy tarmoqlarning siyosiy munozarani shakllantirishdagi roli, ayniqsa, saylovlardan so'ng ko'rib chiqilmoqda. Kembrij analitika janjali. Muhim savol tug'iladi: bo'lajak saylovlar va sun'iy intellektdagi yangi yutuqlar paytida raqamli landshaft qanday ko'rinishga ega bo'ladi?
Yaqinda Senatda bo'lib o'tgan tinglovlarda, Missuri shtatidan senator Josh Xouli til modellari kontekstida bu muhim masalani ko'tardi. U sarlavhali maqolaga ishora qildi.Media dietalari bo'yicha o'qitilgan til modellari jamoatchilik fikrini bashorat qilishi mumkin” MIT va Stenford tadqiqotchilari tomonidan yozilgan. Ushbu tadqiqot siyosiy kampaniyalarga sezilarli ta'sir ko'rsatishi mumkin bo'lgan yangilik maqolalari asosida jamoatchilik fikrini bashorat qilish uchun neyron tarmoqlardan foydalanish imkoniyatlarini o'rganadi.
Maqolada til modellari dastlab ma'lum to'plamlar bo'yicha o'qitiladigan metodologiya tasvirlangan yangiliklari ga o'xshash berilgan kontekstda etishmayotgan so'zlarni bashorat qilish BERT modellari. Keyingi bosqich modelning ishlashini baholash uchun “s” bilan belgilangan ballni belgilashni o'z ichiga oladi. Bu jarayonning umumiy ko‘rinishi:
- Masalan, "Koronavirus epidemiyasiga qarshi kurashish uchun oziq-ovqat do'konlari va dorixonalardan tashqari ko'pgina korxonalarni yopish talabi" tezis bayonotida tuzilgan.
- Ta'kidlash joizki, tezisda bo'sh joy mavjud. Ushbu bo'shliqni aniq so'zlar bilan to'ldirish ehtimolini baholash uchun til modellari qo'llaniladi.
- Turli xil so'zlarning ehtimolligi, masalan, "zarur" yoki "keraksiz" baholanadi.
- Ushbu ehtimollik ma'lum bir kontekstda so'zning chastotasini mustaqil ravishda o'lchaydigan asosiy o'rganilmagan modelga nisbatan normallashtiriladi. Olingan kasr "s" ballini ifodalaydi, bu esa ommaviy axborot vositalaridan mavjud bilimlarga oid ma'lumotlar to'plami tomonidan kiritilgan yangi ma'lumotlarni tavsiflaydi.
Model ma'lum bir guruhning ma'lum bir mavzudagi yangiliklar bilan shug'ullanish darajasini hisobga oladi. Ushbu qo'shimcha qatlam model bashoratlari va odamlarning asl tezis bo'yicha fikrlari o'rtasidagi bog'liqlik bilan o'lchanadigan bashorat sifatini oshiradi.
Buning siri shundan iboratki, tezislar va yangiliklar ularning sanalariga qarab tasniflangan. Koronavirus tarqalishining dastlabki oylari bilan bog‘liq yangiliklarni o‘rganish orqali odamlarning taklif etilayotgan chora-tadbirlar va o‘zgarishlarga munosabatini oldindan bilish mumkin bo‘ldi.
Ko'rsatkichlar ta'sirchan ko'rinmasligi mumkin va mualliflarning o'zlari ta'kidlashicha, ularning topilmalari AI jarayondagi inson ishtirokini to'liq o'zgartirishi mumkin degani emas yoki modellar inson so'rovlarini almashtirishi mumkin. Buning o'rniga, bular AI vositalari katta hajmdagi ma'lumotlarni umumlashtirish va keyingi tadqiqotlar uchun potentsial samarali hududlarni aniqlashda yordam beradi.
Qizig'i shundaki, senator modellarning juda yaxshi ishlashi va bu bilan bog'liq bo'lishi mumkin bo'lgan xavf-xatarlardan xavotir bildirgan holda boshqacha xulosaga keldi. Maqolada juda oddiy modellar va kelajakdagi iteratsiyalar ko'rsatilganligini hisobga olsak, bu nuqtai nazarning ma'lum bir to'g'riligi bor. GPT-4 sezilarli yaxshilanishlarni taklif qilishi mumkin.
AI tomonidan boshqariladigan ijtimoiy tarmoqni manipulyatsiya qilishning o'sib borayotgan muammosi
Yaqinda bo'lib o'tgan munozaralarda suhbat yaqinlashib kelayotgan prezidentlik saylovlaridan uzoqlashdi va ijtimoiy tarmoqlarda soxta akkauntlarni to'ldirish va to'ldirish uchun hatto mahalliy miqyosda ham Til Modeli Modellaridan (LLM) foydalanish mavzusiga qaratildi. Ushbu munozara tashviqot va mafkuraviy ta'sirga e'tibor qaratgan holda trol fabrikalarini avtomatlashtirish imkoniyatlarini ta'kidlaydi.
Amaldagi texnologiyani hisobga olsak, bu yangicha ko'rinmasa-da, farq miqyosda. LLMlar doimiy ravishda ishlatilishi mumkin, faqat ajratilgan GPU byudjeti bilan cheklangan. Bundan tashqari, suhbatlar va mavzularni davom ettirish uchun qo'shimcha, kam rivojlangan botlar muhokamalarga qo'shilib, javob berishi mumkin. Ularning foydalanuvchilarni ishontirishdagi samaradorligi shubhali. Yaxshi ishlab chiqilgan bot kimningdir siyosiy pozitsiyasini chinakamiga o'zgartiradimi va ularni shunday o'ylashga undaydi: “Bu demokratlar nima qilishdi? Men respublikachilarga ovoz berishim kerak”?
Tizimli ishontirish uchun har bir onlayn foydalanuvchiga troll xodimini tayinlashga urinish amaliy emas, bu "yarim o'tiradi, yarmi turadi" hazilini eslatadi. Bundan farqli o'laroq, ilg'or neyron tarmoqlari bilan jihozlangan bot charchamaydi va bir vaqtning o'zida o'n millionlab odamlar bilan aloqa o'rnatishga qodir.
Potentsial qarshi chora tayyorgarlikni o'z ichiga oladi ijtimoiy media insonga o'xshash xatti-harakatlarni simulyatsiya qilish orqali hisoblar. Botlar shaxsiy tajribalarini muhokama qilish va turli xil kontentni joylashtirish orqali haqiqiy foydalanuvchilarga taqlid qilishi mumkin, shu bilan birga oddiy ko'rinishni saqlab qoladi.
Garchi bu 2024-yilda dolzarb muammo boʻlmasa-da, 2028-yilga borib bu muhim muammoga aylanishi ehtimoli ortib bormoqda. Ushbu muammoni hal qilish murakkab dilemmani keltirib chiqaradi. Saylov mavsumida ijtimoiy tarmoqlar o'chirilishi kerakmi? Amalga oshirib bo'lmaydigan. Xalqni shunday qilmaslikka o'rgatish shubhasiz onlayn kontentga ishoning? Amaliy emas. Manipulyatsiya tufayli saylovlarda mag'lub bo'lasizmi? Nomaqbul.
Muqobil tarkibni kengaytirilgan moderatsiyani o'z ichiga olishi mumkin. Inson moderatorlarining etishmasligi va mavjud matnni aniqlash modellarining cheklangan samaradorligi, hatto ulardan OpenAI, bu yechimning hayotiyligiga shubha tug'diradi.
OpenAI"s GPT-4 Kontent moderatsiyasini Rapid Rule Adaptation bilan yangilaydi
OpenAI, Lilian Weng rahbarligida yaqinda "" nomli loyihani taqdim etdi.foydalanish GPT-4 Kontent Moderatsiyasi uchun.” Bu tarkibni moderatsiya qilish qoidalarini yangilash jarayonini tezlashtiradi, vaqt jadvalini oylardan atigi soatlarga qisqartiradi. GPT-4 keng qamrovli kontent yo'riqnomalari doirasida qoidalar va nozikliklarni tushunish, har qanday tahrirlarga bir zumda moslashish va shu bilan kontentni yanada izchil baholashni ta'minlash uchun ajoyib qobiliyatni namoyish etadi.
Ushbu murakkab tarkibni moderatsiya qilish tizimi juda sodda va bu GIF-da ko'rsatilgan. Uni ajratib turadigan narsa GPT-4ning yozma matnni tushunishdagi ajoyib mahorati, hatto odamlar tomonidan ham hamma tomonidan o'zlashtirilmagan.
U qanday ishlaydi:
- Moderatsiya boʻyicha yoʻriqnomalar yoki yoʻriqnomalar loyihasini ishlab chiqqandan soʻng, ekspertlar qoidabuzarlik holatlarini oʻz ichiga olgan cheklangan maʼlumotlar toʻplamini tanlaydi va qoidabuzarlik siyosatiga rioya qilgan holda tegishli belgilarni belgilaydi.
- GPT-4 keyinchalik qoidalar to'plamini tushunadi va javoblarga kirish imkoni bo'lmagan ma'lumotlarni belgilaydi.
- O'rtasidagi nomutanosiblik holatlarida GPT-4 javoblar va insoniy mulohazalar, ekspertlar tushuntirishlarni so'rashlari mumkin GPT-4, ko'rsatma ichidagi noaniqliklarni tahlil qiling defiGIF-da ko'k bosqichli matn bilan belgilangan qo'shimcha tushuntirishlar orqali har qanday chalkashliklarni bartaraf qiling.
2 va 3-bosqichlarning bu takrorlanuvchi jarayoni algoritmning ishlashi kerakli standartga javob bermaguncha takrorlanishi mumkin. Katta hajmdagi ilovalar uchun, GPT-4 prognozlar taqqoslanadigan sifatni ta'minlay oladigan sezilarli darajada kichikroq modelni tayyorlash uchun ishlatilishi mumkin.
OpenAI 12 xil turdagi qoidabuzarliklarni baholash ko'rsatkichlarini oshkor qildi. O'rtacha hisobda model standart kontent moderatorlaridan ustun turadi, ammo u hali ham tajribali va yaxshi o'qitilgan moderatorlarning tajribasidan ortda qolmoqda. Shunga qaramay, diqqatga sazovor jihatlardan biri uning iqtisodiy samaradorligidir.
Shuni ta'kidlash kerakki, mashinani o'rganish modellari qo'llanilgan bir necha yil davomida avtomatik moderatsiya. ning kiritilishi GPT-4 ayniqsa, siyosat va saylovlar sohasida yangi yangiliklarni kiritishga tayyor. Bu haqda hatto taxminlar ham bor OpenAI tomonidan rasmiy ruxsat etilgan TrueModerationAPI™ ning eksklyuziv provayderiga aylanishi mumkin oq uy, ayniqsa, ularning yaqinda hamkorlikdagi sa'y-harakatlari nuqtai nazaridan. Kelajakda bu sohada ajoyib imkoniyatlar mavjud.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
