Siyasətdə AI: LLM-lərdən istifadə edərək seçkilərin və ictimai rəyin proqnozlaşdırılması
Qısaca
ABŞ-da 60-cı prezident seçkiləri yaxınlaşdıqca, xüsusən də Cambridge Analytica qalmaqalından sonra internet və sosial şəbəkələrin siyasi diskursun formalaşmasında rolu araşdırılır. Rəqəmsal mənzərənin süni intellektdə irəliləyişlərlə, məsələn, media pəhrizləri üzərində öyrədilmiş dil modelləri ilə dəyişəcəyi gözlənilir OpenAI'S GPT-4.
Digər bir məsələ, trol fabriklərinin avtomatlaşdırılması və məzmun moderasiyası kimi süni intellektlə idarə olunan sosial şəbəkə manipulyasiyası potensialıdır. OpenAI'S GPT-4 məzmunun moderasiyası qaydalarının yenilənməsi prosesini sürətləndirmək, vaxt qrafikini aylardan cəmi saatlara endirmək üçün təqdim edilmişdir. Model orta hesabla standart məzmun moderatorlarını üstələyir, lakin hələ də təcrübəli insan moderatorlarının təcrübəsindən geri qalır.
Təqdimat GPT-4 spekulyasiyalarla, xüsusən də siyasətdə və seçkilərdə yeni yeniliklərə imza atmağa hazırdır OpenAI eksklüziv provayder ola bilər.
ABŞ-da 60-cı prezident seçkiləri yaxınlaşdıqca, internet və sosial şəbəkələrin siyasi diskursun formalaşmasında rolu, xüsusən də seçkilərdən sonra diqqət mərkəzindədir. Cambridge Analytica skandalı. Əhəmiyyətli bir sual yaranır: Qarşıdan gələn seçkilər və süni intellektdə yeni nailiyyətlər zamanı rəqəmsal mənzərə necə görünəcək?
Senatda son dinləmələr zamanı, Missuri ştatından senator Coş Hauli dil modelləri kontekstində bu kritik məsələni qaldırdı. başlıqlı məqaləyə istinad edib.Media Pəhrizləri üzrə Tədris Edilən Dil Modelləri İctimai Rəyi proqnozlaşdıra bilər” MIT və Stanforddan olan tədqiqatçılar tərəfindən tərtib edilmişdir. Bu tədqiqat siyasi kampaniyalara əhəmiyyətli dərəcədə təsir göstərə biləcək bir konsepsiya olan xəbər məqalələri əsasında ictimai rəyi proqnozlaşdırmaq üçün neyron şəbəkələrdən istifadə potensialını araşdırır.
Məqalədə dil modellərinin ilkin olaraq xüsusi dəstlər üzərində öyrədildiyi metodologiya təsvir edilir xəbərlər oxşar kontekstdə itkin sözləri proqnozlaşdırmaq BERT modelləri. Sonrakı addım modelin fəaliyyətini qiymətləndirmək üçün “s” kimi qeyd olunan xalın təyin edilməsini əhatə edir. Budur prosesə ümumi baxış:
- Məsələn, "Koronavirus epidemiyası ilə mübarizə aparmaq üçün ərzaq mağazaları və apteklər istisna olmaqla, əksər müəssisələrin bağlanması tələbi" tezis bəyanatı tərtib edilmişdir.
- Qeyd edək ki, tezisdə boşluq var. Bu boşluğu xüsusi sözlərlə tamamlamaq ehtimalını qiymətləndirmək üçün dil modellərindən istifadə edilir.
- “Lazımlı” və ya “lazımsız” kimi müxtəlif sözlərin olma ehtimalı qiymətləndirilir.
- Bu ehtimal, sözün müəyyən kontekstdə baş vermə tezliyini müstəqil olaraq ölçən baza hazırlığı olmayan modelə nisbətən normallaşdırılır. Nəticə kəsr “s” xalını təmsil edir ki, bu da mövcud biliklərlə bağlı mediadan verilənlər toplusu tərəfindən təqdim edilən yeni məlumatları xarakterizə edir.
Model müəyyən bir qrup şəxslərin konkret mövzu ilə bağlı xəbərlərlə əlaqə səviyyəsini nəzərə alır. Bu əlavə təbəqə modelin proqnozları ilə insanların orijinal tezislə bağlı fikirləri arasında korrelyasiya ilə ölçülən proqnozlaşdırma keyfiyyətini artırır.
Bunun sirri ondadır ki, tezislər və xəbərlər tarixlərinə görə qruplaşdırılıb. Koronavirusun yayılmasının ilk ayları ilə bağlı xəbərləri öyrənməklə insanların təklif olunan tədbirlərə və dəyişikliklərə reaksiyasını əvvəlcədən bilmək mümkün olub.
Metriklər təsirli görünməyə bilər və müəlliflərin özləri vurğulayırlar ki, onların tapıntıları süni intellektin prosesdə insan iştirakını tamamilə əvəz edə biləcəyini nəzərdə tutmur və ya modellər insan sorğularını əvəz edə bilər. Əvəzində bunlar AI alətləri böyük həcmdə məlumatların ümumiləşdirilməsində və gələcək kəşfiyyat üçün potensial məhsuldar sahələrin müəyyən edilməsində yardımçı kimi xidmət edir.
Maraqlıdır ki, senator modellərin çox yaxşı performans göstərməsindən və bununla bağlı potensial təhlükələrdən narahatlığını ifadə edərək fərqli bir nəticəyə gəlib. Məqalənin kifayət qədər əsas modelləri və gələcək iterasiyaları nümayiş etdirdiyini nəzərə alsaq, bu perspektivin müəyyən etibarlılığı var. GPT-4 potensial olaraq əhəmiyyətli təkmilləşdirmələr təklif edə bilər.
Süni intellektlə idarə olunan sosial şəbəkə manipulyasiyasının artan problemi
Son müzakirələrdə söhbət yaxınlaşan prezident seçkilərindən uzaqlaşdı və sosial şəbəkələrdə saxta hesablar yaratmaq və doldurmaq üçün hətta lokallaşdırılmış miqyasda Dil Modeli Modellərindən (LLM) istifadə mövzusuna yönəldi. Bu müzakirə təbliğat və ideoloji təsirə diqqət yetirməklə trol fabriklərinin avtomatlaşdırılması potensialını vurğulayır.
Artıq istifadə olunan texnologiyanı nəzərə alsaq, bu, əsaslı görünməsə də, fərq miqyasdadır. LLM-lər davamlı olaraq istifadə edilə bilər, yalnız ayrılmış GPU büdcəsi ilə məhdudlaşır. Bundan əlavə, söhbətləri və mövzuları davam etdirmək üçün əlavə, daha az inkişaf etmiş botlar müzakirələrə qoşula və cavab verə bilər. Onların istifadəçiləri inandırmaqda effektivliyi şübhəlidir. Yaxşı hazırlanmış bir bot həqiqətən kiminsə siyasi mövqeyini dəyişəcək və onları düşünməyə vadar edəcəkmi: “Bu Demokratlar nə etdilər? Respublikaçılara səs verməliyəm”?
Sistemli inandırmaq üçün hər bir onlayn istifadəçiyə bir troll işçisi təyin etmək cəhdi praktiki deyil, “yarı oturur, yarı durur” zarafatını xatırladır. Bunun əksinə olaraq, qabaqcıl neyron şəbəkələri ilə təchiz edilmiş bot yorulmaz, eyni vaxtda on milyonlarla insanla əlaqə qura bilir.
Potensial əks tədbir hazırlıqdan ibarətdir sosial media insana bənzər davranışı simulyasiya etməklə hesablar. Botlar şəxsi təcrübələrini müzakirə etməklə və normal görünüşünü qoruyaraq müxtəlif məzmunlar yerləşdirməklə həqiqi istifadəçiləri təqlid edə bilər.
Bu, 2024-cü ildə aktual problem olmasa da, 2028-ci ilə qədər əhəmiyyətli bir problemə çevrilmə ehtimalı artır. Bu problemin həlli mürəkkəb dilemma yaradır. Seçki mövsümündə sosial şəbəkələr söndürülməlidirmi? Qeyri-mümkün. İctimaiyyəti maarifləndirmək deyil şübhəsiz onlayn məzmuna etibar edin? Praktik deyil. Manipulyasiyaya görə seçkiləri uduzmaq? Arzuolunmaz.
Alternativ olaraq təkmilləşdirilmiş məzmun moderasiyası daxil ola bilər. İnsan moderatorlarının çatışmazlığı və mövcud mətn aşkarlama modellərinin, hətta onlardan olanların məhdud effektivliyi OpenAI, bu həllin həyat qabiliyyətini şübhə altına alır.
OpenAI'S GPT-4 Sürətli Qayda Uyğunlaşması ilə Məzmun Moderasiyasını Yeniləyir
OpenAI, Lilian Weng-in rəhbərliyi altında bu yaxınlarda "adlı bir layihə təqdim etdi.Istifadə GPT-4 Məzmun Moderasiyası üçün.” Bu, məzmunun moderasiyası qaydalarının yenilənməsi prosesini sürətləndirir, qrafiki aylardan cəmi saatlara qədər azaldır. GPT-4 hərtərəfli məzmun təlimatları daxilində qaydaları və incəlikləri dərk etmək, hər hansı düzəlişlərə dərhal uyğunlaşmaq və bununla da məzmunun daha ardıcıl qiymətləndirilməsini təmin etmək üçün müstəsna qabiliyyət nümayiş etdirir.
Bu mürəkkəb məzmun moderasiyası sistemi, müşayiət olunan GIF-də nümayiş etdirildiyi kimi, dahiyanə şəkildə sadədir. Onu fərqləndirən budur GPT-4Yazılı mətni başa düşməkdə diqqətəlayiq bacarıq, hətta insanlar tərəfindən hamı tərəfindən mənimsənilməmiş bir şücaətdir.
Budur necə işləyir:
- Moderasiya qaydalarını və ya təlimatlarını tərtib etdikdən sonra ekspertlər pozuntu hallarını ehtiva edən məhdud məlumat toplusunu seçir və pozuntu siyasətinə uyğun olaraq müvafiq etiketlər təyin edir.
- GPT-4 sonra qaydalar toplusunu başa düşür və cavablara giriş olmadan məlumatları etiketləyir.
- Aralarındakı uyğunsuzluq hallarında GPT-4 cavablar və insan mühakimələri, ekspertlərdən aydınlıq istəyə bilər GPT-4, təlimat daxilində qeyri-müəyyənlikləri təhlil edin defiGIF-də mavi addım mətni ilə işarələnmiş əlavə aydınlaşdırma vasitəsilə hər hansı çaşqınlığı aradan qaldırın.
2 və 3-cü addımların bu iterativ prosesi alqoritmin performansı istənilən standarta cavab verənə qədər təkrarlana bilər. Böyük miqyaslı tətbiqlər üçün, GPT-4 proqnozlar müqayisə edilə bilən keyfiyyəti təmin edə bilən əhəmiyyətli dərəcədə daha kiçik bir modeli hazırlamaq üçün istifadə edilə bilər.
OpenAI 12 fərqli pozuntu növünü qiymətləndirmək üçün ölçüləri açıqlayıb. Orta hesabla, model standart məzmun moderatorlarını üstələyir, lakin hələ də təcrübəli və yaxşı təlim keçmiş insan moderatorlarının təcrübəsindən geri qalır. Bununla belə, cəlbedici cəhətlərdən biri onun iqtisadi səmərəliliyidir.
Qeyd etmək lazımdır ki, maşın öyrənmə modellərindən istifadə edilmişdir bir neçə il avtomatik moderasiya. -nin təqdimatı GPT-4 xüsusilə siyasət və seçkilər sahəsində yeni yeniliklərə imza atmağa hazırdır. Hətta bununla bağlı fərziyyələr də var OpenAI tərəfindən rəsmi olaraq təsdiqlənmiş TrueModerationAPI™-nin eksklüziv provayderi ola bilər Ağ Ev, xüsusən də onların son tərəfdaşlıq səyləri fonunda. Gələcəkdə bu sahədə maraqlı imkanlar var.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
