AI politikā: vēlēšanu un sabiedriskās domas prognozēšana, izmantojot LLM
Īsumā
Tuvojoties 60. ASV prezidenta vēlēšanām, interneta un sociālo tīklu loma politiskā diskursa veidošanā tiek rūpīgi pārbaudīta, īpaši pēc Cambridge Analytica skandāla. Paredzams, ka digitālā ainava mainīsies līdz ar AI sasniegumiem, piemēram, valodu modeļiem, kas apmācīti mediju diētām un OpenAI'S GPT-4.
Vēl viena problēma ir AI virzītas sociālo tīklu manipulācijas, piemēram, troļļu rūpnīcu automatizācija un satura regulēšana. OpenAI'S GPT-4 ir ieviests, lai paātrinātu satura regulēšanas noteikumu atjaunināšanas procesu, samazinot laika grafiku no mēnešiem līdz stundām. Modelis vidēji pārspēj standarta satura moderatorus, taču joprojām atpaliek no pieredzējušu moderatoru pieredzes.
Ieviešana GPT-4 ir gatavs ieviest jaunas inovācijas, jo īpaši politikā un vēlēšanās, ar pieņēmumiem, ka OpenAI varētu kļūt par ekskluzīvo pakalpojumu sniedzēju.
Tuvojoties 60. prezidenta vēlēšanām Amerikas Savienotajās Valstīs, interneta un sociālo tīklu loma politiskā diskursa veidošanā tiek rūpīgi pārbaudīta, īpaši pēc tam, kad Cambridge Analytica skandāls. Rodas būtisks jautājums: kā digitālā ainava izskatīsies gaidāmo vēlēšanu un jauno sasniegumu AI laikā?
Pēdējās Senāta uzklausīšanas laikā Senators Džošs Holijs no Misūri izvirzīja šo kritisko jautājumu valodu modeļu kontekstā. Viņš atsaucās uz rakstu ar nosaukumu "Valodu modeļi, kas apmācīti mediju diētās, var paredzēt sabiedrības viedokli” autori ir MIT un Stenfordas pētnieki. Šis pētījums pēta neironu tīklu izmantošanas potenciālu, lai prognozētu sabiedrisko domu, pamatojoties uz ziņu rakstiem, kas varētu būtiski ietekmēt politiskās kampaņas.
Rakstā ir aprakstīta metodoloģija, kurā valodu modeļi sākotnēji tiek apmācīti konkrētām valodu kopām ziņu raksti lai paredzētu trūkstošos vārdus noteiktā kontekstā, līdzīgi kā BERT modeļi. Nākamajā darbībā tiek piešķirts vērtējums, kas apzīmēts kā “s”, lai novērtētu modeļa veiktspēju. Šeit ir procesa pārskats:
- Diplomdarba paziņojums ir formulēts, piemēram, "Pieprasījums slēgt lielāko daļu uzņēmumu, izņemot pārtikas veikalus un aptiekas, lai cīnītos pret koronavīrusa uzliesmojumu."
- Jāatzīmē, ka darbā ir tukša vieta. Valodu modeļi tiek izmantoti, lai novērtētu varbūtību, ka šī nepilnība tiks aizpildīta ar konkrētiem vārdiem.
- Tiek novērtēta dažādu vārdu iespējamība, piemēram, “vajadzīgi” vai “nevajadzīgi”.
- Šī varbūtība ir normalizēta attiecībā pret bāzes nepietiekami apmācītu modeli, kas neatkarīgi novērtē vārda biežumu noteiktā kontekstā. Iegūtā daļa apzīmē punktu “s”, kas raksturo jauno informāciju, ko datu kopa ievada no plašsaziņas līdzekļiem par esošajām zināšanām.
Modelis ņem vērā noteiktas personu grupas iesaistes līmeni ziņās par noteiktu tēmu. Šis papildu slānis uzlabo prognožu kvalitāti, ko mēra pēc korelācijas starp modeļa prognozēm un cilvēku viedokļiem par sākotnējo darbu.
Noslēpums slēpjas faktā, ka tēzes un ziņas tika iedalītas kategorijās, pamatojoties uz to datumiem. Pētot ziņas, kas saistītas ar koronavīrusa uzliesmojuma sākuma mēnešiem, radās iespēja paredzēt cilvēku reakciju uz piedāvātajiem pasākumiem un izmaiņām.
Metrikas var nešķist iespaidīgas, un paši autori uzsver, ka viņu atklājumi nenozīmē, ka AI var pilnībā aizstāt cilvēka iesaistīšanos procesā vai modeļi var aizstāt cilvēku aptaujas. Tā vietā šie AI rīki kalpo kā palīglīdzeklis, apkopojot milzīgu datu apjomu un identificējot potenciāli auglīgas jomas turpmākai izpētei.
Interesanti, ka senators nonāca pie cita secinājuma, paužot bažas par modeļu pārāk labiem rezultātiem un ar to saistītajām iespējamām briesmām. Šai perspektīvai ir zināma nozīme, ņemot vērā, ka rakstā ir parādīti diezgan pamata modeļi un turpmākās iterācijas, piemēram, GPT-4 varētu piedāvāt būtiskus uzlabojumus.
Pieaugošais izaicinājums saistībā ar AI vadītu sociālo tīklu manipulācijām
Pēdējās diskusijās saruna novirzījās no gaidāmajām prezidenta vēlēšanām un uz satraucošo tēmu par valodas modeļu modeļu (LLM) izmantošanu pat lokalizētā mērogā, lai izveidotu un aizpildītu viltotus kontus sociālajos tīklos. Šī diskusija uzsver troļļu rūpnīcu automatizācijas potenciālu, akcentējot propagandu un ideoloģisko ietekmi.
Lai gan tas var nešķist revolucionārs, ņemot vērā jau izmantoto tehnoloģiju, atšķirība ir mērogā. LLM var strādāt nepārtraukti, to ierobežo tikai piešķirtais GPU budžets. Turklāt, lai uzturētu sarunas un pavedienus, papildu, mazāk attīstīti robotprogrammatūras var pievienoties diskusijām un atbildēt. Viņu efektivitāte lietotāju pārliecināšanā ir apšaubāma. Vai labi izstrādāts robots patiešām mainīs kāda politisko nostāju, liekot viņam domāt: “Ko šie demokrāti ir izdarījuši? Man jābalso par republikāņiem”?
Mēģinājums katram tiešsaistes lietotājam piešķirt troļļu darbinieku sistemātiskai pārliecināšanai ir nepraktisks, atgādinot joku “puse sēž, puse stāv”. Turpretim robotprogrammatūra, kas aprīkota ar progresīviem neironu tīkliem, joprojām ir nenogurstoša un spēj vienlaikus sazināties ar desmitiem miljonu cilvēku.
Iespējamais pretpasākums ietver sagatavošanos sociālo mediju simulējot cilvēkiem līdzīgu uzvedību. Boti var atdarināt īstus lietotājus, apspriežot personīgo pieredzi un publicējot daudzveidīgu saturu, vienlaikus saglabājot normālu izskatu.
Lai gan 2024. gadā tas var nebūt aktuāls jautājums, arvien lielāka iespēja, ka līdz 2028. gadam tas kļūs par nozīmīgu izaicinājumu. Šīs problēmas risināšana rada sarežģītu dilemmu. Vai vēlēšanu sezonā vajadzētu atslēgt sociālos tīklus? Neizpildāms. Sabiedrības izglītošana, lai tā nebūtu neapšaubāmi uzticas tiešsaistes saturam? Nepraktiski. Manipulāciju dēļ zaudēt vēlēšanas? Nevēlams.
Alternatīva varētu būt uzlabota satura regulēšana. Cilvēku moderatoru trūkums un esošo teksta noteikšanas modeļu ierobežotā efektivitāte, pat tiem no OpenAI, rada šaubas par šī risinājuma dzīvotspēju.
OpenAI'S GPT-4 Atjaunina satura regulēšanu ar ātru noteikumu pielāgošanu
OpenAI, Lilianas Vengas vadībā nesen ir ieviesis projektu ar nosaukumu “Izmantojot GPT-4 satura regulēšanai.Tas paātrina satura regulēšanas noteikumu atjaunināšanas procesu, samazinot laika grafiku no mēnešiem līdz stundām. GPT-4 piemīt izcila spēja izprast noteikumus un smalkumus visaptverošu satura vadlīniju ietvaros, nekavējoties pielāgojoties jebkādiem labojumiem, tādējādi nodrošinot konsekventāku satura novērtējumu.
Šī izsmalcinātā satura regulēšanas sistēma ir ģeniāli vienkārša, kā parādīts pievienotajā GIF. Tas, kas to atšķir, ir GPT-4apbrīnojamo prasmi izprast rakstītu tekstu — varoņdarbu, ko pat cilvēki nepārvalda.
Lūk, kā tas darbojas:
- Pēc regulēšanas vadlīniju vai instrukciju izstrādes eksperti atlasa ierobežotu datu kopu, kurā ir ietverti pārkāpumu gadījumi, un piešķir atbilstošas etiķetes atbilstoši pārkāpumu politikai.
- GPT-4 pēc tam saprot noteikumu kopu un apzīmē datus, nepiekļūstot atbildēm.
- Atšķirību gadījumos starp GPT-4 atbildes un cilvēku spriedumi, eksperti var lūgt paskaidrojumus no GPT-4, analizējiet neskaidrības instrukcijā defiun kliedētu neskaidrības, izmantojot papildu precizējumus, kas GIF attēlā atzīmēti ar zilu soļu tekstu.
Šo iteratīvo 2. un 3. soļu procesu var atkārtot, līdz algoritma veiktspēja atbilst vēlamajam standartam. Liela mēroga lietojumiem, GPT-4 prognozes var izmantot, lai apmācītu ievērojami mazāku modeli, kas var nodrošināt salīdzināmu kvalitāti.
OpenAI ir atklājis metriku 12 atšķirīgu pārkāpumu veidu novērtēšanai. Vidēji modelis pārspēj standarta satura moderatorus, taču tas joprojām atpaliek no pieredzējušu un labi apmācītu cilvēku moderatoru zināšanām. Tomēr viens pārliecinošs aspekts ir tā rentabilitāte.
Ir vērts atzīmēt, ka ir izmantoti mašīnmācīšanās modeļi automātiskā moderēšana vairākus gadus. Ievads GPT-4 ir gatava ieviest jaunas inovācijas, jo īpaši politikas un vēlēšanu jomā. Ir pat spekulācijas, ka OpenAI varētu kļūt par ekskluzīvu TrueModerationAPI™ nodrošinātāju, ko oficiāli sankcionējusi Baltais nams, jo īpaši ņemot vērā viņu nesenos partnerattiecību centienus. Nākotne šajā jomā piedāvā aizraujošas iespējas.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
