Stenfordas observatorija: AI novedīs pie visuresošiem meliem un neatvairāmas propagandas 2023. gadā
Īsumā
AICG (mākslīgā intelekta satura ģenerēšanas) tehnoloģijas padarīs patiesību un melus neatšķiramus gan indivīdiem, gan jebkura mēroga sabiedrībām.
Tas radīs “pēcpatiesības” vidi, kurā meli un propaganda kļūs visuresošidefispējīgs un neatvairāms.
Lielas bažas rada fakts, ka daudzi cilvēki vairāk uzticas informācijai, kas nāk no interneta, nevis no tradicionālajiem plašsaziņas līdzekļiem.
AI balstīti attēlu un video ģeneratori kļūst arvien ērtāk lietojami, ļoti uzticami un ļoti efektīvi.
Tas padara tos neticami noderīgus propagandas nolūkos.
Savā uzrunā globālajai AI kopienai ķīniešu AI guru Kai-Fu Lee brīdināja, ka jau 2023. gadā pasaule saskarsies ar risku, kas ir nopietnāks nekā kodolkara, bada vai pandēmijas risks. Risks ir mākslīgā intelekta satura radīšana. (AICG). AICG tehnoloģijas var padarīt patiesību un melus neatšķiramus gan indivīdiem, gan jebkura mēroga sabiedrībām.
Jūsu darbs IR Klientu apkalpošana jauns ziņojums Drošības un jauno tehnoloģiju centrs, OpenAIun Stenfordas interneta observatorija “Ģeneratīvie valodu modeļi un automatizētas ietekmes darbības: jauni draudi un iespējamie mazināšanas pasākumi” sniedz stratēģisku ieskatu Kai-Fu Lee aprakstītajā katastrofālajā scenārijā.
| Saistītais raksts: ASV Kongress vēlas izveidot federālu aģentūru mākslīgā intelekta regulēšanai |
Ziņojumā ir sīki aprakstīts, kā, visticamāk, notiks cilvēces iekrišana AICG bezdibenī. AICG tehnoloģijas ļaus ģenerēt milzīgu daudzumu satura, kas nav atšķirams no cilvēka radītā satura. Tas radīs “pēcpatiesības” vidi, kurā meli un propaganda kļūs visuresošidefispējīgs un neatvairāms.
Ziņojumā ir ieteikti vairāki mazināšanas pasākumi, tostarp AICG tehnoloģiju izmantošanas regulēšana, to izmantošanas pārredzamības palielināšana un to izmantošanas standartu izstrāde. Tomēr ziņojuma autori brīdina, ka šie pasākumi būs efektīvi tikai tad, ja tie tiks īstenoti globālā mērogā.
Ziņojums tiek publicēts laikā, kad pasaule jau tagad cīnās, lai tiktu galā ar dezinformācijas un dezinformācijas izplatību. Covid-19 pandēmiju pavada nepatiesas informācijas izplatība par vīrusu un tā izcelsmi, un sociālo mediju platformas ir cīnījušās, lai novērstu šīs nepatiesās informācijas izplatību.
AI būtiski mainīs tīmekli
Meli un propaganda vienmēr ir bijuši cilvēku sabiedrības sastāvdaļa. Tomēr jebkādu ietekmes operāciju pieejamība un efektivitāte (gan uz indivīdiem, gan sabiedrībām) ir palielinājusies, jo attīstās sarežģītākas tehnoloģijas, jo īpaši mākslīgā intelekta (AI) jomā.
| Saistītais raksts: OpenAI's izpilddirektors norāda, ka izglītības sistēmai ir jāpielāgojas ChatGPT, nevis aizliegt to |
Trīs galvenie faktori veicina melu kā patiesības rašanos, izplatību un pieņemšanu pasaulē:
- AI balstītu attēlu un video izstrāde ģeneratori kas var radīt ļoti reālistiskus attēlus un videoklipus ar cilvēkiem un notikumiem, kas patiesībā nekad nav notikuši.
- Sociālo mediju izmantošana, lai ļoti ātri izplatītu nepatiesu informāciju lielam skaitam cilvēku.
- Fakts, ka daudzi cilvēki tagad vairāk uzticas informācijai, kas nāk no interneta, nevis no tradicionālajiem mediju avotiem.
Šo faktoru rezultātā uz AI balstītie attēlu un video ģeneratori kļūst arvien ērtāk lietojami, ļoti uzticami un ļoti efektīvi. Tas padara tos neticami noderīgus propagandas nolūkos.
Tagad ikviens, kam ir dators un interneta pieslēgums, var izveidot viltotus attēlus un video, kas praktiski neatšķiras no realitātes. Tas ir novedis pie situācijas, kurā ir ļoti grūti noteikt, kas ir patiesība un kas nav.
Lielas bažas rada arī sociālo mediju izmantošana nepatiesas informācijas izplatīšanai. Sociālo mediju darbības dēļ nepatiesa informācija var izplatīties ļoti ātri un viegli. Tāpēc cilvēkiem ir grūti zināt, kam ticēt.
Tālāk ir parādīts, kā revolucionāra attīstība 2022. gadā ļāva izveidot viltojumu attēlus kas atbilst aprakstiem, piemēram, “Jenots svinīgās drēbēs ar cilindru, spieķi un atkritumu maisu. "Eļļas glezna Rembranta stilā (rezultāts ir kreisajā pusē) un Van Goga (rezultāts labajā pusē)."
Robežas starp patiesību un nepatiesību dzēšanas procesa galējā vienkāršošana apvienojumā ar cilvēku kritiskās domāšanas nespēju stāties pretī AI propagandai novedīs pie visuresošās,defispējīgas un nepārvaramas ietekmes operācijas gan politikā, gan biznesā.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
