Stanford Observatory: Ang AI ay hahantong sa lahat ng mga kasinungalingan at hindi mapaglabanan na propaganda sa 2023
Sa madaling sabi
Ang mga teknolohiyang AICG (artificial intelligence content generation) ay gagawing hindi makilala ang katotohanan at kasinungalingan, kapwa para sa mga indibidwal at para sa mga lipunan sa anumang antas.
Ito ay lilikha ng isang "post-truth" na kapaligiran kung saan ang mga kasinungalingan at propaganda ay magiging ubiquitous, sadefimagaling, at hindi mapaglabanan.
Ang katotohanan na maraming tao ang higit na nagtitiwala sa impormasyong nagmumula sa internet kaysa sa tradisyonal na media ay isang pangunahing alalahanin.
Ang mga generator ng imahe at video na nakabatay sa AI ay nagiging mas maginhawang gamitin, lubos na maaasahan, at lubos na mahusay.
Ginagawa nitong hindi kapani-paniwalang kapaki-pakinabang para sa mga layunin ng propaganda.
Sa kanyang talumpati sa pandaigdigang komunidad ng AI, nagbabala ang Chinese AI guru na si Kai-Fu Lee na ang mundo ay haharap sa isang panganib na mas seryoso kaysa sa mga panganib ng digmaang nuklear, taggutom, o isang pandemya kasing aga ng 2023. Ang panganib ay ang pagbuo ng nilalaman ng artificial intelligence (AICG). Maaaring gawin ng mga teknolohiya ng AICG na hindi makilala ang katotohanan at kasinungalingan, kapwa para sa mga indibidwal at para sa mga lipunan sa anumang antas.
Ang bagong ulat ng Center for Security and Emerging Technology, OpenAI, at Stanford Internet Observatory, "Mga Generative Language Models at Automated Influence Operations: Mga Umuusbong na Banta at Potensyal na Mga Panukala sa Pagbabawas," ay nagbibigay ng isang madiskarteng pananaw sa sakuna na senaryo na inilarawan ni Kai-Fu Lee.
| Kaugnay na artikulo: Nais ng Kongreso ng US na lumikha ng isang pederal na ahensya na mag-regulate ng artificial intelligence |
Ang ulat ay nagdedetalye kung paano malamang na mangyari ang pagkahulog ng sangkatauhan sa kailaliman ng AICG. Ang mga teknolohiya ng AICG ay gagawing posible na makabuo ng napakaraming nilalaman na hindi maaaring makilala mula sa nilalamang nabuo ng tao. Ito ay lilikha ng isang "post-truth" na kapaligiran kung saan ang mga kasinungalingan at propaganda ay magiging ubiquitous, sadefimagaling, at hindi mapaglabanan.
Inirerekomenda ng ulat ang ilang hakbang sa pagpapagaan, kabilang ang pag-regulate sa paggamit ng mga teknolohiya ng AICG, pagpapataas ng transparency tungkol sa kanilang paggamit, at pagbuo ng mga pamantayan para sa kanilang paggamit. Gayunpaman, ang mga may-akda ng ulat ay nag-iingat na ang mga hakbang na ito ay magiging epektibo lamang kung ang mga ito ay ipapatupad sa isang pandaigdigang saklaw.
Ang paglabas ng ulat ay dumarating sa panahon na ang mundo ay nahihirapan na makayanan ang pagkalat ng maling impormasyon at disinformation. Ang pandemya ng COVID-19 ay sinamahan ng paglaganap ng maling impormasyon tungkol sa virus at mga pinagmulan nito, at ang mga social media platform ay nagpupumilit na pigilan ang pagkalat ng maling impormasyong ito.
Malaking babaguhin ng AI ang web
Ang mga kasinungalingan at propaganda ay palaging bahagi ng lipunan ng tao. Gayunpaman, ang pagkakaroon at pagiging epektibo ng anumang mga operasyon ng impluwensya (kapwa sa mga indibidwal at sa mga lipunan) ay tumataas dahil sa pag-unlad ng mga mas sopistikadong teknolohiya, partikular sa larangan ng artificial intelligence (AI).
| Kaugnay na artikulo: OpenAISinabi ng CEO na ang sistema ng edukasyon ay dapat umangkop sa ChatGPT, hindi ipagbawal |
Tatlong pangunahing salik ang nag-aambag sa pandaigdigang paglitaw, pagkalat, at pagtanggap ng mga kasinungalingan bilang katotohanan:
- Ang pagbuo ng AI-based na imahe at video generators na maaaring lumikha ng lubos na makatotohanang mga larawan at video ng mga tao at mga kaganapan na hindi kailanman aktwal na nangyari.
- Ang paggamit ng social media upang ipakalat ang maling impormasyon sa malaking bilang ng mga tao nang napakabilis.
- Ang katotohanan na maraming mga tao ngayon ang higit na nagtitiwala sa impormasyong nagmumula sa internet kaysa sa mga tradisyonal na mapagkukunan ng media.
Bilang resulta ng mga salik na ito, ang mga generator ng imahe at video na nakabatay sa AI ay nagiging mas maginhawang gamitin, lubos na maaasahan, at lubos na mahusay. Ginagawa nitong hindi kapani-paniwalang kapaki-pakinabang ang mga ito para sa mga layunin ng propaganda.
Posible na ngayon para sa sinumang may computer at koneksyon sa internet na lumikha ng mga pekeng larawan at video na halos hindi matukoy ang pagkakaiba sa katotohanan. Ito ay humantong sa isang sitwasyon kung saan napakahirap matukoy kung ano ang totoo at kung ano ang hindi.
Malaking alalahanin din ang paggamit ng social media para magpakalat ng maling impormasyon. Dahil sa paraan ng paggana ng social media, ang maling impormasyon ay maaaring kumalat nang napakabilis at madali. Ginagawa nitong mahirap para sa mga tao na malaman kung ano ang paniniwalaan.
Ang mga sumusunod ay naglalarawan kung paano naging posible ang isang rebolusyonaryong pag-unlad noong 2022 na lumikha ng peke imahe na tumugma sa mga paglalarawan tulad ng "Isang raccoon sa mga pormal na damit na may pang-itaas na sombrero, isang tungkod, at isang bag ng basura. "Oil painting sa estilo ng Rembrandt (ang resulta ay nasa kaliwa) at Van Gogh (ang resulta ay nasa kanan)."
Ang labis na pagpapasimple ng proseso ng pagbubura ng linya sa pagitan ng katotohanan at kasinungalingan na sinamahan ng kawalan ng kakayahan ng kritikal na pag-iisip ng mga tao na kontrahin ang AI propaganda ay hahantong sa pangingibabaw ng lahat, sadefimahusay, at hindi malulutas na mga operasyon ng impluwensya, kapwa sa pulitika at negosyo.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
