Ang Kaso para sa Deepfake na Regulasyon
Sa madaling sabi
Ang mga Deepfakes, na dating bago, ay mabilis na naging isang sistematikong banta sa negosyo, lipunan, at demokrasya—na humihingi ng agarang regulasyon, matatag na mga tool sa pagtukoy, at mas malakas na media literacy upang pangalagaan ang tiwala sa digital world.
Hindi na bago ang Deepfakes. Mabilis silang nagiging isang sistematikong banta sa negosyo, lipunan, at demokrasya. Ayon sa European Parliament, humigit-kumulang 8 milyong deepfake ang ibabahagi sa 2025, mula sa 0.5 milyon lang noong 2023. Sa UK, dalawa sa limang tao ang nagsasabing nakatagpo sila ng hindi bababa sa isang deepfake sa nakalipas na anim na buwan. Ngunit kung saan minsan ay medyo madaling makita ang mga ito, ang pagtaas ng pagiging sopistikado ng mga pampublikong magagamit na modelo ng AI ay nagpahirap sa pagtuklas kaysa dati.
Ang mga pagsulong sa mga generative adversarial network (GAN) at mga modelo ng pagsasabog ay naging mga katalista para sa paglago ng mga advanced, hyper-realistic na deepfakes. Ang parehong mga teknolohiya ay naging instrumento sa pagpapagana ng tuluy-tuloy na pagpapalit ng mukha at modulasyon ng boses sa mga live na video call o stream. Ito ay lubos na nagpahusay sa karanasan ng user, na may mga kakayahan tulad ng mga virtual na avatar na ginagawang mas personalized at nakaka-engganyo ang paglalaro at pagpupulong. Ngunit nagbukas din ito ng pinto sa mga real-time na scam sa pagpapanggap.
Maaari mong isipin na ang mga hindi pa nakakaalam ay mabibigo na makilala ang isang pagpapanggap ng isang taong lubos nilang kilala at pinagkakatiwalaan. Ngunit noong Mayo noong nakaraang taon, isang grupo ng mga scammer ang nagpanggap bilang isang senior manager sa engineering firm na Arup, na matagumpay na nakumbinsi ang isang empleyado sa departamento ng pananalapi na ilipat ang HK$200m ng mga pondo sa limang lokal na bank account. Ang mga katulad na pag-atake na nagpapanggap bilang mga senior na empleyado at CEO ay inilunsad laban sa mga tulad ng Ferrari, WPP, at Wiz sa loob ng nakalipas na 12 buwan, na sumisira sa tiwala sa mga digital na komunikasyon.
Ang pag-clone ng boses ay tumaas din kasama ng mga deepfakes. Ang AI-driven na voice synthesis ay kaya na ngayong kopyahin ang boses ng tao na may nakakagulat na antas ng katumpakan. Nakapagtataka, sapat na ang ilang segundo ng audio para makagawa ng halos perpektong clone. Maaaring mainam iyon para sa lahat ng uri ng malikhaing paggamit, gaya ng mga personalized na audiobook o pag-dubbing, ngunit may potensyal itong magdulot ng matinding pinsala.
Noong Hulyo ng taong ito, isang babae sa Florida ang nalinlang sa pag-abot ng US$15k na piyansa matapos marinig ang pinaniniwalaan niyang umiiyak na humingi ng tulong ang kanyang anak pagkatapos ng aksidente sa sasakyan. Ang tumatawag, isang AI clone na gumaganap bilang kanyang anak, sa kalaunan ay inilipat ang tawag sa isang dapat na abogado, na nagbigay ng mga tagubilin para sa paglipat. Ang katotohanan na ang mga clone na ito ay pinagsama-sama gamit ang mga snippet lamang ng mga boses ng mga tao, na madaling mahanap sa pamamagitan ng mga social media channel, ay nagpapakita ng potensyal para sa maling paggamit.
Sa social media, lumalabo ang linya sa pagitan ng realidad at fiction. Ang mga virtual influencer na binuo ng AI ay nangingibabaw sa landscape ng online marketing, na nag-aalok ng mga brand na ganap na nakokontrol na mga persona. Ang mga madla ay kailangan na ngayong mag-navigate sa isang mundo kung saan ang mga lehitimo at artipisyal na personalidad ay halos hindi nakikilala, na naglalabas ng mga tanong tungkol sa pagiging tunay sa media. Sa Hollywood, ang mga deepfake ay ginagamit upang alisin ang edad ng mga aktor o muling likhain ang mga makasaysayang figure. Bagama't binibigyan nito ang mga kumpanya ng produksyon ng kakayahang pahusayin ang kalidad ng kanilang nilalaman sa medyo murang halaga, binibigyan din nito ang mga scammer ng paraan upang magparami ng nakakumbinsi na pagkakahawig ng mga sikat na celebrity at gamitin ito upang magdulot ng kontrobersya.
Ngunit ang mga pusta ay mas mataas kaysa sa maling representasyon ng celebrity. Ang mga deepfakes ay maaaring gamitin upang maghasik ng pagkakahati-hati sa pulitika, sa pamamagitan ng pagpapakalat ng mga maling salaysay o paggawa ng mga video ng mga pampulitikang figure na naghahatid ng mga pekeng talumpati. Ang mga kahihinatnan ay maaaring maging malalim, nakakagambala sa opinyon ng publiko, nagbabago sa takbo ng pambansang halalan, at posibleng makalason sa pandaigdigang pampulitikang diskurso.
Nahaharap sa napakaraming banta, ang mga pamahalaan sa buong mundo ay tumutugon. Sa Europe, ang AI Act ay naglalaman ng isang sugnay para sa mandatoryong pag-label ng nilalamang nabuo o binago sa tulong ng AI, na dapat na may label na ganoon upang maipaalam sa mga user ang pinagmulan nito. Bagama't huminto ang pagkilos sa pagbabawal ng mga deepfakes, ipinagbabawal nito ang paggamit ng mga AI system na lihim na nagmamanipula ng mga tao sa ilang partikular na konteksto. Ang ilang pamahalaan ay aktibong gumagamit o namumuhunan sa mga teknolohiya sa pagtuklas na maaaring tumukoy ng mga banayad na pagbabago sa mga boses, mukha, o larawan.
Ngunit ang regulasyon ay nahuhuli pa rin sa teknolohiya. Ang ipinag-uutos na pag-label, AI artifact detection algorithm, at audio forensics ay isang mahalagang bahagi ng solusyon, ngunit ang pagpigil sa malalim na banta ay nangangailangan ng mas malawak at mas komprehensibong diskarte. Ang matatag na regulasyon at mga alituntunin sa etika, kasama ang pamumuhunan sa media literacy, ay may katumbas, kung hindi man mas malaki, na bahagi upang labanan ang malalim na pandaraya at maling impormasyon.
Ang mga alituntunin sa regulasyon at etikal ay dapat maging mas maagap, na ang mga pamantayan sa watermarking at mandatoryong pagsisiwalat ay nagiging mga custom na feature ng anumang deepfake na diskarte. Ang media literacy, samantala, ay dapat ituring bilang priyoridad. Ang mga mamamayan ay dapat na nilagyan ng mga kritikal na kasanayan sa pag-iisip upang tanungin kung ano ang kanilang nakikita at naririnig. Sa pamamagitan lamang ng pagtutulungan, sa pagitan ng mga regulator, pribadong sektor, at civil society, mapoprotektahan natin ang digital na buhay at matiyak na ang malalim na banta ay magiging isang bagay ng nakaraan.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Victoria ay isang manunulat sa iba't ibang paksa ng teknolohiya kabilang ang Web3.0, AI at mga cryptocurrencies. Ang kanyang malawak na karanasan ay nagpapahintulot sa kanya na magsulat ng mga insightful na artikulo para sa mas malawak na madla.
Mas marami pang artikulo
Si Victoria ay isang manunulat sa iba't ibang paksa ng teknolohiya kabilang ang Web3.0, AI at mga cryptocurrencies. Ang kanyang malawak na karanasan ay nagpapahintulot sa kanya na magsulat ng mga insightful na artikulo para sa mas malawak na madla.
