Ang mga Eksperto sa AI at Mga Pampublikong Figure ay Nagtaas ng Mga Alarm sa Panganib sa Pagkalipol ng AI
Sa madaling sabi
Ang mga kilalang eksperto sa AI at mga maimpluwensyang figure ay nagpapahayag ng kanilang ibinahagi mga alalahanin tungkol sa mga panganib na nauugnay sa AI.
Sa kabila ng makabuluhang pag-unlad sa AI, maraming hamon na nauugnay sa panganib ng AI ang nananatiling hindi nareresolba.
Ang mga kilalang eksperto sa AI at mga pampublikong pigura ay naglabas ng isang pahayag na nagbabala na ang AI ay maaaring magdulot ng banta sa kaligtasan ng sangkatauhan, maihahambing o mas malaki pa kaysa sa mga panganib ng mga pandemya at digmaang nukleyar. Ang 350 signatories ay nangangatwiran na ang AI ay maaaring magkaroon ng hindi inaasahan at sakuna na mga kahihinatnan, tulad ng pagpapakawala ng mga autonomous na armas, pag-abala sa mga sistemang panlipunan at pang-ekonomiya, o paglikha ng mga superintelligent na ahente na maaaring madaig at madaig ang mga tao.
Nananawagan sila sa mga gumagawa ng patakaran na seryosohin ang mga panganib na ito at gumawa ng mga hakbang upang matiyak ang ligtas at kapaki-pakinabang na pagpapaunlad ng AI. Ang pahayag ay nilagdaan ng ilan sa mga nangungunang figure sa AI research and development, gaya ng OpenAI CEO Sam Altman, ang co-founder ng Skype Jaan Tallinn, DeepMind CEO Demis Hassabis, at AI computer scientist na si Geoffrey Hinton, pati na rin ang mga maimpluwensyang pampublikong personalidad, tulad ng musikero na si Grimes at podcaster na si Sam Harris.
Kabilang sa mga lumagda ay ang mga nanalo ng 2018 Turing Award para sa kanilang mga kontribusyon sa malalim na pag-aaral: Geoffrey Hinton at Yoshua Bengio. Sinamahan sila ng mga propesor mula sa mga prestihiyosong unibersidad tulad ng Harvard at Tsinghua University sa China, pati na rin ang Max Tegmark ng MIT.
"Ang pagbabawas sa panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang priyoridad kasama ng iba pang mga panganib sa antas ng lipunan tulad ng mga pandemya at digmaang nukleyar,"
ang liham na inilathala ng CAIS ay nagsasaad.
Ang Center for AI Safety (CAIS), isang nonprofit na organisasyon na nakabase sa San Francisco, ay naglalayong tugunan ang mga alalahanin sa kaligtasan na nauugnay sa artificial intelligence. Habang kinikilala ang mga potensyal na benepisyo ng AI, binibigyang-diin ng CAIS ang pangangailangang paunlarin at gamitin ito nang ligtas. Sa kabila ng makabuluhang pagsulong sa AI, maraming pangunahing hamon sa kaligtasan ng AI ang nananatiling hindi nalutas, naniniwala ang kumpanya. Ayon sa website nito, ang misyon ng CAIS ay upang pagaanin ang mga panganib sa pamamagitan ng pagsasagawa ng pananaliksik sa kaligtasan, pagpapatibay ng isang komunidad ng mga mananaliksik sa kaligtasan ng AI, at pagtataguyod para sa mga pamantayan sa kaligtasan.
"Maraming "mahalaga at kagyat na panganib mula sa AI," hindi lamang ang panganib ng pagkalipol; halimbawa, systemic bias, maling impormasyon, malisyosong paggamit, cyberattacks, at weaponization. Ito ang lahat ng mahahalagang panganib na kailangang matugunan. Maaaring pamahalaan ng mga lipunan ang maraming panganib nang sabay-sabay; hindi ito “alinman/o” kundi “oo/at.” Mula sa isang pananaw sa pamamahala ng peligro, kung paanong magiging walang ingat na eksklusibong unahin ang mga kasalukuyang pinsala, magiging walang ingat din na huwag pansinin ang mga ito,"
Dan Hendrycks, ang direktor ng CAIS sinulat ni sa Twitter.
Noong Marso, mahigit 1,100 tech expert naka-sign isang bukas na liham na humihingi ng anim na buwang paghinto sa pagsasanay ng mga AI system na lumalampas GPT-4. Kamakailan din ang mga mambabatas sa Europa pinagtibay mas mahigpit na draft na batas, na kilala bilang AI Act, na kumokontrol sa mga tool ng AI tulad ng ChatGPT. Kasama sa batas ang mga kinakailangan para sa mga pagsusuri sa kaligtasan, pamamahala ng data, at pagpapagaan ng panganib para sa mga foundational na modelo ng AI at ipinagbabawal ang mga kasanayan tulad ng mga manipulative technique at ilang partikular na paggamit ng biometrics.
Magbasa nang higit pa:
- OpenAI Inilalahad ang Pinakabagong Diskarte nito sa Pagtiyak sa Kaligtasan ng AI
- Mag-aanunsyo ba ang Google ng text-to-avatar generator para sa mga manlalaro?
- Binibigyan ng CodeWhisperer ng Amazon ang mga Developer ng Edge na Kailangan nila sa AI Arena
- Sina Vitalik Buterin at Direktor ng MIRI na si Nate Soares ay Nagsaliksik sa Mga Panganib ng AI
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
Mas marami pang artikulo
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
