Ang mga Tech Experts ay Pumirma ng Open Letter Calling para sa Pansamantalang Pag-pause sa Pagsasanay ng AI Systems na Mas Maunlad Kaysa GPT-4
Sa madaling sabi
Mahigit sa 1100 lumagda ang pumirma sa bukas na liham na humihiling ng paghinto sa mga higanteng eksperimento sa AI.
Kasama sa mga lumagda sina Elon Musk, Steve Wozniak, at Emad Mostaque, bukod sa iba pa.
Ang bukas na liham ay nagtaas ng mga alalahanin tungkol sa mga bias ng impormasyon ng AI, automation ng trabaho at ang panganib ng AI sa sibilisasyon ng tao.
Mahigit sa 1,100 signatories kabilang ang mga nangungunang eksperto sa teknolohiya ang pumirma ng isang bukas na sulat nananawagan ng anim na buwang paghinto sa pagsasanay sa mga AI system na mas advanced kaysa GPT-4.
Ang liham ay isinulat ng Future of Life Institute, isang nonprofit na organisasyon na nagsisikap na bawasan ang mga pandaigdigang sakuna at eksistensyal na panganib na kinakaharap ng sangkatauhan, lalo na ang eksistensyal na panganib mula sa advanced na artificial intelligence.
Sinipi ang malawak na ineendorso na Asilomar AI Principles, na nagsasaad na "Ang advanced AI ay maaaring kumatawan sa isang malalim na pagbabago sa kasaysayan ng buhay sa Earth, at dapat planuhin at pamahalaan nang may katumbas na pangangalaga at mapagkukunan," ang liham ay nagsasabi na ang antas ng pagpaplano at hindi nangyayari ang pamamahala.
Ang liham ay nagpatuloy sa pagsasabi na ang mga AI lab ay nasa isang "out-of-control" na lahi upang bumuo ng mas malakas na artificial intelligence na walang sinuman ang makakaintindi, mahulaan o maasahan na makokontrol. Tulad ng mga kontemporaryong sistema ng AI GPT-4 maaari makipagkumpitensya sa mga tao sa mga pangkalahatang gawain, ang liham ay nagpapahayag ng mga alalahanin tungkol sa mga bias ng impormasyon ng AI, automation ng trabaho, at ang panganib na mawalan ng kontrol sa sibilisasyon ng tao.
“Nananawagan kami sa lahat ng AI lab na agad na i-pause nang hindi bababa sa 6 na buwan ang pagsasanay ng mga AI system na mas malakas kaysa GPT-4. Ang pag-pause na ito ay dapat na pampubliko at nabe-verify, at kasama ang lahat ng pangunahing aktor. Kung ang gayong paghinto ay hindi maisabatas nang mabilis, ang mga pamahalaan ay dapat na pumasok at magsagawa ng isang moratorium, "
ang mga titik ay nagsasaad.
Ang liham ay humihiling sa mga AI lab at mga eksperto sa teknolohiya na gamitin ang panahon ng pag-pause para bumuo at magpatupad ng mga protocol sa kaligtasan para sa advanced na disenyo at pag-develop ng AI na mahigpit na sinusuri at pinangangasiwaan ng mga independyenteng eksperto sa labas.
Gayunpaman, pinuna ng Amerikanong mamamahayag na si Jeff Jarvis ang liham, kasabihan na ito ay isang "pangunahing ispesimen ng moral na pagkasindak."
Ang ilan sa mga nangungunang isip sa tech at machine learning na pumirma sa sulat kasama ng DeepMind research scientists at ilang propesor sa unibersidad mula sa buong mundo ay kinabibilangan ng:
- Yoshua Bengio, University of Montréal, Turing Laureate para sa pagbuo ng malalim na pag-aaral, pinuno ng Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, Propesor ng Computer Science, direktor ng Center for Intelligent Systems, at co-author ng standard textbook na "Artificial Intelligence: a Modern Approach"
- Elon Musk, CEO ng SpaceX, Tesla at Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, Co-Founder ng Skype, Center for the Study of Existential Risk, Future of Life Institute
- Gary Marcus, New York University, AI researcher, Propesor Emeritus
- Marc Rotenberg, Center for AI and Digital Policy (CAIDP), Presidente
Sa isang kamakailang sulat, isinulat ni Rotenberg na ang CAIDP ay magsasampa ng reklamo sa Federal Trade Commission, na nananawagan para sa pagsisiyasat ng Open AI at ChatGPT, pati na rin ang pagbabawal sa karagdagang komersyal na paglabas ng produkto hanggang sa maitatag ang mga pananggalang.
OpenAI Ang CEO na si Sam Altman ay mayroon inamin na "kailangan din natin ng sapat na oras para malaman ng ating mga institusyon kung ano ang gagawin" at ang lipunan ay hindi malayo sa "potensyal na nakakatakot" na mga generative na tool ng AI.
“Hinihiling namin sa FTC na “pindutin ang pause button” upang magkaroon ng pagkakataon para sa ating mga institusyon, ating mga batas, at ating lipunan na makahabol. Kailangan nating igiit ang ahensiya sa mga teknolohiyang nilikha natin bago tayo mawalan ng kontrol,” ang sabi ng liham ng CAIDP.
Sa iba pang dako, Mga mambabatas ng EU ay naglalayong pumirma ng isang kasunduan sa mga bansa sa EU sa pagtatapos ng taon upang ipatupad ang mga panuntunan ng AI, bagama't maaari itong maging isang bottleneck habang tumitindi ang mga debate sa kung paano dapat pamahalaan ang AI.
Magbasa nang higit pa:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Cindy ay isang mamamahayag sa Metaverse Post, sumasaklaw sa mga paksang nauugnay sa web3, NFT, metaverse at AI, na may pagtuon sa mga panayam kay Web3 mga manlalaro sa industriya. Nakipag-usap siya sa higit sa 30 C-level na mga executive at nadaragdagan pa, na nagdadala ng kanilang mahahalagang insight sa mga mambabasa. Originally from Singapore, Cindy is now based in Tbilisi, Georgia. Siya ay may hawak na Bachelor's degree sa Communications & Media Studies mula sa University of South Australia at may isang dekada ng karanasan sa pamamahayag at pagsusulat. Makipag-ugnayan sa kanya sa pamamagitan ng [protektado ng email] na may mga press pitch, mga anunsyo at mga pagkakataon sa pakikipanayam.
Mas marami pang artikulo
Si Cindy ay isang mamamahayag sa Metaverse Post, sumasaklaw sa mga paksang nauugnay sa web3, NFT, metaverse at AI, na may pagtuon sa mga panayam kay Web3 mga manlalaro sa industriya. Nakipag-usap siya sa higit sa 30 C-level na mga executive at nadaragdagan pa, na nagdadala ng kanilang mahahalagang insight sa mga mambabasa. Originally from Singapore, Cindy is now based in Tbilisi, Georgia. Siya ay may hawak na Bachelor's degree sa Communications & Media Studies mula sa University of South Australia at may isang dekada ng karanasan sa pamamahayag at pagsusulat. Makipag-ugnayan sa kanya sa pamamagitan ng [protektado ng email] na may mga press pitch, mga anunsyo at mga pagkakataon sa pakikipanayam.
