Nagbabala si Dario Amodei Tungkol sa Agwat sa Pamamahala Habang Mas Pinabilis ng AI ang Patakaran, Hinihimok ang mga Repormang May Kaugnayan sa Kaligtasan at Ekonomiya
Sa madaling sabi
Binalangkas ni Dario Amodei, CEO ng Anthropic, ang mga panganib sa AI at nagmumungkahi ng mas mahigpit na regulasyon, mga pananggalang sa ekonomiya, at pandaigdigang koordinasyon upang pamahalaan ang mabilis na pag-unlad ng AI.
Dario Amodei, CEO ng Antropiko, ay nagsabi sa isang bagong sanaysay na ang AI ay mas mabilis na umuunlad kaysa sa kayang tumugon ng mga sistemang pampulitika, at ikinatuwiran na ang mga tagagawa ng patakaran ay dapat umangkop nang mabilis habang ang mga modelo ng hangganan ay nagsisimulang muling hubugin ang seguridad, ekonomiya, at mga pampublikong institusyon. Inihambing niya ang agwat sa bilis sa pagitan ng pag-unlad at batas ng AI sa pagkakaiba sa pagitan ng mabilis na umuunlad na mga Hobbit at ng mabagal na Treebeard, na sinasabing ang hindi pagtutugma ay naging lalong mahalaga habang ang mga modelo ay bumubuti sa coding, agham, at iba pang gawaing pang-kaalaman.
Binigyang-diin ng negosyante na ang mga naunang pagsisikap sa patakaran ay higit na limitado sa mga hakbang sa transparency, mga kontrol sa pag-export, at pangongolekta ng datos dahil ang mga panganib ay umuusbong pa rin at hindi malinaw. Aniya, nagbago na ang sitwasyon ngayon, na itinuturo ang mga kakayahan ng modelo sa hangganan na nagbunyag ng mga seryosong alalahanin sa cybersecurity at nagpakita na ang mga advanced na sistema ng AI ay maaaring makaapekto sa katatagan sa pananalapi, kritikal na imprastraktura, at pambansang seguridad. Nagtalo siya na ang susunod na yugto ng patakaran ay dapat na lumampas lamang sa pagsisiwalat at patungo sa mga umiiral na patakaran para sa mga modelong may mataas na panganib.
Regulasyon, Pagkagambala sa Ekonomiya, at mga Umuusbong na Prayoridad sa Patakaran sa Panahon ng AI
Tungkol sa regulasyon at kaligtasan ng publiko, iminungkahi ni Dario Amodei ang isang balangkas na katulad ng pangangasiwa sa abyasyon, na may mandatoryong pagsusuri ng ikatlong partido para sa mga advanced na modelo bago ang pag-deploy. Sinabi niya na ang mga modelong higit sa isang tiyak na compute threshold ay dapat suriin para sa mga panganib sa cybersecurity, maling paggamit ng biyolohikal, pagkawala ng kontrol, at awtomatikong pananaliksik na maaaring magpalala sa mga bantang iyon. Sinabi rin niya na dapat magawa ng mga pamahalaan na maantala o harangan ang pag-deploy kung ang mga panganib na iyon ay itinuturing na hindi katanggap-tanggap, habang hinihiling ang matibay na mga kasanayan sa seguridad, regular na red-teaming, penetration testing, at agarang pag-uulat ng insidente mula sa mga AI developer.
Nakatuon din ang sanaysay sa pagkagambala sa ekonomiya. Sinabi ni Amodei na ang makapangyarihang AI ay maaaring mapabilis ang paglago habang pinapalitan din ang malaking bilang ng mga manggagawa sa pamamagitan ng pagpapalit ng cognitive labor ng tao nang mas mabilis kaysa sa mga nakaraang teknolohiya. Nagbabala siya na maaari itong magdulot ng isang mundo ng napakabilis na paglago kasabay ng patuloy na hindi pagkakapantay-pantay, na nagpapahirap sa pagtiyak na ang mga benepisyo ay malawakang maibabahagi. Sinabi niya na ang patakaran ay dapat tumuon sa pagsukat, suporta sa workforce, insurance sa sahod, muling pagsasanay, at posibleng pangmatagalang suporta sa kita kung ang demand sa paggawa ay bumaba nang malaki.
Sa isa pang seksyon, sinabi ng CEO ng Anthropic na maaaring mapabilis ng AI ang pag-unlad ng agham, lalo na sa biomedicine, ngunit ang mga umiiral na sistema ng regulasyon ay maaaring masyadong mabagal upang hawakan ang isang alon ng inobasyon na tinutulungan ng AI. Iminungkahi niya ang paghahanda ng mga ahensya ng pag-apruba tulad ng FDA at EMA upang tanggapin ang simulation na nakabatay sa AI, mga synthetic control arm, at iba pang mga pamamaraan na maaaring paikliin ang pagbuo ng gamot nang hindi binabawasan ang kaligtasan.
Nagbabala rin si Dario Amodei na maaaring mapataas ng AI ang kapangyarihan ng estado at lumikha ng mga bagong panganib sa kalayaang sibil, kabilang ang mga autonomous na armas, malawakang pagmamatyag, at hindi patas na paggamit ng gobyerno ng AI. Nanawagan siya para sa mas mahigpit na mga patakaran sa pananagutan, mga limitasyon sa lokal na paggamit ng mga ganap na autonomous na armas, at mas mahigpit na mga proteksyon sa privacy.
Panghuli, sinabi niya na ang mga demokrasya ay dapat magtulungan sa mga supply chain ng AI, mga pamantayan sa kaligtasan, at koordinasyong pang-ekonomiya, na nangangatwiran na ang AI ay nagiging isang estratehikong teknolohiya na maihahambing sa lakas nukleyar sa kahalagahan nito sa geopolitikal.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Alisa, isang dedikadong mamamahayag sa MPost, ay dalubhasa sa crypto, AI, mga pamumuhunan, at sa malawak na larangan ng Web3. Sa isang matalas na mata para sa mga umuusbong na uso at teknolohiya, naghahatid siya ng komprehensibong saklaw upang ipaalam at hikayatin ang mga mambabasa sa patuloy na umuusbong na tanawin ng digital finance.
Mas marami pang artikulo
Alisa, isang dedikadong mamamahayag sa MPost, ay dalubhasa sa crypto, AI, mga pamumuhunan, at sa malawak na larangan ng Web3. Sa isang matalas na mata para sa mga umuusbong na uso at teknolohiya, naghahatid siya ng komprehensibong saklaw upang ipaalam at hikayatin ang mga mambabasa sa patuloy na umuusbong na tanawin ng digital finance.
