Ang Mga Kumpanya ng AI ay Dapat Gumastos ng 30% ng Kanilang Pagpopondo sa R&D sa Kaligtasan at Etika
Ang pinsalang dulot ng pagtatangi at maling impormasyon ay maliwanag na. May mga indikasyon na maaari ding lumabas ang iba pang mga panganib. Napakahalaga na pagaanin ang mga kasalukuyang panganib at mahulaan ang mga paparating na panganib.
Hindi namin alam kung paano masisigurong ligtas ang mga advanced na autonomous system o AGI o kung paano subukan ang mga ito kung available ang mga ito sa ngayon. Higit pa rito, kulang ang mga pamahalaan ng mga institusyong kinakailangan upang ihinto ang pang-aabuso at ilagay ang mga ligtas na gawi sa lugar, kahit na ginawa nila. Sinusuportahan ng mga may-akda ang pagbuo ng mahusay na pangangasiwa ng pamahalaan at pag-redirect ng mga pagsisikap sa R&D tungo sa kaligtasan at etika.
Kontrol at katapatan (maaaring madaig ng mas sopistikadong mga sistema ang pagsubok sa pamamagitan ng paggawa ng mali ngunit nakakumbinsi na mga sagot), katatagan (sa mga bagong kundisyon na may shift shift o adversarial inputs), interpretability (pag-unawa sa trabaho), pagtatasa ng panganib (lumalabas ang mga bagong kakayahan na mahirap hulaan), at ang paglitaw ng mga bagong hamon (mga hindi pa nagagawang failure mode) ay ilan sa mga hamon sa R&D na hindi malulutas ng pagbuo ng mas malakas na AI system.
Iminumungkahi ng mga may-akda na ang kaligtasan at etika ay dapat makatanggap ng hindi bababa sa isang-katlo ng pagpopondo para sa AI R&D.
Kailangang ipatupad ang mga pamantayan kaugnay ng parehong pambansang institusyon at pandaigdigang pamamahala. Kulang ang AI sa mga ito, ngunit mayroon ang mga industriya ng parmasyutiko, pananalapi, at nukleyar. Mayroon na ngayong mga insentibo para sa mga bansa at negosyo na makatipid sa kapinsalaan ng seguridad. Maaaring kumita ang mga kumpanya mula sa mga pagsulong ng AI habang iniiwan ang lipunan upang dalhin ang mga kahihinatnan, tulad ng pagtatapon ng mga industriya ng basura sa mga ilog.
Ang malakas na teknikal na kaalaman at ang kakayahang kumilos nang mabilis ay kinakailangan para sa mga pambansang institusyon. Sa pandaigdigang arena, ang mga partnership at kasunduan ay mahalaga. Ang mga burukratikong hadlang sa maliliit at mahuhulaan na mga modelo ay dapat na iwasan upang mapangalagaan ang akademikong pananaliksik at mga aplikasyon na mababa ang panganib. Ang mga frontier model—isang piling grupo ng pinakamakapangyarihang mga system na sinanay sa bilyong dolyar na mga supercomputer—ay dapat tumanggap ng pinakatuon.
Dapat maging mas bukas ang mga pamahalaan tungkol sa mga pag-unlad upang maging epektibo ang mga regulasyon. Ang mga regulator ay dapat mag-atas ng pagpaparehistro ng modelo, pangalagaan ang mga panloob na impormante, mag-utos ng pag-uulat ng insidente, at bantayan ang pagbuo ng mga modelo at paggamit ng mga supercomputer.
Ang mga regulator ay dapat ding magkaroon ng access sa mga sistemang ito bago ang kanilang paglabas sa produksyon upang masuri potensyal na nakakasama mga tampok tulad ng pagbuo ng pathogen, pagtitiklop sa sarili, at pagtagos ng system.
Ang mga system na may potensyal na maging mapanganib ay nangangailangan ng iba't ibang paraan ng pagkontrol. Frontier na modelo Dapat ding managot sa batas ang mga tagalikha para sa anumang pinsala sa kanilang mga system na naiwasan sana. Ito ay dapat na hikayatin ang pamumuhunan sa seguridad. Higit pang mga tampok, tulad ng paglilisensya ng gobyerno, ang kapasidad na ihinto ang pag-unlad bilang tugon sa potensyal na mapanganib mga kakayahan, kontrol sa pag-access, at mga hakbang sa seguridad ng impormasyon na hindi tinatablan ng mga hacker sa antas ng estado, ay maaaring kailanganin para sa mga system na napakahusay.
Bagama't walang mga panuntunan, dapat na mabilis na linawin ng mga negosyo ang kanilang mga responsibilidad kung noon sa pamamagitan ng pagbalangkas ng mga tumpak na hakbang na kanilang gagawin kung ang ilang mga kakayahan sa modelo ay tumawid sa isang pulang linya. Ang mga hakbang na ito ay kailangang maipaliwanag nang lubusan at malayang kumpirmahin. Kaya, ito ay. Ang magkahiwalay Pandagdag sa patakaran nag-iipon ng buod ng mga theses.
- Noong Oktubre, ang Frontier Model Forum ay nagpakilala ng AI Safety Fund na mahigit $10 milyon, na naglalayong humimok ng mga pagsulong sa pananaliksik sa kaligtasan ng AI. Ang pondo, isang pakikipagtulungan sa pagitan ng Frontier Model Forum at mga philanthropic partner, ay magbibigay ng suporta sa mga independiyenteng mananaliksik sa buong mundo na kaakibat ng mga institusyong pang-akademiko, organisasyon ng pananaliksik, at mga startup. Ang mga pangunahing nag-aambag sa inisyatiba ay ang Anthropic, Google, Microsoft, OpenAI, kasama ang mga philanthropic na organisasyon tulad ng Patrick J. McGovern Foundation, David and Lucile Packard Foundation, Eric Schmidt, at Jaan Tallinn. Pangunahing nakatuon ang AI Safety Fund sa pagpapalakas ng pagbuo ng mga bagong diskarte sa pagsusuri at mga pulang diskarte sa pagtutulungan para sa mga modelo ng AI, na naglalayong tumuklas ng mga potensyal na panganib. Plano ng Forum na magtatag ng isang Advisory Board sa mga darating na buwan, at ilalabas ang unang tawag nito para sa mga panukala at magkaloob ng mga parangal sa ilang sandali pagkatapos noon.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
