Ang 6 na buwang Pag-pause sa Pagsasanay sa AI ay Isang Magandang Ideya, ngunit Maaaring Hindi Ito Sapat
Sa madaling sabi
Ang kwento ng petisyon at ang paglabas ng artikulo ni Yudkovsky ay nagpa-polarized sa lipunan.
Ang dilemma at teorya ng laro ng bilanggo ay nagmumungkahi na ang isang kritikal na masa ng matino na tao sa iba't ibang lugar ay kailangan para malutas ang mga naturang problema.
Gayunpaman, may ilang ngunit sa ideyang ito, tulad ng kakulangan ng kamalayan, kalooban, at ahensya sa digital evolution.
Ang kwento ng petisyon na ihinto ang pagbuo ng mga AI system na mas advanced kaysa GPT-4 may kapansin-pansing polarized na lipunan. Ang pagpapalabas ng Yudkovsky's artikulo humihingi ng pagsasara ng karagdagang pag-unlad ng GPT Ang mga modelo ay nagdagdag ng gasolina sa apoy, lalo na ang kanyang mga sipi tungkol sa pambobomba sa mga sentro ng data.
Mula sa kung ano ang mapapansin online, mukhang mas kaunti ang mga tagasuporta ng petisyon kaysa sa mga kalaban, na may tatlong pangunahing argumento:
| 1 | – Hindi mapipigilan ang pag-unlad. – Ang petisyon ay inimbento ni OpenAI mga katunggali. – Hindi maghihintay ang China. |
| 2 | – Hindi ka dapat matakot sa AI kundi sa mga tao. - GPT walang kamalayan, kalooban, adhikain, o ahensya, kaya walang dapat ikatakot. - GPT-4 ay nakakabaliw na malayo sa pag-aalipin sa mundo dahil wala itong naiintindihan, gumagawa ng mga hangal na pagkakamali, at sa pangkalahatan ay medyo hangal. - GPT-4 ay hindi kayang patakbuhin ang mundo dahil wala itong mga braso/binti. |
| 3 | – Hindi naiintindihan ng ikatlong grupo kung paano GPT-4 gumagana sa unang lugar. |
Hindi tayo magko-concentrate sa ikatlong grupo dahil ang kanilang paninindigan ay mula sa kamangmangan. Iyon ay hindi upang sabihin na ang lahat ng AI opponents alam ang lahat tungkol sa AI; makakahanap ka ng maraming taong anti-AI na kulang sa pag-unawa sa teknolohiya at kung ano ang kasama nito, bagaman si Yudkovsky mismo ay mas malalim sa paksa ng AI, kaya hindi siya maaaring akusahan ng kamangmangan.
Tingnan natin ang unang grupo ng mga tao–mga naniniwalang hindi mapipigilan ang pag-unlad. Nag-aalok sila ng magkaibang mga argumento, at sa pangkalahatan, hindi itinatanggi ng mga taong iyon ang mga kakayahan ng AI at ang mga prospect na dulot ng pag-aampon nito at naniniwalang magpapatuloy ang pag-unlad ng AI kahit na ano pa man.
Ang unang thesis tungkol sa hindi mapigilang pag-unlad ay isang slogan na hindi kailangang totoo. Ang mga tao ay tila huminto sa ilang siyentipikong mga eksperimento, at maraming dating tinanggap na mga proyekto sa pananaliksik ay hindi na itinuturing na etikal, at ang mga katulad nito ay hindi na papayagan ngayon. Gayunpaman, gaano karaming pag-unlad sa nakaraan ang napigilan ng Inkisisyon at iba pang relihiyosong pag-uusig, pagbabawal sa libro, at pagpatay sa mga siyentipiko sa Tsina (at iba pang mga bansa)? Iyan ay isang bagay na hindi natin lubos na mauunawaan dahil sa bias ng survivorship.
Kasama sa iba pang mga thesis ang diskarte na maaaring ibuod bilang "kung hindi tayo, sila ang magiging." Bagama't maaaring mas mauunawaan ang linya ng pag-iisip na ito, mukhang hindi rin ito ang tamang solusyon. Ito ay halos kapareho sa dilemma ng bilanggo sa teorya ng laro.
Ang pangalawang pangkat ng mga argumento ay ang pinaka-kawili-wili. Bagama't ako ay personal na sumasang-ayon dito sa ilang lawak, may ilang mga ngunit kailangan upang matugunan. Oo, ang AI ay walang kamalayan, kalooban, ahensya, atbp. Maging ang COVID-19, ngunit ito ay nagdulot ng kalituhan sa buong mundo. Ang isang bagay ay hindi kailangang magkaroon ng pakiramdam ng kalayaan at kamalayan upang maging mapanganib; isang senaryo na ang buhay sa mundo ay nalipol dahil sa isang virus ay hindi maisip. Kapag tapos na ang trabaho nito, maaari na nitong ilagay ang mga upuan sa mga mesa, patayin ang mga ilaw, at umalis nang tuluyan.
Sa pagpapatuloy ng biological na analogy, mayroong isang napakagandang artikulo, "The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities," na nagbibigay ng maraming halimbawa kung kailan napupunta ang mga proseso sa hindi inaasahang direksyon. Kahit na walang proseso ng ebolusyon, lahat ay maaaring mapunta sa maling generalization na "Misgeneralization ng Layunin: Bakit Hindi Sapat ang Mga Tamang Pagtutukoy Para sa Mga Tamang Layunin." Ang pagbibigay ng libreng rein sa isang proseso ng pag-optimize ay maaaring magkamali ay tinatalakay sa "Mga Panganib mula sa Natutunang Optimization sa Advanced Machine Learning System. "
Kasabay nito, sa pangkalahatan ay hindi namin isinasaalang-alang ang mga panganib ng malisyosong paggamit ng AI at anumang maling gamit, na nagpapakain lamang ng argumento na kailangan nating matakot sa mga tao at hindi sa AI mismo. Gayunpaman, ang katotohanan ng bagay ay maaaring maging masama ang AI kahit na walang mga malisyosong tao.
Sumasang-ayon din ako tungkol sa katotohanan na ang modelo ay gumagawa ng mga hangal na pagkakamali, ngunit gayon din ang mga tao, ngunit alam nating maaari silang gumawa ng pinsala. Bagama't maraming pagkakamali ang mga modelo, maaari din nilang lutasin ang maraming kahanga-hangang, cool, at kumplikadong mga problema na hindi kayang lutasin ng karaniwang tao. Mula sa kilalang akda na “Sparks of Artificial General Intelligence: Early Experiments with GPT-4, "Natamaan ako, sa kakayahang malutas ng AI, kahit na hindi palaging tama, ang mga problema sa Fermi, medyo kumplikadong mga problema sa matematika. Ang teorya ng pag-iisip at "tulad ng kakayahang maunawaan" ang mga aksyon ng iba ay kahanga-hanga din. Ang lahat ng mga bagay na ito ay tumuturo patungo sa katalinuhan ng AI; umiiral, ngunit hindi katulad ng sa atin.
Ang pag-aalis ng hindi bababa sa ilan sa mga pagkakamali ng mga modelo ng AI ay karaniwang magagawa, kaya ang kanilang katalinuhan ay maaaring lumago lamang. Ang kailangan mo lang gawin ay magdagdag ng isang module para sa mga tumpak na kalkulasyon, isang base ng katotohanan, at pagpapatunay sa isa pang modelo.
Ang pinakamahalagang bagay sa buong kwentong ito ay ang bilis ng pag-unlad ng AI. GPT modelo ay lumago nang husto sa isang nakakahilo na bilis. Ngayon, meron ChatGPT plugin magagamit, maaari mong gamitin GPT mga modelo upang magsulat ng code, ang mga API ay magagamit sa malaking publiko, at maaari kang gumamit ng mga panlabas na tool nang walang anumang naunang pagsasanay.
GPT-4, siyempre, ay hindi lupigin ang mundo, ngunit maaari itong magkalog ng ekonomiya ng maraming. GPT-5, at ang hinaharap na pag-ulit ng modelo, ay maaaring hindi masyadong malayo at malamang na may mas malakas na kakayahan. At aminin natin, hindi tayo makakaasa na mauunawaan ang hindi pa umiiral na mga modelo; hindi man lang tayo napalapit sa pag-unawa sa mga modelong umiiral na. Sa ganitong diwa, maaaring isang magandang ideya ang anim na buwang pahinga, ngunit maaaring hindi ito sapat.
At ibinigay na ang lahi ng AI nagsimula na, walang oras para matuto.
Sa pangkalahatan, dahil sa lahat ng ito, nilagdaan ko rin ang petisyon. Kahit na hindi ako naniniwala na ito ay makakatulong sa anumang paraan.
Magbasa ng higit pang mga kaugnay na paksa:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
