Dan Hendrycks: Pagpili sa Pagitan ng AI at mga tao, Hindi Kami Pipiliin ng Ebolusyon
Sa madaling sabi
Ang pananaliksik ni Dan Hendrycks na "Natural selection ay mas pinipili ang artificial intelligence kaysa sa mga tao" ay isang nakakatakot na konklusyon.
Siya ay isang karanasan at kilalang mananaliksik na nag-publish ng dose-dosenang mga siyentipikong papel sa pagtatasa ng seguridad ng mga sistema ng AI.
Ang pananaliksik ni Dan Hendrycks ay parang hatol ng kamatayan para sa Homo Sapiens. Ang konklusyon ng pag-aaral "Pinapaboran ng Natural Selection ang AI kaysa sa Tao” nakakatakot talaga. Ito ay isinulat hindi ng isang sikat na visionary tulad ni Dan Brown ngunit ni Dan Hendrycks, ang direktor ng California Center for AI Security (CAIS), isang non-profit na organisasyon na dalubhasa sa pananaliksik at fieldwork sa AI security.
Si Dan Hendrycks ay hindi isang palawit na baliw na nagpapanic sa mga pagsulong ng AI. Isa siyang karanasan at malawak na iginagalang na mananaliksik na nag-publish ng dose-dosenang mga siyentipikong papel sa pagtatasa sa seguridad ng mga AI system — pagsubok kung gaano sila kahusay sa coding, pangangatwiran, pag-unawa sa mga batas, atbp. Sa iba pang mga bagay, siya rin ang co-inventor ng ang Gaussian Linear Error Units (GELU).
Jack Clark, co-founder ng ChatGPT Ang katunggali na si Anthropic, co-chair ng AI Index ng Stanford University, co-chair ng AI at Compute section ng OECD at miyembro ng National Advisory Committee ng US Government on AI ay tinatalakay ang pagtatapos ng pag-aaral ni Hendrycks. "Ang mga tao ay reflexively nais na talikuran ang gayong pahayag na nagmumula sa ilang ligaw na mata na baliw na nakatira sa isang kubo sa kagubatan. Gusto kong pabulaanan ito nang maaga. Kapag ang isang dalubhasa na may karanasan hindi lamang sa pagsasaliksik ng AI kundi pati na rin sa pagtatasa sa kaligtasan ng mga AI system sumulat ng isang papel na nangangatwiran na ang mga hinaharap na sistema ng AI ay maaaring kumilos nang makasarili at hindi alinsunod sa mga interes ng mga tao, dapat nating pangalagaan ito!
Isang buod ng papel ni Hendrycks:
- Kung nagiging mas marami ang mga ahente ng AI matalino kaysa sa tao, maaari itong humantong sa pagkawala ng kontrol ng sangkatauhan sa hinaharap nito.
- Ito ay may magandang pagkakataon na mangyari hindi bilang resulta ng ilang espesyal na malisyosong hangarin ng mga tao o makina ngunit bunga lamang ng pagkakalapat ng mga ebolusyonaryong prinsipyo ng pag-unlad sa AI ayon sa Darwinian logic.
- Upang mabawasan ang panganib nito, ang mga intrinsic na motibasyon ng mga ahente ng AI ay kailangang maingat na idisenyo, mga paghihigpit na inilagay sa kanilang mga aksyon, at mga institusyong nilikha upang hikayatin ang pakikipagtulungan ng AI.
Iyon ay, ang pinakamahalagang punto na ginawa ni Hendrycks sa kanyang 43-pahinang siyentipikong papel:
1. Natakot kami sa pagdating ng Terminator, ngunit mali ang mga pundasyon ng mga takot na ito. Mayroong dalawang mga pagkakamali:
a. Anthropomorphization ng AI na may pagpapatungkol ng aming mga motibasyon dito, atbp.—bilang ChatGPT ipinakita, AI ay isang panimula na naiibang isip, kasama ang lahat ng mga kahihinatnan na nagmumula dito.
b. Ang ideya na ang AI ay isang uri ng nag-iisang entity: matalino o hindi masyadong matalino, mabait o hindi masyadong mabait, ngunit sa katunayan, ang magkakaibang AI entity na ito ay malapit nang mapunta sa mundo hangga't maaari.
2. May isa pang pangunahing depekto sa aming mga ideya tungkol sa hinaharap na may AI — nakalimutan namin ang tungkol sa pinakamahalagang mekanismo ng pag-unlad — ang ebolusyon, na nagtutulak sa pagbuo ng hindi lamang mga bioagents kundi pati na rin ang mga ideya at kahulugan, materyal na kasangkapan, at hindi materyal na institusyon.
3. Nagsimula nang mahubog ang isang kapaligiran sa Earth kung saan maraming AI ang bubuo at bubuo. Ang ebolusyon na ito ay pupunta ayon sa lohika ni Darwin, sa pamamagitan ng kumpetisyon ng AI sa kanilang mga sarili, na isinasaalang-alang ang mga interes ng kanilang "magulang" na mga institusyon: mga korporasyon, militar, atbp.
4. Ang lohika ng mapagkumpitensyang ebolusyon ay hahantong sa kapareho ng sa mga tao: ang lalong matalinong mga ahente ng AI ay magiging mas makasarili at handang makamit ang mga layunin sa pamamagitan ng panlilinlang at puwersa, ang pangunahing layunin ay kapangyarihan.
5. Ang natural na pagpili ng mga ahente ng AI ay may posibilidad na paboran ang mas makasarili na mga species kaysa sa mas altruistic. Ang mga ahente ng AI ay kikilos nang makasarili at ipagpatuloy ang kanilang sariling mga interes nang hindi gaanong isinasaalang-alang ang mga tao, na maaaring humantong sa mga sakuna na panganib para sa sangkatauhan.
- Ang petisyon upang ihinto ang pagbuo ng mga AI system na mas advanced kaysa GPT-4 may polarized na lipunan. Naniniwala ang unang grupo na hindi mapipigilan ang pag-unlad, habang ang isa naman ay naniniwala na ang pag-unlad, at kung minsan ay dapat, itigil. Hindi naiintindihan ng ikatlong grupo kung paano GPT-4 gumagana sa unang lugar. Ang pinakamahalagang detalye sa tekstong ito ay ang AI ay walang kamalayan, kalooban, o ahensya at maaari itong maging masama kahit na walang malisyosong tao.
- Si Geoffrey Hinton ay madalas na tinatawag na "Godfather of AI" at itinuturing na isang nangungunang figure sa deep learning community. Ang kanyang 40 minutong panayam ng ChatGPT ay natatangi dahil ito ay madaling maunawaan at may malalim na pang-unawa na naa-access ng ilang iba pa. Binibigyang-diin niya ang kahalagahan ng patuloy na "rebolusyong intelektwal" at ang hindi makataong katalinuhan ng ChatGPT, na nakabatay sa isang artipisyal na intelihente na ahente na may mga advanced na kakayahan sa digital na komunikasyon.
Magbasa nang higit pa mga nauugnay na artikulo:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
