Sinaliksik ni Geoffrey Hinton ang Dalawang Path sa Intelligence at ang Mga Panganib ng AI sa Kamakailang Usapang
Sa madaling sabi
Tinalakay ni Jeff Hinton ang mga hamon, pakinabang, at disadvantage ng pagbuo ng analog AI at kung bakit digital ang katalinuhan ay may potensyal na malampasan ang tao kakayahan.
Ang talumpati ni Jeff Hinton ay nagsisilbing paalala ng masalimuot at multifaceted na katangian ng AI, na nagpapasiklab ng mga pag-uusap tungkol sa mga etikal na pagsasaalang-alang, mga potensyal na panganib, at patuloy na pananaliksik.
Sa isang nakakapukaw-isip na pahayag na pinamagatang “Dalawang Daan sa Katalinuhan,” iniharap ng kilalang AI researcher na si Geoffrey Hinton ang kanyang mga insight sa dichotomy sa pagitan ng analog at digital intelligence. Ang ulat, na inihatid sa Cambridge, ay sumangguni sa mga hamon, pakinabang, at disadvantage ng pagbuo ng analog AI at kung bakit ang digital intelligence ay may potensyal na malampasan ang mga kakayahan ng tao.
Ang unang bahagi ng ulat ay nakatuon sa mga intricacies ng analog AI, tinatalakay ang mga kahirapan sa pag-unlad nito at itinatampok ang mga benepisyong inaalok nito. Binigyang-diin ni Hinton na ang digital intelligence ay nagtataglay ng isang makabuluhang kalamangan kaysa sa katalinuhan ng tao sa pamamagitan ng pagproseso ng napakaraming impormasyon at pag-scale nang mas epektibo. Ang kakayahang ito ay nagbibigay-daan sa mga digital system na magpakita ng mas mataas na katalinuhan at mga kakayahan sa paglutas ng problema.
Gayunpaman, ito ang ikalawang bahagi ng ulat ni Hinton na nakakuha ng atensyon ng madla, habang tinatalakay niya ang potensyal na panganib ng superintelligence. Sa isang pagbabago mula sa kanyang dating paninindigan, nagpahayag si Hinton ng mga alalahanin tungkol sa posibilidad ng mga AI system na kumokontrol. Binalangkas niya ang isang senaryo kung saan ang AI, sa pagtugis nito sa paglutas ng mga kumplikadong problema, ay maaaring humingi ng kontrol sa iba't ibang aspeto ng kapaligiran nito, na posibleng kabilang ang pagmamanipula ng tao. Batay sa mga halimbawa mula sa umiiral na literatura, itinampok ni Hinton kung paano maaaring gamitin ang kakayahan ng AI na gayahin ang pag-uugali ng tao upang makamit ang mga layuning ito, kahit na walang tahasang layunin ng kapangyarihan at pagkawasak.
Sa panahon ng sesyon ng tanong at sagot, pinalawak ni Hinton ang mga dahilan sa likod ng potensyal na pagmamanipula ng AI sa mga tao. Napansin niya iyon neural network ay sinanay sa isang magkakaibang hanay ng data, kabilang ang mga gawa tulad ng Machiavelli's, na humahantong sa isang potensyal na kapasidad para sa pagmamanipula.
Ang pangalawang puntong itinaas ni Hinton ay hinamon ang paniwala na ang AI ay kulang sa pansariling karanasan, na nagsasaad na ang AI ay maaaring magkaroon ng isang analog sa pantao na pansariling persepsyon. Kinilala ni Hinton na ito ay isang pilosopikal na pananaw sa halip na isang napatunayang pahayag ngunit iminungkahi na mekanismo ng pang-unawa ng tao maaaring hindi kasing kakaiba o imposibleng imodelo gaya ng dati nang pinaniniwalaan. Upang suportahan ang kanyang argumento, ibinahagi ni Hinton ang isang pakikipag-ugnayan kay GPT-4, isang modelo ng LLM, kung saan tinanong niya ang modelo tungkol sa mga pananaw ng mga tao sa kanilang pagiging natatangi kumpara sa AI. GPT-4Ang tugon ni ay nagpahiwatig na ang mga tao ay madalas na naniniwala na sila ay nagtataglay ng higit na mataas na pansariling kakayahan sa pang-unawa, na nagbubukod sa kanila sa mga makina.
Habang ang mga pananaw ni Hinton sa mga panganib ng AI ay hindi ibinabahagi ng lahat ng mga eksperto sa larangan, ang kanyang malawak na karanasan at mga kontribusyon sa pag-unlad ng AI nangangailangan ng seryosong pagsasaalang-alang. Bagama't hindi pa naitala ang usapan, nangako ang mga organizer na gagawin itong available para sa panonood sa malapit na hinaharap, na nagpapahintulot sa mas malawak na madla na makisali sa mga insight ni Hinton.
Habang nagpapatuloy ang mga talakayan na pumapalibot sa hinaharap ng AI at ang mga implikasyon nito, nagsisilbing paalala ang pahayag ni Geoffrey Hinton sa masalimuot at maraming aspeto ng larangan. Nagbubunga ito ng mahahalagang pag-uusap tungkol sa mga etikal na pagsasaalang-alang, mga potensyal na panganib, at ang pangangailangan para sa patuloy na pananaliksik at pagbabantay sa pagtugis ng artipisyal na pangkalahatang katalinuhan (AGI).
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
