Nagbabala ang Mga Pinuno ng AI sa Lumalagong Mga Panganib at Etikal na Alalahanin sa Mabilis na Pag-unlad
Sa isang kamakailang pahayag ng patakaran, ang mga kilalang tao sa larangan ng AI, kabilang sina Bengio, Hinton, Russell, Harari, at Kahneman, ay nagpatunog ng alarma sa mabilis na pag-unlad at lumalagong mga panganib sa lipunan na nauugnay sa AI.
Mabilis na umuunlad ang AI. GPT-2 ay hindi mabilang mula 0 hanggang 100 apat na taon na ang nakalipas, ngunit ang mga modernong modelo ay maaaring magsulat ng code, gumawa ng mga kamangha-manghang larawan, at mag-alok ng intelektwal na patnubay. At dahil tayo ay nasa isang karera, ang pag-unlad ay maaaring makakuha ng higit pang bilis. Higit pa rito, mas mabilis na umuunlad ang AI sa pamamagitan ng, halimbawa, pagtulong sa pagprograma ng mga bagong system at pangangalap ng data para sa kanilang pagsasanay.
Kapag ang pag-unlad ay umabot sa antas ng tao, walang dahilan upang isipin na ito ay bumagal o hihinto. Sa ilang mga rehiyon, ang mga artipisyal na sistema ay nalampasan na ang mga tao sa bagay na ito, na nagpapakita mga kakayahan tulad ng mas mabilis na pagproseso bilis, mas malaking kapasidad sa pagpoproseso ng data, at malakihang scalability. Ang mga negosyo ay nagtataglay ng mga pinansiyal na paraan upang ipatupad ang mga programa sa pagsasanay na lampas sa kasalukuyang limitasyon.
Iniisip ng mga may-akda na may magandang pagkakataon na lilitaw ang isang mas mahusay na generalist ng AI sa loob ng susunod na sampung taon o higit pa, nahihigitan ang kakayahan ng tao sa maraming mahahalagang domain.
Ano ang susunod na mangyayari? Ang lahat ng buhay ay maaaring mapabuti kung sila ay maayos na pinamamahalaan at ipinamamahagi. Ang hindi magandang napiling opsyon ay nagsasangkot ng malalaking panganib na hindi tayo handa. Sa halip na ilaan sa kaligtasan at pag-iwas sa pinsala, ang mga makabuluhang mapagkukunan ay ginagamit upang bumuo ng mga AI system na mas makapangyarihan. Ito ay kailangang baguhin; hindi sapat ang paghahangad ng mga kasanayan sa kanilang sarili. At ang prosesong ito ay mas tumatagal kaysa sa inaasahan. Kailangan nating magplano para sa mas matataas na panganib bago ito lumitaw sa pamamagitan ng pag-asam sa pagdami ng kasalukuyang mga banta at paglitaw ng mga bago. Wala kaming parehong tagal ng oras para sa AI dahil inaabot ito ng ilang dekada bago matanggap kaugnay ng klima pagbabago.
Maraming panganib sa antas ng lipunan ang umiiral, kabilang ang pagtaas ng kawalan ng katarungan, pagkasira ng katatagan, at pagkasira ng karaniwang pang-unawa sa katotohanan. Dito, ang mga terorista at kriminal ay nakikibahagi sa malawak na aktibidad. Ang AI ay maaaring maging puro sa mga kamay ng ilang bilang ng mga manlalaro, na humahantong sa pagtaas ng pandaigdigang hindi pagkakapantay-pantay, pagpapadali sa automated warfare, pagmamanipula ng masa na iniayon sa bawat indibidwal, at ubiquitous surveillance.
Bilang autonomous Ang AI ay nagiging mas sopistikado at nakakapagplano, kumilos sa mundo, at makamit ang mga layunin nito, ang mga panganib na ito ay tataas lamang. Ang mga layuning ito ay maaaring hindi para sa ating pinakamahusay na interes at, sa kaso ng mga masasamang aktor, maaari pa ngang makapinsala. Kasalukuyang hindi malinaw kung paano lutasin ang isyu ng AI Alignment, na kinabibilangan ng pagtutugma ng gawi ng AI sa aming masalimuot na layunin. Higit pa rito, napakasimpleng hindi pansinin ang mga pag-iingat sa kaligtasan kapag nakikipagkarera na may layuning manalo.
Mahirap para sa mga tao na kontrolin ang regular na software, lalo pa ang mga sopistikadong AI system na nagiging mas mahusay sa social engineering, pag-hack, panlilinlang, at estratehikong pagpaplano. Ito ay isang bagay na maaaring kunin ng mga autonomous AI system mula sa mga tao o likhain nang mag-isa.
Ang mga sistemang ito ay may kakayahang bumuo ng mga koalisyon sa mga indibidwal at iba pang mga sistema, manalo sa pagtitiwala, secure na pagpopondo, at maimpluwensyahan ang mga gumagawa ng desisyon. Tulad ng isang uod, sila ay may kakayahang mag-replika sa sarili sa buong network. Ang napakalaking halaga ng code ay naisulat na sa tulong ng mga AI assistant; sa hinaharap, maaaring isama ng mga system ang mga pagsasamantala sa maraming mahahalagang sistema. Ang mga AI system ay may kakayahang gumamit o magbanta ng biological o autonomous na mga armas sa bukas na labanan. Ito ay pagpapatuloy lamang ng ang kasalukuyang mga paggalaw patungo sa biological na pananaliksik, artificial intelligence, at ang automation ng digmaan. Maaaring mahirapan ang mga tao na pumasok at lumaban.
Sa maraming pagkakataon, handa tayong ibigay sa kanila ang renda nang hindi man lang nila kailangang humingi. Maraming indibidwal at negosyo ang handang maglagay ng mga ganitong sistema sa kanilang sarili sa isang mapagkumpitensyang setting dahil sa pag-aalala na mahuhulog sila sa kumpetisyon.
Ang buong dokumento ay matatagpuan dito.
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
