OpenAI: Ang AI ay Posibleng Makagawa ng Malaking Kapinsalaan sa mga Tao, Ngunit Ang Pagsubok na Ihinto ang Pag-unlad ay Hindi Isang Opsyon
Sa madaling sabi
OpenAIAng dokumentong "Planning for AGI and Beyond" ay nagmumungkahi ng unti-unti, mabagal na pagpapakilala ng mas kumplikado at "matalinong" mga modelo, pag-aayos ng mga independiyenteng pag-audit ng malalaking system, at paglilimita sa mga mapagkukunan ng computing.
OpenAI gusto ng AI na maging bukas sa lahat nang pantay-pantay at lumikha ng mas pare-pareho at pamahalaang mga modelo upang mabawasan ang bias at hindi kanais-nais na pag-uugali.
OpenAI kamakailan ay nag-publish ng isang dokumento na pinamagatang "Planning for AGI and Beyond." Binabalangkas nito ang malalawak na ideyang gumagabay sa mga aksyon ng kumpanya habang papalapit ang mundo sa pagbuo ng AGI (artificial general intelligence).
| Inirerekomenda: Paano gumawa ChatGPT at AI Content Undetectable sa 2023 |
OpenAI na naniniwala na habang ang AI ay may potensyal na magdulot ng malaking pinsala sa mga tao, ang pagtatangkang ihinto ang pag-unlad ay hindi isang opsyon. Bilang resulta, dapat nating matutunan kung paano panatilihin ang pagpapabuti na ito upang hindi ito lumala nang malaki.
Ang dokumento ay matatagpuan dito. I-highlight natin ang ilang mahahalagang elemento mula dito:
- OpenAI Nais ng AGI na tulungan ang mga tao na umunlad sa lahat ng aspeto ng kanilang buhay, parehong ekonomiko at siyentipiko.
Sa halip na lumikha ng super-cool na malaking AI at agad itong ilabas sa mundo, OpenAI ay magpapakilala ng mas kumplikado at "matalinong" na mga modelo nang paunti-unti. Ang pagpapalagay ay ang unti-unting pagtaas ng mga kakayahan ng AI ay hindi magugulat sa mundo, na nagbibigay sa mga tao ng oras upang ayusin, iakma ang ekonomiya, at bumuo ng mga pamamaraan para sa pakikipag-ugnayan sa AI. - OpenAI iniimbitahan ang lahat ng organisasyon na pormal na gamitin ang nabanggit na prinsipyo (unti-unting ilunsad ang makapangyarihang AI). Inirerekomenda din ni Altman na limitahan ang dami ng mga mapagkukunan sa pag-compute na maaaring magamit upang sanayin ang mga modelo at mag-set up ng walang kinikilingan na mga pag-audit ng mga pangunahing sistema bago ang mga ito ay magagamit sa pangkalahatang publiko. Sa halip na sumali sa mga kumpetisyon tulad ng "sino ang unang maglulunsad ng isang mas cool at mas malaking modelo?" OpenAI humihiling sa mga negosyo na magtrabaho nang sama sama upang mapabuti ang kaligtasan ng AI.
- OpenAI naniniwalang kritikal na alam ng mga pamahalaan ang tungkol sa mga pagpapatakbo ng pagsasanay na lampas sa isang partikular na sukat. Ito ay isang nakakaintriga na konsepto, at gusto naming malaman ang higit pa tungkol sa mga plano OpenAI mayroon sa bagay na ito. Ang panukalang ito ay tila hindi maganda para sa akin sa una.
- OpenAI ay susubukan na bumuo ng mga modelo na mas maaasahan at nakokontrol, malamang na limitahan ang pagkiling at hindi kanais-nais na pag-uugali sa AI. Ang diskarte na ginawa ng OpenAI sa kasong ito ay gawing available ang modelo sa pangkalahatang publiko sa isang napakahigpit na anyo habang binibigyan din ang mga user ng opsyon na i-personalize ito. Dahil hindi magagawang "i-personalize" ng mga mamimili ang anumang bagay doon, hindi ako sigurado kung paano nito matutulungan ang modelo sa kabuuan na maging mas mababa ang bias. Maliban na lang kung inaalis nito ang pananagutan para sa mga aksyon ng modelo.
Sa pangkalahatan, ang dokumento, ay tumuturo sa tamang paraan. Gayunpaman, nagkaroon ng maliit na salungatan sa pagitan ng "hindi kami kaagad magpapakita ng mga cool na modelo sa publiko, ngunit pag-uusapan natin ang mga ito sa mga estado" at "Dapat malaman ng mga tao tungkol sa pag-unlad ng AI." Sa madaling salita, maghihintay tayo ng mga detalyadong paglilinaw mula sa OpenAI sa lahat ng paksa.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
