OpenAI Nagtataas ng Alarm sa Superintelligence at Potensyal ng AI na Malampasan ang Mga Kakayahang Tao sa Susunod na Dekada
Sa madaling sabi
OpenAI naglabas ng panawagan para sa regulasyon ng superintelligence, na nagbibigay-diin sa pangangailangan para sa pamamahala sa liwanag ng mabilis na pag-unlad ng AI.
Ang mga sistema ng AI ay inaasahang hihigit sa kadalubhasaan ng tao at pagiging produktibo ng kumpanya sa loob ng isang dekada, Ayon sa OpenAI.
OpenAI binibigyang-diin ang kahalagahan ng pampublikong pangangasiwa at demokratikong kontrol para sa makapangyarihang mga sistema ng AI.
OpenAI, ang lumikha ng ChatGPT, ay gumawa ng isang naiisip na panawagan para sa regulasyon ng superintelligence, pagguhit ng mga parallel sa regulasyon ng enerhiyang nuklear. Sa isang kamakailang blog post, OpenAI itinampok ang mga potensyal na implikasyon ng mabilis na pagsulong ng AI at binigyang-diin ang matinding pangangailangan para sa pamamahala sa umuusbong na tanawing ito. Sinabi ng kumpanya na ang mga sistema ng AI ay malalampasan ang mga eksperto at ang pinakamalaking mga korporasyon sa pagiging produktibo at kasanayan sa loob ng sampung taon.
"Dapat nating pagaanin ang mga panganib ng teknolohiyang AI ngayon, ngunit ang superintelligence ay mangangailangan ng espesyal na paggamot at koordinasyon," Sam Altman, Greg Brockman, at Ilya Sutskever mula sa OpenAI binigyang-diin.
Inilalarawan ng superintelligence ang isang entity na lumampas sa pangkalahatang katalinuhan ng tao o ilang partikular na aspeto ng katalinuhan. Ayon sa mga may-akda, ang AI superintelligence ay magkakaroon ng walang kapantay na antas ng kapangyarihan, na sumasaklaw sa parehong positibo at negatibong aspeto.
Ang Pag-unlad at Mga Panganib ng Hindi Maiiwasang Superintelligence
OpenAI ay natukoy ang tatlong mahahalagang ideya na may mahalagang papel sa pag-navigate sa matagumpay na pag-unlad ng superintelligence. Kabilang dito ang koordinasyon sa mga nangungunang pagsisikap sa pag-unlad, ang pagtatatag ng isang internasyonal na awtoridad na katulad ng International Atomic Energy Agency (IAEA), at ang pagbuo ng mga teknikal na kakayahan para sa kaligtasan.
Habang OpenAI kinikilala na ang mga AI system ay may mga panganib, ang mga panganib na ito ay maihahambing sa mga nauugnay sa iba pang mga teknolohiyang nauugnay sa internet. Nagpapahayag din ng kumpiyansa sina Altman, Brockman, at Sutskever na angkop ang mga kasalukuyang diskarte ng lipunan sa pamamahala sa mga panganib na ito. Gayunpaman, ang pangunahing alalahanin ay tungkol sa mga sistema sa hinaharap na magkakaroon ng hindi pa nagagawang kapangyarihan.
"Sa kabaligtaran, ang mga system na inaalala natin ay magkakaroon ng kapangyarihan na higit pa sa anumang teknolohiyang nalikha pa, at dapat tayong mag-ingat na huwag ibababa ang pagtutok sa mga ito sa pamamagitan ng paglalapat ng mga katulad na pamantayan sa teknolohiya na mas mababa sa bar na ito," binasa ng post sa blog.
Nagtatalo ang mga may-akda na ang makapangyarihang mga sistema ng AI ay nangangailangan ng pampublikong pangangasiwa at demokratikong kontrol. Ipinapaliwanag din nila kung bakit nila ginagawa ang teknolohiyang ito sa OpenAI: upang lumikha ng isang mas mahusay na mundo at upang maiwasan ang mga panganib ng paghinto nito. Tumutulong ang AI sa iba't ibang lugar, kabilang ang edukasyon, pagkamalikhain, at pagiging produktibo, pati na rin ang pangkalahatang paglago ng ekonomiya.
OpenAI sa tingin nito ay mahirap at mapanganib itigil ang superintelligence mula sa pagiging nilikha. Ang Superintelligence ay may malaking benepisyo, nagiging mas mura bawat taon, mas maraming tao ang nagtatrabaho dito, at bahagi ito ng landas ng teknolohiya ng kumpanya.
Ilman Shazhaev, techpreneur sa AI at ang co-founder ng Farcana Labs, nagbahagi ng ilang komento patungkol sa balita. Ipinahihiwatig ng mga projection na kung hindi maayos na pinamamahalaan, ang superintelligence ay maaaring isa sa mga pinaka mapanirang imbensyon ng tao sa lahat ng panahon. Gayunpaman, ang mga pag-uusap sa pag-deploy ng teknolohiya ay nananatiling divisive, dahil hindi pa ito nabubuo. Ang pagtulak para sa paghinto sa pag-unlad batay sa takot sa mga hula ay maaaring mag-alis sa sangkatauhan ng mga pagkakataong maaaring taglayin ng bagong teknolohiya.
"OpenAIAng desentralisadong pamamaraan ng pamamahala ay maaaring makatulong na mapanatili ang malawak na kaligtasan nito. Sa tamang mga regulasyon, maaaring isara ang programa kung sakaling mangyari ito nagdudulot ng banta. Kung ang mga pananggalang na ito ay nasa lugar, kung gayon ang Superintelligence ay maaaring isang pagbabago na dapat tuklasin," sabi ni Shazhaev.
Sa pamamagitan ng lantarang pagtalakay sa mga pananaw nito sa AI superintelligence at iminungkahing mga hakbang sa regulasyon, OpenAI tila nagpapaunlad ng mga matalinong talakayan at nag-aanyaya ng magkakaibang pananaw.
Sam Altman malakas ang paniniwala sa malawakang pagkakaroon ng AI sa publiko. Kinikilala na imposibleng mauna ang lahat ng problema nang maaga, itinataguyod niya ang pagtugon sa mga isyu sa pinakamaagang posibleng yugto. Gayunpaman, binibigyang-diin din ni Altman ang kahalagahan ng mga independiyenteng pag-audit para sa mga system tulad ng ChatGPT bago ilabas. Kinikilala pa niya ang posibilidad ng pagpapatupad ng mga hakbang tulad ng paglilimita sa bilis ng paglikha ng bagong modelo o pagtatatag ng isang komite upang tasahin ang kaligtasan ng mga modelo ng AI bago ilabas sa merkado. Kapansin-pansin, hinuhulaan ni Altman na ang dami ng katalinuhan sa uniberso ay doble bawat 18 buwan.
Magbasa nang higit pa:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
Mas marami pang artikulo
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
