OpenAI Inilalahad ang Pinakabagong Diskarte nito sa Pagtiyak sa Kaligtasan ng AI
Sa madaling sabi
OpenAI ay naglabas ng isang post sa blog na nagbabalangkas sa pinabuting diskarte nito sa kaligtasan kasunod ng mga kamakailang alalahanin tungkol sa kaligtasan at privacy at mga pagsisiyasat.
Nangako ang kumpanya na magsagawa ng mahigpit na pagsubok, makipag-ugnayan sa mga external na eksperto para sa feedback, at makikipagtulungan sa mga pamahalaan upang matukoy ang pinakamahusay diskarte para sa mga regulasyon ng AI.
Matapos harapin ang mga alalahanin tungkol sa kaligtasan at privacy at pagsunod kamakailan-lamang na mga pagsisiyasat sa ilang bansa sa Europa, OpenAI ay pinalaya isang blog post na nagbabalangkas sa pinahusay na diskarte ng kumpanya sa kaligtasan.
OpenAI nangako na magsagawa ng mahigpit na pagsubok, makipag-ugnayan sa mga external na eksperto para sa feedback bago maglabas ng anumang bagong system, at makipagtulungan sa mga pamahalaan upang matukoy ang pinakamahusay na diskarte para sa mga regulasyon ng AI.
Noong nakaraan, ang kumpanya ay gumugol ng higit sa anim na buwan sa pagtatrabaho sa kaligtasan at pagkakahanay ng pinakabagong modelo nito, GPT-4, bago ito ilabas sa publiko. Upang matiyak ang kaligtasan ng pinakabagong modelo ng wika nito, GPT-4, OpenAI tinanggap isang pangkat ng mahigit 50 eksperto: mga espesyalista sa kaligtasan, etika, at patakaran ng AI, kabilang ang mga mananaliksik at inhinyero.
"Higit sa lahat, naniniwala kami na ang lipunan ay dapat magkaroon ng oras upang mag-update at mag-adjust sa lalong may kakayahang AI, at na ang lahat ng apektado ng teknolohiyang ito ay dapat magkaroon ng makabuluhang opinyon sa kung paano ang AI ay higit na umuunlad,"
OpenAI sumulat.
OpenAI's Focus sa Kaligtasan at Privacy ng mga Bata
Ipinagbawal ang Italya ChatGPT, binabanggit OpenAIAng hindi pag-verify ng edad ng mga user nito, sa kabila ng pagiging dinisenyo para sa mga indibidwal na may edad 13 pataas, bilang isa sa mga dahilan. Ang isang kritikal na pokus ng mga pagsusumikap sa kaligtasan ng kumpanya ay lumipat sa pagprotekta sa mga bata sa pamamagitan ng pagpapatupad ng mga opsyon sa pag-verify ng edad, na OpenAI ay nag-e-explore na ngayon, lalo na dahil ang mga tool ng AI ay inilaan para sa mga indibidwal na may edad 18 o mas matanda o 13 at mas matanda na may pag-apruba ng magulang.
Mahigpit na ipinagbabawal ng kumpanya ang pagbuo ng mapoot, panliligalig, marahas o pang-adult na nilalaman, at GPT-4 mayroon nang 82% na mas mababang posibilidad na tumugon sa mga kahilingan para sa hindi pinapayagang nilalaman kumpara sa GPT-3. 5.
OpenAI ay nagtatag ng isang matatag na sistema upang masubaybayan ang pang-aabuso at inaasahang gagawin GPT-4 magagamit sa mas maraming tao sa paglipas ng panahon. Nakikipagtulungan ang kumpanya sa mga developer sa mga iniangkop na pagpapagaan sa kaligtasan, gaya ng non-profit na Khan Academy, at nagtatrabaho sa mga feature para bigyang-daan ang mas mahigpit na pamantayan para sa mga output ng modelo.
Ang pagpapabuti ng privacy ay isa pang aspeto ng kaligtasan OpenAI ay tumutuon sa, lalo na pagkatapos ng kamakailang mga paglabag sa data. Ang malalaking modelo ng wika ng kumpanya ng AI ay sinanay sa napakalaking dami ng text na kinabibilangan ng available-to-public na content, lisensyadong content, at content na nabuo ng mga human reviewer; gumagamit ito ng data para gawing mas kapaki-pakinabang ang mga modelo ng AI sa mga tao.
OpenAI ay gumagawa ng mga hakbang upang protektahan ang privacy ng mga indibidwal sa pamamagitan ng pag-alis ng personal na impormasyon mula sa data ng pagsasanay nito, pag-fine-tune ng mga modelo upang tanggihan ang mga kahilingan para sa personal na impormasyon, at pagtanggal ng personal na impormasyon mula sa mga system nito kapag hiniling. Binabawasan nito ang pagkakataon ng mga modelo ng AI na makabuo ng mga tugon na may kasamang personal na impormasyon.
OpenAIdiskarte ni sa pagtugon sa mga alalahanin sa kaligtasan ng AI ay ang pagsasaliksik ng mga epektibong pagpapagaan at mga diskarte sa pag-align at subukan ang mga ito laban sa totoong pang-aabuso. Nangangako rin ito na lalong maging maingat sa paggawa at pagde-deploy ng mas may kakayahang mga modelo at pahusayin ang mga pag-iingat sa kaligtasan. Ang epektibong pamamahala sa pagbuo at pag-deploy ng AI ay mahalaga upang matiyak ang kaligtasan, na nangangailangan ng teknikal at institusyonal na pagbabago.
Magbasa nang higit pa:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
Mas marami pang artikulo
Si Agne ay isang mamamahayag na sumasaklaw sa pinakabagong mga uso at pag-unlad sa metaverse, AI, at Web3 mga industriya para sa Metaverse Post. Ang kanyang hilig sa pagkukuwento ay nagbunsod sa kanya na magsagawa ng maraming panayam sa mga eksperto sa mga larangang ito, na laging naghahangad na tumuklas ng mga kapana-panabik at nakakaakit na mga kuwento. Si Agne ay mayroong Bachelor's degree sa panitikan at may malawak na background sa pagsulat tungkol sa malawak na hanay ng mga paksa kabilang ang paglalakbay, sining, at kultura. Nagboluntaryo din siya bilang isang editor para sa organisasyon ng mga karapatang panghayop, kung saan tumulong siya na itaas ang kamalayan tungkol sa mga isyu sa kapakanan ng hayop. Makipag-ugnayan sa kanya sa [protektado ng email].
