OpenAI Kogub täiustamiseks 50+ eksperdist koosneva meeskonna GPT-4Ohutus
Põgusalt
OpenAI on palganud üle 50 eksperdist koosneva meeskonna, et tagada selle uusim keelemudel, GPT-4, on kasutamiseks ohutu.
Meeskonda kuuluvad teadlased ja insenerid, kes on spetsialiseerunud tehisintellekti ohutusele, eetikale ja poliitikale.
Eesmärk on ennetada GPT-4 kahjuliku või kallutatud sisu loomise eest ning tagama, et see ühtiks inimlike väärtustega.
OpenAI on palganud üle 50 eksperdi erinevatest valdkondadest GPT-4 turvalisemaks. Eksperdid on töötanud mudeli võistleva testimisega, et tuvastada võimalikud riskid ja haavatavused. Nad on eksperdid erinevatest valdkondadest: pikaajalised AI joondusriskid, küberturvalisus, biorisk ja rahvusvaheline julgeolek. Nende leiud on aidanud OpenAI hinnata mudeli käitumist kõrge riskiga valdkondades, mis nõuavad nišiteadmisi.
Kui uusim keelemudel kujutab endast sarnaseid riske kui väiksemad keelemudelid, siis lisavõimalused GPT-4 viia uute ohtudeni. Seega on ekspertide kaasamine olnud tehnoloogia ohutuse tagamisel ülioluline.
OpenAI on rakendanud täiendava komplekti ohutusega seotud tugevdavat õpet inimeste eelistustest (RLHF) koolitusjuhistest ja reeglipõhistest tasumudelitest (RBRM), et parandada inimeste ohutust. GPT-4 mudel. RBRM-id on null-shot GPT-4 klassifikaatorid, mis toimivad täiendava preemiasignaalina GPT-4 RLHF-i peenhäälestuse ajal. Nende eesmärk on ergutada sobivat käitumist, näiteks keelduda kahjuliku sisu loomisest või mitte lükata tagasi kahjutuid taotlusi.
Turvalisuse tagamiseks GPT-4 mudelid, OpenAI alustas välisekspertide värbamist 2022. aasta augustis, et viia läbi "punase meeskonnatöö" harjutusi, sealhulgas stressitestid, piiride testimine ja võistlev testimine. Neil oli juurdepääs algsetele versioonidele GPT-4 mudel ja tuvastas esialgsed riskid, mis motiveerisid edasisi ohutusuuringuid.
Ekspertide tagasiside ajendas tehnilisi leevendusi ja poliitika jõustamismeetmeid riskide vähendamiseks. Siiski on palju ohte ja vaja on täiendavat hindamist.
Räägime töötajatest aadressil OpenAI, ChatGPT oli algselt arenenud inimeste abiga mõnes maailma vaesemas piirkonnas OpenAIpartnerlus ettevõttega Sama, mis annab tööd miljonitele töötajatele vaesunud piirkondadest. Mõned AI eetikaeksperdid on kritiseerinud OpenAIotsus tellida oma koolitus väljast ChatGPT modell Samale, süüdistades ettevõtet odava tööjõu ärakasutamises.
Loe rohkem:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
Veel artikleid
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
