OpenAI Kokoaa yli 50 asiantuntijan tiimin parantamaan GPT-4Turvallisuus
Lyhyesti
OpenAI on palkannut yli 50 asiantuntijan tiimin varmistaakseen sen uusimman kielimalli, GPT-4, on turvallista käyttää.
Tiimiin kuuluu tekoälyn turvallisuuteen, etiikkaan ja politiikkaan erikoistuneita tutkijoita ja insinöörejä.
Tavoitteena on ehkäistä GPT-4 luomasta haitallista tai puolueellista sisältöä ja varmistamaan, että se on yhdenmukainen inhimillisten arvojen kanssa.
OpenAI on palkannut yli 50 asiantuntijaa eri aloilta tekemään GPT-4 turvallisempaa. Asiantuntijat ovat työskennelleet mallin kontradiktorisen testauksen parissa tunnistaakseen mahdolliset riskit ja haavoittuvuudet. He ovat asiantuntijoita eri aloilta: pitkän aikavälin tekoälyn kohdistusriskit, kyberturvallisuus, bioriski ja kansainvälinen turvallisuus. Heidän löydöksensä ovat auttaneet OpenAI arvioida mallikäyttäytymistä riskialttiilla alueilla, jotka vaativat erikoisosaamista.
Vaikka uusin kielimalli sisältää samanlaisia riskejä kuin pienemmät kielimallit, lisäominaisuudet GPT-4 johtaa uusiin uhkiin. Asiantuntijoiden sitoutuminen on siis ollut ratkaiseva teknologian turvallisuuden takaamisessa.
OpenAI on ottanut käyttöön lisäjoukon turvallisuuteen liittyviä vahvistusoppimista ihmisen mieltymyksistä (RLHF) koulutuskehotteita ja sääntöpohjaisia palkitsemismalleja (RBRM) parantaakseen turvallisuutta GPT-4 malli. RBRM:t ovat nollakuvia GPT-4 luokittelijat, jotka toimivat ylimääräisenä palkintosignaalina GPT-4 RLHF:n hienosäädön aikana. Niiden tarkoituksena on kannustaa asianmukaista toimintaa, kuten kieltäytyä tuottamasta haitallista sisältöä tai olla hylkäämättä harmittomia pyyntöjä.
Turvallisuuden varmistamiseksi GPT-4 malleja, OpenAI aloitti ulkopuolisten asiantuntijoiden rekrytoinnin elokuussa 2022 suorittamaan "punaisen tiimin" harjoituksia, mukaan lukien stressitestit, rajatestaukset ja kontradiktoriset testaukset. Heillä oli pääsy ohjelman varhaisiin versioihin GPT-4 mallin ja tunnistaa alkuperäiset riskit, jotka motivoivat lisäturvallisuustutkimusta.
Asiantuntijoiden palaute johti teknisiin lievennyksiin ja politiikan täytäntöönpanotoimiin riskien vähentämiseksi. Monet uhat ovat kuitenkin edelleen olemassa, ja lisäarviointia tarvitaan.
Puhutaan työntekijöistä osoitteessa OpenAI, ChatGPT oli alun perin kehitetty joidenkin maailman köyhimpien alueiden yksilöiden avulla OpenAIYhteistyö Sama-nimisen yrityksen kanssa, joka työllistää miljoonia työntekijöitä köyhiltä alueilta. Jotkut tekoälyn etiikan asiantuntijat ovat kritisoineet OpenAIpäätöksen ulkoistaa sen koulutus ChatGPT malli Samalle, syyttäen yritystä halvan työvoiman hyväksikäytöstä.
Lue lisää:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
lisää artikkeleita
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
