OpenAI Julkaisee uusimman lähestymistapansa tekoälyn turvallisuuden varmistamiseen
Lyhyesti
OpenAI on julkaissut blogikirjoituksen, jossa hahmotellaan parannettua lähestymistapaansa turvallisuuteen viimeaikaisten turvallisuutta ja yksityisyyttä koskevien huolenaiheiden ja tutkimusten jälkeen.
Yritys sitoutuu suorittamaan tiukkoja testauksia, saamaan ulkopuolisia asiantuntijoita antamaan palautetta ja työskentelemään hallitusten kanssa löytääkseen parhaan lähestymistapa tekoälymääräyksiin.
Kun olet kohdannut turvallisuutta ja yksityisyyttä koskevia huolenaiheita ja seuraamalla äskettäiset tutkimukset joissakin Euroopan maissa, OpenAI on julkaistu blogikirjoitus, jossa esitellään yhtiön parannettua lähestymistapaa turvallisuuteen.
OpenAI sitoutuu suorittamaan tiukkaa testausta, pyytämään ulkopuolisia asiantuntijoita antamaan palautetta ennen uuden järjestelmän julkaisua ja työskentelemään hallitusten kanssa parhaan lähestymistavan määrittämiseksi tekoälysäännöksiä varten.
Aiemmin yhtiö työskenteli yli kuusi kuukautta uusimman mallinsa turvallisuuden ja linjauksen parissa. GPT-4, ennen kuin julkaiset sen julkisesti. Varmistaakseen sen uusimman kielimallin turvallisuuden, GPT-4, OpenAI palkattu yli 50 asiantuntijan tiimi: tekoälyn turvallisuuden, etiikan ja politiikan asiantuntijoita, mukaan lukien tutkijat ja insinöörit.
"Ratkaisevaa on se, että uskomme, että yhteiskunnalla on oltava aikaa päivittää ja sopeutua yhä tehokkaampaan tekoälyyn ja että jokaisella, johon tämä teknologia vaikuttaa, pitäisi olla merkittävä sananvalta siihen, miten tekoäly kehittyy edelleen."
OpenAI kirjoitti.
OpenAI's keskittyy lasten turvallisuuteen ja yksityisyyteen
Italia kielletty ChatGPT, viitaten OpenAIYhtenä syynä on se, että se ei pystynyt varmistamaan käyttäjiensä ikää, vaikka se on suunniteltu 13-vuotiaille ja sitä vanhemmille. Yrityksen turvallisuustyön kriittinen painopiste on siirtynyt lasten suojelemiseen ottamalla käyttöön iänvarmistusvaihtoehtoja, mikä OpenAI on nyt tutkimassa, varsinkin kun tekoälytyökalut on tarkoitettu vähintään 18-vuotiaille tai 13-vuotiaille ja sitä vanhemmille vanhempien luvalla.
Yritys kieltää ankarasti vihamielisen, häiritsevän, väkivaltaisen tai aikuisille suunnatun sisällön luomisen GPT-4 on jo 82 % pienempi todennäköisyys vastata kiellettyä sisältöä koskeviin pyyntöihin verrattuna GPT-3. 5.
OpenAI on luonut vankan järjestelmän väärinkäytösten seurantaan ja toivoo voivansa tehdä GPT-4 ajan mittaan useammille ihmisille. Yritys työskentelee kehittäjien kanssa räätälöityjen turvallisuuden lieventämiskeinojen, kuten voittoa tavoittelemattoman Khan Academyn, kanssa, ja työskentelee ominaisuuksien parissa, jotka mahdollistavat tiukemmat standardit mallien tuloksille.
Yksityisyyden parantaminen on toinen turvallisuusnäkökohta OpenAI keskittyy erityisesti viime aikoina tietojen rikkomukset. Tekoälyyrityksen suuret kielimallit on koulutettu valtavaan määrään tekstiä, joka sisältää julkista sisältöä, lisensoitua sisältöä ja ihmisten arvioijien luomaa sisältöä; se käyttää dataa tehdäkseen tekoälymalleista hyödyllisempiä ihmisille.
OpenAI ryhtyy toimiin suojellakseen yksilöiden yksityisyyttä poistamalla henkilökohtaisia tietoja koulutustiedoistaan, hienosäätämällä malleja henkilötietopyyntöjen hylkäämiseksi ja poistamalla henkilötietoja järjestelmistään pyynnöstä. Tämä vähentää mahdollisuuksia, että tekoälymallit luovat vastauksia, jotka sisältävät henkilökohtaisia tietoja.
OpenAIn lähestymistapaa tekoälyn turvallisuusongelmien ratkaiseminen on tehokkaiden lieventämiskeinojen tutkimista ja kohdistustekniikoita ja testaa niitä todellisen väärinkäytön varalta. Se myös sitoutuu olemaan yhä varovaisempi luodessaan ja ottamaan käyttöön tehokkaampia malleja ja tehostamaan turvatoimia. Tekoälyn kehittämisen ja käyttöönoton tehokas hallinta on välttämätöntä turvallisuuden takaamiseksi, mikä edellyttää teknisiä ja institutionaalisia innovaatioita.
Lue lisää:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
lisää artikkeleita
Agne on toimittaja, joka käsittelee metaversumien, tekoälyn ja uusimpia trendejä ja kehitystä Web3 toimialoja varten Metaverse Post. Hänen intohimonsa tarinankerrontaan on johtanut hänen haastatteluihinsa näiden alojen asiantuntijoiden kanssa pyrkien aina löytämään jännittäviä ja mukaansatempaavia tarinoita. Agnella on kandidaatin tutkinto kirjallisuudesta ja laaja tausta kirjoittamiseen monenlaisista aiheista, kuten matkailusta, taiteesta ja kulttuurista. Hän on myös toiminut vapaaehtoisena toimittajana eläinoikeusjärjestöön, jossa hän auttoi lisäämään tietoisuutta eläinten hyvinvointikysymyksistä. Ota häneen yhteyttä [sähköposti suojattu].
