OpenAI Razkriva svoj najnovejši pristop k zagotavljanju varnosti AI
Na kratko
OpenAI je objavil objavo v spletnem dnevniku, v kateri opisuje svoj izboljšan pristop k varnosti po nedavnih pomislekih glede varnosti in zasebnosti ter preiskav.
Podjetje se zavezuje, da bo izvajalo stroga testiranja, angažiralo zunanje strokovnjake za povratne informacije in sodelovalo z vladami, da bi določilo najboljše pristop za predpise o AI.
Po soočanju s pomisleki glede varnosti in zasebnosti ter sledenju nedavne preiskave v nekaterih evropskih državah, OpenAI je sprosti objava v spletnem dnevniku, ki opisuje izboljšan pristop podjetja k varnosti.
OpenAI se zavezuje, da bo izvajal stroga testiranja, angažiral zunanje strokovnjake za povratne informacije, preden bo izdal kakršen koli nov sistem, in sodeloval z vladami pri določitvi najboljšega pristopa za predpise o umetni inteligenci.
Pred tem je podjetje več kot šest mesecev delalo na varnosti in prilagajanju svojega najnovejšega modela, GPT-4, preden ga javno objavi. Za zagotovitev varnosti svojega najnovejšega jezikovnega modela, GPT-4, OpenAI najel skupina več kot 50 strokovnjakov: strokovnjaki za varnost, etiko in politike, vključno z raziskovalci in inženirji.
"Bistveno je, da verjamemo, da mora imeti družba čas za posodobitev in prilagoditev na vedno bolj zmogljivo umetno inteligenco in da bi morali imeti vsi, na katere ta tehnologija vpliva, pomembno besedo pri nadaljnjem razvoju umetne inteligence,"
OpenAI napisal.
OpenAIOsredotoča se na varnost in zasebnost otrok
Italija prepovedana ChatGPT, navaja OpenAIEden od razlogov je, da ni preveril starosti svojih uporabnikov, čeprav je zasnovan za osebe, stare 13 let in več. Ključni poudarek varnostnih prizadevanj podjetja se je preusmeril na zaščito otrok z izvajanjem možnosti preverjanja starosti, ki OpenAI zdaj raziskuje, zlasti ker so orodja AI namenjena posameznikom, starim 18 let ali več ali 13 let in več, z odobritvijo staršev.
Podjetje strogo prepoveduje ustvarjanje sovražne, nadlegovalne, nasilne ali odrasle vsebine in GPT-4 že ima 82 % manjšo verjetnost, da bo odgovoril na zahteve za nedovoljeno vsebino v primerjavi z GPT-3. 5.
OpenAI je vzpostavil trden sistem za spremljanje zlorab in upa, da bo uspel GPT-4 sčasoma na voljo več ljudem. Podjetje sodeluje z razvijalci pri prilagojenih varnostnih ublažitvah, kot je neprofitna Akademija Khan, in dela na funkcijah, ki bodo omogočile strožje standarde za rezultate modelov.
Izboljšanje zasebnosti je še en varnostni vidik OpenAI se osredotoča, še posebej po nedavnem kršitve podatkov. Veliki jezikovni modeli podjetja AI se usposabljajo na ogromni količini besedila, ki vključuje javno dostopno vsebino, licenčno vsebino in vsebino, ki jo ustvarijo pregledovalci; uporablja podatke, da naredi modele AI bolj koristne za ljudi.
OpenAI sprejema ukrepe za zaščito zasebnosti posameznikov z odstranjevanjem osebnih podatkov iz svojih podatkov o usposabljanju, natančnem prilagajanju modelov za zavračanje zahtev po osebnih podatkih in brisanjem osebnih podatkov iz svojih sistemov na zahtevo. To zmanjša možnost, da bi modeli AI ustvarili odgovore, ki vključujejo osebne podatke.
OpenAIpristop reševanje vprašanj glede varnosti umetne inteligence je raziskovanje učinkovitih ublažitev in tehnike usklajevanja ter jih preizkusite pred zlorabami v resničnem svetu. Prav tako se zavezuje, da bo vse bolj previden pri ustvarjanju in uvajanju zmogljivejših modelov ter da bo povečal varnostne ukrepe. Učinkovito upravljanje razvoja in uvajanja umetne inteligence je bistveno za zagotavljanje varnosti, kar zahteva tehnične in institucionalne inovacije.
Preberite več:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
več člankov
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
