OpenAI Otkriva svoj najnoviji pristup osiguravanju AI sigurnosti
Ukratko
OpenAI objavio je post na blogu u kojem opisuje svoj poboljšani pristup sigurnosti nakon nedavnih zabrinutosti u vezi sa sigurnošću i privatnošću te istragama.
Tvrtka se obvezuje provesti rigorozna testiranja, angažirati vanjske stručnjake za povratne informacije i surađivati s vladama kako bi odredili najbolje pristup za propise AI.
Nakon suočavanja sa zabrinutošću u vezi sa sigurnošću i privatnošću i praćenja nedavna istraživanja u nekim europskim zemljama, OpenAI ima otpušten post na blogu koji opisuje poboljšani pristup tvrtke sigurnosti.
OpenAI obećava da će provoditi rigorozna testiranja, angažirati vanjske stručnjake za povratne informacije prije puštanja bilo kojeg novog sustava i raditi s vladama na utvrđivanju najboljeg pristupa za propise AI.
Prethodno je tvrtka provela više od šest mjeseci radeći na sigurnosti i usklađivanju svog najnovijeg modela, GPT-4, prije nego što ga je javno objavio. Kako bi osigurao sigurnost svog najnovijeg jezičnog modela, GPT-4, OpenAI zaposlen tim od preko 50 stručnjaka: stručnjaci za AI sigurnost, etiku i politiku, uključujući istraživače i inženjere.
"Ključno je da vjerujemo da društvo mora imati vremena za ažuriranje i prilagodbu sve sposobnijoj umjetnoj inteligenciji i da bi svi na koje ova tehnologija utječe trebali imati značajan utjecaj na to kako se umjetna inteligencija dalje razvija",
OpenAI napisao.
OpenAIUsmjerenost na sigurnost i privatnost djece
Italija zabranjena ChatGPT, navodeći OpenAIjedan od razloga je to što nije provjerio dob svojih korisnika, unatoč tome što je dizajniran za osobe od 13 i više godina. Ključni fokus sigurnosnih napora tvrtke pomaknut je na zaštitu djece primjenom opcija provjere dobi, koje OpenAI sada istražuje, pogotovo jer su AI alati namijenjeni osobama od 18 ili više godina ili 13 i više godina uz odobrenje roditelja.
Tvrtka strogo zabranjuje stvaranje mržnje, uznemiravanja, nasilnog sadržaja ili sadržaja za odrasle, i GPT-4 već ima 82% manju vjerojatnost da će odgovoriti na zahtjeve za nedopušteni sadržaj u usporedbi s GPT-3. 5.
OpenAI je uspostavio robustan sustav za praćenje zlouporabe i nada se da će uspjeti GPT-4 dostupni većem broju ljudi tijekom vremena. Tvrtka radi s razvojnim programerima na prilagođenim sigurnosnim mjerama, kao što je neprofitna Khan Academy, i radi na značajkama koje će omogućiti strože standarde za rezultate modela.
Poboljšanje privatnosti još je jedan sigurnosni aspekt OpenAI se usredotočuje na, posebno nakon nedavnih kršenja podataka. Veliki jezični modeli tvrtke AI uvježbani su na ogromnoj količini teksta koji uključuje javno dostupan sadržaj, licencirani sadržaj i sadržaj koji generiraju recenzenti; koristi podatke kako bi AI modeli bili korisniji ljudima.
OpenAI poduzima korake za zaštitu privatnosti pojedinaca uklanjanjem osobnih podataka iz svojih podataka o obuci, finim podešavanjem modela za odbijanje zahtjeva za osobnim podacima i brisanjem osobnih podataka iz svojih sustava na zahtjev. To smanjuje mogućnost da AI modeli generiraju odgovore koji uključuju osobne podatke.
OpenAIpristup rješavanje sigurnosnih problema umjetne inteligencije je istraživanje učinkovitih ublažavanja i tehnike usklađivanja te ih testirati protiv zlostavljanja u stvarnom svijetu. Također se obvezuje da će biti sve oprezniji u stvaranju i implementaciji sposobnijih modela i da će poboljšati sigurnosne mjere. Učinkovito upravljanje razvojem i uvođenjem umjetne inteligencije ključno je za osiguranje sigurnosti, što zahtijeva tehničke i institucionalne inovacije.
Pročitajte više:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
Više članaka
Agne je novinarka koja pokriva najnovije trendove i razvoj u metaverzumu, umjetnoj inteligenciji i Web3 industrije za Metaverse Post. Njezina strast za pripovijedanjem dovela ju je do brojnih intervjua sa stručnjacima u tim područjima, uvijek nastojeći otkriti uzbudljive i privlačne priče. Agne je diplomirala književnost i ima opsežno iskustvo u pisanju o širokom rasponu tema, uključujući putovanja, umjetnost i kulturu. Također je volontirala kao urednica organizacije za prava životinja, gdje je pomogla u podizanju svijesti o pitanjima dobrobiti životinja. Kontaktirajte je na [e-pošta zaštićena].
