OpenAI Tutvustab oma uusima lähenemisviisiga AI ohutuse tagamiseks
Põgusalt
OpenAI avaldas ajaveebipostituse, milles kirjeldab oma täiustatud lähenemisviisi ohutusele pärast hiljutisi ohutuse ja privaatsusega seotud muresid ning uurimisi.
Ettevõte lubab viia läbi ranged testid, kaasata tagasiside saamiseks väliseksperte ja teha koostööd valitsustega, et välja selgitada parim. lähenemisviisi AI eeskirjadele.
Pärast ohutuse ja privaatsusega seotud muresid ning jälgimist hiljutised uurimised mõnes Euroopa riigis, OpenAI on vabastatud ajaveebipostitus, mis kirjeldab ettevõtte täiustatud lähenemist ohutusele.
OpenAI tõotab viia läbi ranged testid, kaasata väliseksperte tagasiside saamiseks enne uue süsteemi väljalaskmist ja teha koostööd valitsustega, et teha kindlaks parim lähenemisviis tehisintellekti eeskirjadele.
Varem töötas ettevõte üle kuue kuu oma uusima mudeli ohutuse ja joondamise kallal, GPT-4, enne selle avalikustamist. Selle uusima keelemudeli ohutuse tagamiseks GPT-4, OpenAI palgatud üle 50 eksperdist koosnev meeskond: tehisintellekti ohutuse, eetika ja poliitika spetsialistid, sealhulgas teadlased ja insenerid.
"Oluline on see, et me usume, et ühiskonnal peab olema aega värskendada ja kohaneda üha võimekama tehisintellektiga ning et kõigil, keda see tehnoloogia mõjutab, peaks olema märkimisväärne sõnaõigus tehisintellekti edasise arengu osas."
OpenAI kirjutas.
OpenAI's keskendub laste turvalisusele ja privaatsusele
Itaalia keelatud ChatGPT, viidates OpenAIÜks põhjustest on suutmatus kontrollida oma kasutajate vanust, kuigi see on mõeldud 13-aastastele ja vanematele isikutele. Ettevõtte ohutusalaste jõupingutuste kriitiline fookus on nihkunud laste kaitsmisele, rakendades vanuse kontrollimise võimalusi, mis OpenAI on nüüd uurimas, eriti kuna AI-tööriistad on mõeldud 18-aastastele või vanematele või 13-aastastele ja vanematele vanemate nõusolekul.
Ettevõte keelab rangelt vaenu õhutava, ahistava, vägivaldse või täiskasvanutele mõeldud sisu genereerimise ja GPT-4 on juba 82% väiksem tõenäosus vastata taotlustele keelatud sisu kohta võrreldes GPT-3. 5.
OpenAI on loonud tugeva süsteemi kuritarvitamise jälgimiseks ja loodab seda teha GPT-4 aja jooksul kättesaadavaks rohkematele inimestele. Ettevõte teeb arendajatega koostööd kohandatud ohutuse leevendamiseks, nagu mittetulunduslik Khan Academy, ja töötab funktsioonide kallal, mis võimaldavad mudeliväljundite jaoks rangemaid standardeid.
Privaatsuse parandamine on veel üks turvalisuse aspekt OpenAI keskendub, eriti pärast viimast andmete rikkumisi. Tehisintellekti ettevõtte suured keelemudelid on koolitatud tohutul hulgal tekstil, mis hõlmab avalikult kättesaadavat sisu, litsentsitud sisu ja inimeste poolt ülevaatajate loodud sisu; see kasutab andmeid, et muuta AI mudelid inimestele kasulikumaks.
OpenAI võtab meetmeid üksikisikute privaatsuse kaitsmiseks, eemaldades oma koolitusandmetest isikuandmed, täpsustades mudeleid isikuandmete taotluste tagasilükkamiseks ja kustutades nõudmisel oma süsteemidest isikuandmed. See vähendab võimalust, et AI mudelid genereerivad isikuandmeid sisaldavaid vastuseid.
OpenAIlähenemine tehisintellekti ohutusprobleemide lahendamiseks on tõhusate leevenduste uurimine ja joondustehnikaid ning testige neid reaalse kuritarvitamise vastu. Samuti lubab see olla üha ettevaatlikum võimekamate mudelite loomisel ja juurutamisel ning tõhustada ettevaatusabinõusid. Tehisintellekti arendamise ja kasutuselevõtu tõhus juhtimine on ohutuse tagamiseks hädavajalik, mis nõuab tehnilist ja institutsionaalset uuendust.
Loe rohkem:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
Veel artikleid
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
