OpenAI Apvieno 50+ ekspertu komandu, lai uzlabotu GPT-4Drošība
Īsumā
OpenAI ir nolīgusi vairāk nekā 50 ekspertu komandu, lai nodrošinātu jaunāko valodas modelis, GPT-4, ir droša lietošanai.
Komandas sastāvā ir pētnieki un inženieri, kas specializējas AI drošībā, ētikā un politikā.
Mērķis ir novērst GPT-4 no kaitīga vai neobjektīva satura radīšanas un nodrošināt, ka tas atbilst cilvēka vērtībām.
OpenAI ir nolīgusi vairāk nekā 50 ekspertus no dažādām jomām GPT-4 drošāk. Eksperti ir strādājuši ar modeļa pretestības testēšanu, lai identificētu iespējamos riskus un ievainojamības. Viņi ir eksperti dažādās jomās: ilgtermiņa AI saskaņošanas riski, kiberdrošība, biorisks un starptautiskā drošība. Viņu atklājumi ir palīdzējuši OpenAI novērtēt modeļa uzvedību augsta riska jomās, kurās nepieciešama nišas zināšanas.
Lai gan jaunākais valodas modelis rada līdzīgus riskus kā mazāki valodu modeļi, papildu iespējas GPT-4 radīt jaunus draudus. Tādējādi ekspertu piesaiste ir bijusi izšķiroša nozīme tehnoloģijas drošības nodrošināšanā.
OpenAI ir ieviesis papildu ar drošību saistītu pastiprināšanas mācību komplektu no cilvēka vēlmēm (RLHF) apmācības uzvednēm un uz noteikumiem balstītus atalgojuma modeļus (RBRM), lai uzlabotu GPT-4 modelis. RBRM ir zero-shot GPT-4 klasifikatori, kas darbojas kā papildu atlīdzības signāls GPT-4 politikas modelis RLHF precizēšanas laikā. To mērķis ir stimulēt atbilstošu rīcību, piemēram, atsakoties radīt kaitīgu saturu vai nenoraidot nekaitīgus pieprasījumus.
Lai nodrošinātu drošību GPT-4 modeļi, OpenAI 2022. gada augustā sāka pieņemt darbā ārējos ekspertus, lai veiktu “sarkanās komandas veidošanas” vingrinājumus, tostarp stresa testus, robežu testēšanu un testēšanu pret konkurenci. Viņiem bija piekļuve sākotnējām versijām GPT-4 modeli un identificēja sākotnējos riskus, kas motivēja turpmākus drošības pētījumus.
Ekspertu atsauksmes izraisīja tehniskus mazināšanas pasākumus un politikas izpildes pasākumus, lai samazinātu riskus. Tomēr daudzi draudi joprojām pastāv, un ir nepieciešams turpmāks novērtējums.
Runājot par darbiniekiem plkst OpenAI, ChatGPT sākotnēji bija attīstīts ar palīdzību no cilvēkiem dažos no pasaules nabadzīgākajiem reģioniem OpenAIpartnerattiecības ar uzņēmumu Sama, kas nodarbina miljoniem strādnieku no nabadzīgiem apgabaliem. Daži AI ētikas eksperti ir kritizējuši OpenAIlēmumu nodot apmācību ārpakalpojumu sniedzējiem ChatGPT modeli Sama, apsūdzot uzņēmumu zemu izmaksu darbaspēka ekspluatācijā.
Lasīt vairāk:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
Vairāk rakstus
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
