OpenAI Zhromažďuje tím 50+ expertov na zlepšenie GPT-4Bezpečnosť
Stručne
OpenAI najala tím viac ako 50 odborníkov, aby zabezpečili, že je to najnovšie jazykový model, GPT-4, je bezpečné používať.
Tím zahŕňa výskumníkov a inžinierov špecializujúcich sa na bezpečnosť, etiku a politiku AI.
Cieľom je zabrániť GPT-4 vytvárať škodlivý alebo neobjektívny obsah a zabezpečiť, aby bol v súlade s ľudskými hodnotami.
OpenAI na výrobu najala viac ako 50 odborníkov z rôznych oblastí GPT-4 bezpečnejšie. Experti pracovali na testovaní modelu protivníkom, aby identifikovali potenciálne riziká a slabiny. Sú to odborníci z rôznych oblastí: dlhodobé riziká zosúladenia AI, kybernetická bezpečnosť, biologické riziko a medzinárodná bezpečnosť. Ich zistenia pomohli OpenAI hodnotiť správanie modelov vo vysoko rizikových oblastiach, ktoré si vyžadujú špecializované znalosti.
Zatiaľ čo najnovší jazykový model predstavuje podobné riziká ako menšie jazykové modely, ďalšie možnosti o GPT-4 viesť k novým hrozbám. Došlo teda k zapojeniu odborníkov rozhodujúce pre zaistenie bezpečnosti technológie.
OpenAI zaviedla dodatočný súbor bezpečnostných výukových výziev na základe ľudských preferencií (RLHF) a modelov odmeňovania založených na pravidlách (RBRM) na zlepšenie bezpečnosti GPT-4 Model. RBRM sú nulové GPT-4 klasifikátory, ktoré fungujú ako dodatočný signál odmeny pre GPT-4 modelu politiky počas dolaďovania RLHF. Ich účelom je podnietiť vhodné správanie, ako je odmietnutie vytvárania škodlivého obsahu alebo neodmietanie neškodných žiadostí.
Pre zaistenie bezpečnosti GPT-4 modely, OpenAI začala v auguste 2022 s náborom externých expertov na vykonávanie cvičení „červeného tímu“ vrátane stresového testovania, testovania hraníc a testovania protivníkov. Mali prístup k skorším verziám GPT-4 a identifikovali počiatočné riziká, ktoré motivovali ďalší výskum bezpečnosti.
Spätná väzba odborníkov viedla k technickým zmierneniam a opatreniam na presadzovanie politiky na zníženie rizík. Mnohé hrozby však pretrvávajú a je potrebné ďalšie hodnotenie.
Hovoríme o zamestnancoch na OpenAI, ChatGPT bol spočiatku rozvinutý s pomocou jednotlivcov v niektorých z najchudobnejších regiónov sveta prostredníctvom OpenAIpartnerstvo so spoločnosťou s názvom Sama, ktorá zamestnáva milióny pracovníkov z chudobných oblastí. Niektorí odborníci na etiku AI kritizovali OpenAIrozhodnutie outsourcovať svoje školenie ChatGPT model Sama, obviňujúc spoločnosť z vykorisťovania lacnej pracovnej sily.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
