OpenAI Odhaľuje svoj najnovší prístup k zaisteniu bezpečnosti AI
Stručne
OpenAI vydala blogový príspevok, v ktorom načrtáva svoj zlepšený prístup k bezpečnosti po nedávnych obavách týkajúcich sa bezpečnosti a súkromia a vyšetrovania.
Spoločnosť sa zaväzuje vykonávať prísne testovanie, zapájať externých odborníkov, aby získali spätnú väzbu, a spolupracovať s vládami pri určovaní najlepších prístup k predpisom AI.
Potom, čo čelil obavám o bezpečnosť a súkromie a nasledoval nedávne vyšetrovania v niektorých európskych krajinách, OpenAI má uvoľnený blogový príspevok, ktorý načrtáva zlepšený prístup spoločnosti k bezpečnosti.
OpenAI sa zaväzuje vykonať prísne testovanie, zaangažovať externých odborníkov na spätnú väzbu pred vydaním akéhokoľvek nového systému a spolupracovať s vládami na určení najlepšieho prístupu k predpisom AI.
Predtým spoločnosť strávila viac ako šesť mesiacov prácou na bezpečnosti a prispôsobení svojho najnovšieho modelu, GPT-4predtým, ako ho zverejníte. Na zaistenie bezpečnosti svojho najnovšieho jazykového modelu, GPT-4, OpenAI najatý tím viac ako 50 odborníkov: špecialistov na bezpečnosť, etiku a politiku AI vrátane výskumníkov a inžinierov.
„Rozhodujúce je, že veríme, že spoločnosť musí mať čas na aktualizáciu a prispôsobenie sa čoraz schopnejšej AI a že každý, koho táto technológia ovplyvňuje, by mal mať významné slovo pri ďalšom vývoji AI,“
OpenAI napísal.
OpenAIZameranie na bezpečnosť a súkromie detí
Taliansko zakázané ChatGPT, citujúc OpenAIJedným z dôvodov je neoverenie veku používateľov, napriek tomu, že je určený pre jednotlivcov vo veku 13 a viac rokov. Kritické zameranie úsilia spoločnosti v oblasti bezpečnosti sa presunulo na ochranu detí implementáciou možností overovania veku, ktoré OpenAI teraz skúma, najmä preto, že nástroje AI sú určené pre jednotlivcov vo veku 18 a viac rokov alebo 13 a viac rokov so súhlasom rodičov.
Spoločnosť prísne zakazuje vytváranie nenávistného, obťažujúceho, násilného obsahu alebo obsahu pre dospelých a GPT-4 už má o 82 % nižšiu pravdepodobnosť odpovedí na žiadosti o nepovolený obsah v porovnaní s GPT-3. 5.
OpenAI zaviedla robustný systém na monitorovanie zneužívania a dúfa, že sa mu to podarí GPT-4 postupom času dostupné pre viac ľudí. Spoločnosť spolupracuje s vývojármi na prispôsobených bezpečnostných opatreniach, ako je napríklad nezisková Khan Academy, a pracuje na funkciách, ktoré umožnia prísnejšie štandardy pre výstupy modelov.
Ďalším bezpečnostným aspektom je zlepšenie súkromia OpenAI sa zameriava najmä po nedávnej porušenia údajov. Veľké jazykové modely spoločnosti AI sú trénované na obrovskom množstve textu, ktorý zahŕňa verejne dostupný obsah, licencovaný obsah a obsah generovaný ľudskými recenzentmi; využíva údaje na to, aby modely AI boli pre ľudí užitočnejšie.
OpenAI podniká kroky na ochranu súkromia jednotlivcov odstránením osobných údajov zo svojich školiacich údajov, doladením modelov na odmietnutie žiadostí o osobné informácie a odstránením osobných údajov zo svojich systémov na požiadanie. To znižuje pravdepodobnosť, že modely AI vygenerujú odpovede, ktoré obsahujú osobné informácie.
OpenAIprístup k riešeniu bezpečnostných problémov AI je výskum účinných zmierňujúcich opatrení a zoraďovacie techniky a otestujte ich proti zneužitiu v reálnom svete. Zaväzuje sa tiež, že bude čoraz opatrnejší pri vytváraní a nasadzovaní schopnejších modelov a posilní bezpečnostné opatrenia. Efektívne riadenie vývoja a zavádzania AI je nevyhnutné na zaistenie bezpečnosti, čo si vyžaduje technické a inštitucionálne inovácie.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
