OpenAI Pristato naujausią metodą, skirtą AI saugai užtikrinti
Trumpai
OpenAI išleido tinklaraščio įrašą, kuriame išdėstė savo patobulintą požiūrį į saugą, nes neseniai kilo susirūpinimas dėl saugos ir privatumo bei tyrimų.
Bendrovė įsipareigoja atlikti griežtus bandymus, pasitelkti išorės ekspertus atsiliepimams gauti ir bendradarbiauti su vyriausybėmis, kad nustatytų geriausią. požiūris į AI reglamentus.
Susidūrę su rūpesčiais dėl saugumo ir privatumo bei sekimo naujausi tyrimai kai kuriose Europos šalyse, OpenAI turi išleido tinklaraščio įrašas, kuriame aprašomas patobulintas įmonės požiūris į saugą.
OpenAI įsipareigoja atlikti griežtus bandymus, pasitelkti išorės ekspertus, kad jie pateiktų atsiliepimus prieš išleidžiant bet kokią naują sistemą, ir bendradarbiauti su vyriausybėmis siekiant nustatyti geriausią dirbtinio intelekto taisyklių metodą.
Anksčiau bendrovė daugiau nei šešis mėnesius dirbo prie savo naujausio modelio saugos ir suderinimo, GPT-4, prieš paskelbdami jį viešai. Siekdami užtikrinti naujausio kalbos modelio saugumą, GPT-4, OpenAI pasamdytas daugiau nei 50 ekspertų komanda: dirbtinio intelekto saugos, etikos ir politikos specialistai, įskaitant tyrėjus ir inžinierius.
„Svarbiausia yra tai, kad mes tikime, kad visuomenė turi turėti laiko atsinaujinti ir prisitaikyti prie vis labiau galinčių dirbtinio intelekto, ir kad kiekvienas, kurį paveikė ši technologija, turėtų turėti svarų žodį, kaip toliau vystysis dirbtinis intelektas.
OpenAI parašė
OpenAIDidžiausias dėmesys skiriamas vaikų saugumui ir privatumui
Italija uždrausta ChatGPT, cituoja OpenAIViena iš priežasčių yra nesugebėjimas patikrinti naudotojų amžiaus, nepaisant to, kad jis skirtas 13 metų ir vyresniems asmenims. Svarbiausias įmonės saugos pastangų dėmesys buvo nukreiptas į vaikų apsaugą, įgyvendinant amžiaus tikrinimo parinktis, kurios OpenAI dabar tiria, ypač todėl, kad dirbtinio intelekto įrankiai skirti 18 metų ir vyresniems arba 13 metų ir vyresniems asmenims, gavus tėvų sutikimą.
Bendrovė griežtai draudžia kurti neapykantą, priekabiavimą, smurtą ar suaugusiesiems skirtą turinį ir GPT-4 jau turi 82 % mažesnę tikimybę atsakyti į užklausas dėl neleidžiamo turinio, palyginti su GPT-3.5.
OpenAI sukūrė patikimą piktnaudžiavimo stebėjimo sistemą ir tikisi, kad tai bus padaryta GPT-4 laikui bėgant prieinama daugiau žmonių. Bendrovė bendradarbiauja su kūrėjais, siekdama pritaikytų saugos mažinimo priemonių, pvz., ne pelno siekiančia „Khan Academy“, ir kuria funkcijas, kurios leistų taikyti griežtesnius modelių išvesties standartus.
Kitas saugumo aspektas yra privatumo gerinimas OpenAI daugiausia dėmesio skiria, ypač po pastarojo meto duomenų pažeidimai. Dirbtinio intelekto įmonės dideli kalbų modeliai yra apmokyti naudojant didžiulį teksto kiekį, kuris apima viešai prieinamą turinį, licencijuotą turinį ir turinį, kurį sugeneravo žmonės; ji naudoja duomenis, kad dirbtinio intelekto modeliai būtų naudingesni žmonėms.
OpenAI imasi veiksmų, kad apsaugotų asmenų privatumą, pašalindama asmeninę informaciją iš savo mokymo duomenų, patikslindama modelius, kad būtų atmesta užklausos dėl asmeninės informacijos, ir ištrindama asmeninę informaciją iš savo sistemų, gavusi prašymą. Tai sumažina tikimybę, kad AI modeliai generuos atsakymus, apimančius asmeninę informaciją.
OpenAIs požiūris AI saugos problemų sprendimas yra veiksmingų švelninimo būdų tyrimas ir suderinimo metodus bei patikrinkite juos prieš piktnaudžiavimą realiame pasaulyje. Ji taip pat įsipareigoja būti vis atsargesniems kuriant ir diegiant pažangesnius modelius ir gerinti saugos priemones. Veiksmingas AI kūrimo ir diegimo valdymas yra būtinas norint užtikrinti saugą, kuriai būtinos techninės ir institucinės naujovės.
Plačiau paskaitykite čia:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
Daugiau straipsnių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
