OpenAI Odhaluje svůj nejnovější přístup k zajištění bezpečnosti umělé inteligence
Stručně
OpenAI vydala blogový příspěvek, v němž popisuje svůj zlepšený přístup k bezpečnosti po nedávných obavách týkajících se bezpečnosti a soukromí a vyšetřování.
Společnost se zavazuje provádět přísné testování, angažovat externí odborníky pro zpětnou vazbu a spolupracovat s vládami na určení nejlepších přístup pro předpisy AI.
Poté, co čelí obavám o bezpečnost a soukromí a následuje nedávná vyšetřování v některých evropských zemích, OpenAI má propuštěn blogový příspěvek popisující zlepšený přístup společnosti k bezpečnosti.
OpenAI se zavazuje provést přísné testování, zapojit externí odborníky pro zpětnou vazbu před vydáním jakéhokoli nového systému a spolupracovat s vládami na určení nejlepšího přístupu k regulacím AI.
Dříve společnost strávila více než šest měsíců prací na bezpečnosti a sladění svého nejnovějšího modelu, GPT-4před jeho zveřejněním. Aby byla zajištěna bezpečnost nejnovějšího jazykového modelu, GPT-4, OpenAI najatý tým více než 50 odborníků: specialisté na bezpečnost, etiku a zásady umělé inteligence, včetně výzkumníků a inženýrů.
„Zásadní je, že věříme, že společnost musí mít čas na aktualizaci a přizpůsobení se stále schopnější AI a že každý, koho tato technologie ovlivňuje, by měl mít významné slovo v tom, jak se AI dále vyvíjí,“
OpenAI napsal.
OpenAIZaměření na bezpečnost a soukromí dětí
Itálie zakázána ChatGPT, cituji OpenAIJedním z důvodů je neověření věku uživatelů, přestože je určen pro osoby ve věku 13 a více let. Zásadní těžiště bezpečnostního úsilí společnosti se přesunulo na ochranu dětí implementací možností ověřování věku, které OpenAI nyní zkoumá, zejména proto, že nástroje umělé inteligence jsou určeny pro jednotlivce ve věku 18 a více let nebo 13 let a starší se souhlasem rodičů.
Společnost přísně zakazuje vytváření nenávistného, obtěžujícího, násilného obsahu nebo obsahu pro dospělé GPT-4 má již o 82 % nižší pravděpodobnost odpovědi na žádosti o nepovolený obsah ve srovnání s GPT-3.5.
OpenAI zavedla robustní systém pro sledování zneužívání a doufá, že to udělá GPT-4 časem k dispozici více lidem. Společnost spolupracuje s vývojáři na přizpůsobených bezpečnostních opatřeních, jako je nezisková Khan Academy, a pracuje na funkcích, které umožňují přísnější standardy pro výstupy modelů.
Zlepšení soukromí je dalším bezpečnostním aspektem OpenAI se zaměřuje na, zejména po nedávné narušení dat. Velké jazykové modely společnosti AI jsou trénovány na obrovském množství textu, který zahrnuje veřejně dostupný obsah, licencovaný obsah a obsah generovaný lidskými recenzenty; využívá data k tomu, aby modely umělé inteligence byly pro lidi užitečnější.
OpenAI podniká kroky k ochraně soukromí jednotlivců odstraněním osobních údajů ze svých školicích dat, dolaďováním modelů pro odmítnutí žádostí o osobní údaje a na požádání vymaže osobní údaje ze svých systémů. To snižuje pravděpodobnost, že modely AI generují odpovědi, které obsahují osobní údaje.
OpenAIpřístup k řešení problémů s bezpečností umělé inteligence je výzkum účinných zmírňujících opatření a techniky zarovnání a otestujte je proti zneužití v reálném světě. Rovněž se zavazuje, že bude stále opatrnější při vytváření a zavádění schopnějších modelů a posílí bezpečnostní opatření. Efektivní řízení vývoje a zavádění umělé inteligence je zásadní pro zajištění bezpečnosti, což vyžaduje technické a institucionální inovace.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další články
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
