Novinky Technika
15. prosince 2023

OpenAITým Superalignment společnosti 's představuje inovativní metodu pro dohled nad systémem AI

Stručně

OpenAITým Superalignment zveřejnil nový výzkumný dokument, který slibuje potenciální řešení pro dohled nad vysoce pokročilými systémy umělé inteligence.

OpenAI Tým Superalignment představil novou metodu pro supervizi pokročilých systémů AI

Organizace pro výzkum umělé inteligence (AI). OpenAIJe Superalignment tým publikoval nový výzkumný dokument, který představuje koncept využití menších modelů umělé inteligence k dohledu nad pokročilejšími. Tento přístup ukazuje působivé výsledky a slibuje potenciální zjednodušení dohledu nad vysoce pokročilými systémy umělé inteligence pro lidi v budoucnu.

V konvenčním strojovém učení lidé dohlížejí na systémy umělé inteligence, které jsou méně inteligentní než oni sami. Se superinteligentní AI však lidé budou muset dohlížet na systémy inteligentnější než oni sami.

Ve snaze o vedení a ovládání superinteligentních systémů umělé inteligence vědci navrhli metodu, kde by méně výkonný model umělé inteligence mohl dohlížet na výkonnější.

OpenAI Tým Superalignment představil novou metodu pro supervizi pokročilých systémů AI

Obvykle je nepravděpodobné, aby silný model předčil slabého supervizora, ale silné předtrénované modely mají vynikající schopnosti. Výzkumníci tento přístup aplikovali supervizí GPT-4 s GPT-2-úrovňový model. Výsledný model se obvykle provádí mezi GPT-3 a GPT-3.5, což naznačuje, že může dosáhnout silných schopností umělé inteligence se slabším dohledem.

Celkově výsledky naznačují, že i když základní lidský dohled nemusí být vhodný pro superinteligentní modely, existují způsoby, jak výrazně zlepšit, jak dobře se tyto modely učí od méně schopných supervizorů.

Vědci se domnívají, že jejich přístup zachycuje zásadní obtíže při sladění budoucích nadlidských modelů, což jim umožňuje dosáhnout pokroku.

Kromě oznámení výsledků výzkumu, OpenAI povzbudil studenty, akademiky a další výzkumné pracovníky, aby přispěli k širokému poli nadlidského zarovnání AI. Společnost zahájila grantový program ve výši 10 milionů dolarů zaměřený na tento problém.

OpenAI Pokroky ve vyvíjející se krajině AI

Podle OpenAISuperinteligentní modely umělé inteligence přesahující lidské schopnosti by mohly být vyvinuty během příštího desetiletí. Správa a řízení těchto sofistikovaných systémů umělé inteligence však pro lidi představuje značnou výzvu. 

Stávající metody zarovnání, jako je posilování učení z lidské zpětné vazby (RLHF), závisí na lidském vedení. Budoucí systémy umělé inteligence však budou schopny extrémně složitého a kreativního chování, které lidem znesnadní spolehlivý dohled nad nimi. Společnost proto aktivně zkoumá inovativní řešení, která by reagovala na vyvíjející se prostředí vývoje AI. 

Nedávno, OpenAI údajně oznámil vydání nejnovějšího vývoje společnosti – the GPT-4model .5. Údajný snímek obrazovky naznačoval pokročilé funkce zahrnující jazyk, zvuk, vidění, video, 3D, komplexní uvažování a porozumění napříč modely. Nicméně Sam Altman, zakladatel OpenAI, popřel fámy.

Odmítnutí odpovědnosti

V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.

O autorovi

Alisa, oddaná novinářka v MPost, se specializuje na kryptoměny, důkazy s nulovými znalostmi, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.

Další články
Alisa Davidsonová
Alisa Davidsonová

Alisa, oddaná novinářka v MPost, se specializuje na kryptoměny, důkazy s nulovými znalostmi, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.

Od zvlnění k velké zelené DAO: Jak kryptoměnové projekty přispívají k charitě

Pojďme prozkoumat iniciativy využívající potenciál digitálních měn pro charitativní účely.

Vědět více

AlphaFold 3, Med-Gemini a další: The Way AI Transforms Healthcare in 2024

Umělá inteligence se ve zdravotnictví projevuje různými způsoby, od odhalování nových genetických korelací až po posílení robotických chirurgických systémů...

Vědět více
Připojte se k naší komunitě inovativních technologií
Více
Dozvědět se více
Alchemy Pay se spojila s BounceBit, aby podpořila ekosystém obnovy bitcoinů
Business Novinky Technika
Alchemy Pay se spojila s BounceBit, aby podpořila ekosystém obnovy bitcoinů
17
Top 5 Liquid Restaking Protocols postavených na EigenLayer
Strávit Trhy Vývoj Technika
Top 5 Liquid Restaking Protocols postavených na EigenLayer
17
Magic Square odhaluje platformu IDO Magic Launchpad k demokratizaci maloobchodního přístupu pro Web3 Investoři
Business Trhy Novinky
Magic Square odhaluje platformu IDO Magic Launchpad k demokratizaci maloobchodního přístupu pro Web3 Investoři
17
Binance spolupracuje s tchajwanskými úřady na odhalení masivního praní špinavých peněz v kryptoměnách v hodnotě 6 milionů dolarů
Názor Business Trhy Vývoj Technika
Binance spolupracuje s tchajwanskými úřady na odhalení masivního praní špinavých peněz v kryptoměnách v hodnotě 6 milionů dolarů
17
CRYPTOMERIA LABS PTE. LTD.