OpenAITým Superalignment společnosti 's představuje inovativní metodu pro dohled nad systémem AI
Stručně
OpenAITým Superalignment zveřejnil nový výzkumný dokument, který slibuje potenciální řešení pro dohled nad vysoce pokročilými systémy umělé inteligence.
Organizace pro výzkum umělé inteligence (AI). OpenAIJe Superalignment tým publikoval nový výzkumný dokument, který představuje koncept využití menších modelů umělé inteligence k dohledu nad pokročilejšími. Tento přístup ukazuje působivé výsledky a slibuje potenciální zjednodušení dohledu nad vysoce pokročilými systémy umělé inteligence pro lidi v budoucnu.
V konvenčním strojovém učení lidé dohlížejí na systémy umělé inteligence, které jsou méně inteligentní než oni sami. Se superinteligentní AI však lidé budou muset dohlížet na systémy inteligentnější než oni sami.
Ve snaze o vedení a ovládání superinteligentních systémů umělé inteligence vědci navrhli metodu, kde by méně výkonný model umělé inteligence mohl dohlížet na výkonnější.
Obvykle je nepravděpodobné, aby silný model předčil slabého supervizora, ale silné předtrénované modely mají vynikající schopnosti. Výzkumníci tento přístup aplikovali supervizí GPT-4 s GPT-2-úrovňový model. Výsledný model se obvykle provádí mezi GPT-3 a GPT-3.5, což naznačuje, že může dosáhnout silných schopností umělé inteligence se slabším dohledem.
Celkově výsledky naznačují, že i když základní lidský dohled nemusí být vhodný pro superinteligentní modely, existují způsoby, jak výrazně zlepšit, jak dobře se tyto modely učí od méně schopných supervizorů.
Vědci se domnívají, že jejich přístup zachycuje zásadní obtíže při sladění budoucích nadlidských modelů, což jim umožňuje dosáhnout pokroku.
Kromě oznámení výsledků výzkumu, OpenAI povzbudil studenty, akademiky a další výzkumné pracovníky, aby přispěli k širokému poli nadlidského zarovnání AI. Společnost zahájila grantový program ve výši 10 milionů dolarů zaměřený na tento problém.
OpenAI Pokroky ve vyvíjející se krajině AI
Podle OpenAISuperinteligentní modely umělé inteligence přesahující lidské schopnosti by mohly být vyvinuty během příštího desetiletí. Správa a řízení těchto sofistikovaných systémů umělé inteligence však pro lidi představuje značnou výzvu.
Stávající metody zarovnání, jako je posilování učení z lidské zpětné vazby (RLHF), závisí na lidském vedení. Budoucí systémy umělé inteligence však budou schopny extrémně složitého a kreativního chování, které lidem znesnadní spolehlivý dohled nad nimi. Společnost proto aktivně zkoumá inovativní řešení, která by reagovala na vyvíjející se prostředí vývoje AI.
Nedávno, OpenAI údajně oznámil vydání nejnovějšího vývoje společnosti – the GPT-4model .5. Údajný snímek obrazovky naznačoval pokročilé funkce zahrnující jazyk, zvuk, vidění, video, 3D, komplexní uvažování a porozumění napříč modely. Nicméně Sam Altman, zakladatel OpenAI, popřel fámy.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Alisa, oddaná novinářka v MPost, se specializuje na kryptoměny, důkazy s nulovými znalostmi, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
Další články
Alisa, oddaná novinářka v MPost, se specializuje na kryptoměny, důkazy s nulovými znalostmi, investice a rozsáhlou oblast Web3. S velkým okem pro nové trendy a technologie poskytuje komplexní pokrytí, aby informovala a zapojila čtenáře do neustále se vyvíjejícího prostředí digitálních financí.
