OpenAI: Umělá inteligence by mohla lidem potenciálně ublížit, ale pokusit se zastavit pokrok není řešením
Stručně
OpenAIDokument „Planning for AGI and Beyond“ navrhuje postupné, pomalé zavádění složitějších a „chytřejších“ modelů, organizování nezávislých auditů velkých systémů a omezování výpočetních zdrojů.
OpenAI chce, aby umělá inteligence byla otevřená všem stejně a vytvářela konzistentnější a ovladatelné modely snížit zaujatost a nežádoucí chování.
OpenAI nedávno zveřejnil dokument s názvem „Planning for AGI and Beyond“. Nastiňuje široké myšlenky, kterými se řídí jednání společnosti, zatímco se svět přibližuje vývoji AGI (umělá obecná inteligence).
OpenAI se domnívá, že zatímco umělá inteligence má potenciál způsobit lidem značné škody, pokus o zastavení pokroku nepřichází v úvahu. V důsledku toho se musíme naučit, jak toto zlepšení udržet, aby se výrazně nezhoršovalo.
Dokument lze nalézt zde. Zdůrazněme z něj několik zásadních prvků:
- OpenAI chce, aby AGI pomáhala lidem prosperovat ve všech aspektech jejich života, jak ekonomicky, tak vědecky.
Místo toho, abyste vytvořili super skvělou velkou AI a okamžitě ji vypustili do světa, OpenAI postupně představí složitější a „chytřejší“ modely. Předpokladem je, že postupné zvyšování schopností umělé inteligence nebude šokovat svět a dá lidem čas přizpůsobit se, přizpůsobit ekonomiku a vytvořit postupy pro interakci s umělou inteligencí. - OpenAI vyzývá všechny organizace, aby formálně přijaly výše uvedenou zásadu (postupně zaváděly výkonnou umělou inteligenci). Altman také doporučuje omezit množství výpočetních zdrojů, které lze použít k trénování modelů, a nastavit nestranné audity hlavních systémů před jejich zpřístupněním široké veřejnosti. Místo toho, abyste se zapojovali do soutěží typu „kdo jako první představí chladnější a větší model?“ OpenAI žádá podniky, aby spolupracovat zlepšit bezpečnost AI.
- OpenAI domnívá se, že je důležité, aby byly vlády informovány o školeních, které přesahují určitý rozsah. Toto je zajímavý koncept a rádi bychom se o něm dozvěděli více zvolal OpenAI má v tomto ohledu. Tento návrh se mi na první pohled nezdá tak skvělý.
- OpenAI se pokusí vyvinout modely, které jsou spolehlivější a kontrolovatelné, s největší pravděpodobností omezí zkreslení a nepříznivé chování v AI. Zaujatý přístup OpenAI v tomto případě je zpřístupnění modelu široké veřejnosti ve velmi omezené podobě a zároveň dává uživatelům možnost si jej přizpůsobit. Vzhledem k tomu, že spotřebitelé si tam nebudou moci nic „personalizovat“, nejsem si jistý, jak to pomůže modelu jako celku stát se méně zaujatým. Pokud to firmu nezbaví odpovědnosti za jednání modelu.
Celkově dokument ukazuje správným směrem. Došlo však k menšímu konfliktu mezi „nebudeme hned ukazovat skvělé modely veřejnosti, ale budeme o nich mluvit se státy“ a "Lidé by měli vědět o pokroku AI." Stručně řečeno, počkáme si na podrobná vysvětlení OpenAI na všechna témata.
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
