OpenAI: Umelá inteligencia by mohla ľuďom veľmi ublížiť, ale snaha zastaviť pokrok neprichádza do úvahy
Stručne
OpenAIDokument „Planning for AGI and Beyond“ navrhuje postupné, pomalé zavádzanie komplexnejších a „inteligentnejších“ modelov, organizovanie nezávislých auditov veľkých systémov a obmedzovanie výpočtových zdrojov.
OpenAI chce, aby AI bola otvorená pre všetkých rovnako a aby vytvárala konzistentnejšie a ovládateľné modely znížiť zaujatosť a nežiaduce správanie.
OpenAI nedávno zverejnil dokument s názvom „Plánovanie pre AGI a ďalšie“. Načrtáva široké myšlienky, ktorými sa riadi činnosť spoločnosti, keď sa svet približuje k rozvoju AGI (umelá všeobecná inteligencia).
OpenAI sa domnieva, že hoci AI má potenciál spôsobiť ľuďom značné škody, pokus o zastavenie pokroku neprichádza do úvahy. V dôsledku toho sa musíme naučiť, ako toto zlepšenie udržať, aby sa výrazne nezhoršovalo.
Dokument možno nájsť tu. Zdôraznime z nej niekoľko dôležitých prvkov:
- OpenAI chce, aby AGI pomáhala ľuďom prosperovať vo všetkých aspektoch ich života, ekonomicky aj vedecky.
Namiesto toho, aby ste vytvorili super skvelú veľkú AI a okamžite ju vypustili do sveta, OpenAI postupne predstaví zložitejšie a „inteligentnejšie“ modely. Predpokladom je, že postupné zvyšovanie schopností AI nebude šokovať svet, čo ľuďom poskytne čas na prispôsobenie sa, prispôsobenie ekonomiky a vytvorenie postupov na interakciu s AI. - OpenAI vyzýva všetky organizácie, aby formálne prijali vyššie uvedený princíp (postupné zavádzanie výkonnej AI). Altman tiež odporúča obmedziť množstvo výpočtových zdrojov, ktoré možno použiť na trénovanie modelov, a zaviesť nestranné audity hlavných systémov predtým, ako budú sprístupnené širokej verejnosti. Namiesto zapájania sa do súťaží typu „kto prvý uvedie na trh chladnejší a väčší model?“ OpenAI žiada podniky spolupracovať zlepšiť bezpečnosť AI.
- OpenAI je presvedčený, že je dôležité, aby boli vlády informované o tréningoch, ktoré presahujú určitý rozsah. Toto je zaujímavý koncept a radi by sme sa o ňom dozvedeli viac zvolal OpenAI má v tejto súvislosti. Tento návrh sa mi na prvý pohľad nezdá až taký skvelý.
- OpenAI sa pokúsi vyvinúť modely, ktoré sú spoľahlivejšie a kontrolovateľnejšie, čo s najväčšou pravdepodobnosťou obmedzí zaujatosť a nepriaznivé správanie v AI. Zaujatý prístup OpenAI v tomto prípade je sprístupniť model širokej verejnosti vo veľmi obmedzenej forme a zároveň poskytnúť používateľom možnosť prispôsobiť si ho. Keďže spotrebitelia si tam nebudú môcť nič „prispôsobiť“, nie som si istý, ako to pomôže modelu ako celku stať sa menej zaujatým. Pokiaľ to nezbaví firmu zodpovednosti za činy modelky.
Celkovo dokument ukazuje správnym smerom. Došlo však k menšiemu konfliktu medzi „neukážeme hneď skvelé modely verejnosti, ale porozprávame sa o nich štátom“ a „Ľudia by to mali vedieť o pokroku AI.“ Stručne povedané, počkáme si na podrobné vysvetlenia od OpenAI na všetky témy.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
