OpenAI Vyvolává poplach ohledně superinteligence a potenciálu umělé inteligence překonat lidské schopnosti v příštím desetiletí
Stručně
OpenAI vydává výzvu k regulaci superinteligence a zdůrazňuje potřebu správy ve světle rychlého pokroku AI.
Předpokládá se, že systémy umělé inteligence předčí lidské znalosti a firemní produktivita za deset let, V závislosti na OpenAI.
OpenAI zdůrazňuje význam veřejného dohledu a demokratické kontroly pro výkonné systémy umělé inteligence.
OpenAI, Tvůrce ChatGPT, vyzval k zamyšlení regulace superinteligence, což je paralela s nařízením o jaderné energii. V nedávném blogu, OpenAI zdůraznil potenciální důsledky rychlého pokroku AI a zdůraznil naléhavou potřebu správy v tomto vyvíjejícím se prostředí. Společnost uvedla, že systémy AI do deseti let předčí odborníky a největší korporace v produktivitě a dovednostech.
„Musíme také zmírnit rizika dnešní technologie AI, ale superinteligence bude vyžadovat zvláštní zacházení a koordinaci,“ řekl Sam Altman, Greg Brockman a Ilya Sutskever z OpenAI zdůraznil.
Superinteligence popisuje entitu, která přesahuje celkovou lidskou inteligenci nebo některé specifické aspekty inteligence. Podle autorů bude mít superinteligence AI bezkonkurenční úroveň síly, která bude zahrnovat pozitivní i negativní aspekty.
Vývoj a rizika nevyhnutelné superinteligence
OpenAI identifikoval tři důležité myšlenky, které hrají klíčovou roli při řízení úspěšného rozvoje superinteligence. Patří mezi ně koordinace mezi předními vývojovými snahami, zřízení mezinárodního úřadu podobného Mezinárodní agentuře pro atomovou energii (MAAE) a rozvoj technických schopností pro bezpečnost.
Zatímco OpenAI uznává, že systémy umělé inteligence jsou spojeny s riziky, tato rizika jsou srovnatelná s riziky spojenými s jinými technologiemi souvisejícími s internetem. Altman, Brockman a Sutskever rovněž vyjadřují přesvědčení, že současné přístupy společnosti k řízení těchto rizik jsou vhodné. Hlavní obava se však týká budoucích systémů, které budou mít nebývalou sílu.
„Naproti tomu systémy, o které se obáváme, budou mít výkon přesahující jakoukoli dosud vytvořenou technologii a měli bychom si dávat pozor, abychom se na ně nezaměřili aplikací podobných standardů na technologii hluboko pod touto hranicí,“ stálo v příspěvku na blogu.
Autoři tvrdí, že výkonné systémy umělé inteligence potřebují veřejný dohled a demokratickou kontrolu. Vysvětlují také, proč tuto technologii stavějí OpenAI: vytvořit lepší svět a vyhnout se riziku jeho zastavení. Umělá inteligence pomáhá v různých oblastech, včetně vzdělávání, kreativity a produktivity, stejně jako obecného hospodářského růstu.
OpenAI si myslí, že je to obtížné a riskantní zastavit superinteligenci od vytvoření. Superinteligence má značné výhody, každým rokem zlevňuje, pracuje na ní více lidí a je součástí technologické cesty společnosti.
Ilman Šažajev, techpreneur v AI a spoluzakladatel Laboratoře Farcana, sdílel několik komentářů týkajících se novinek. Projekce naznačují, že pokud nebude superinteligence správně řízena, může být jedním z nejničivějších vynálezů všech dob. Rozhovory o nasazení technologie však nadále rozdělují, protože ještě nebyla vyvinuta. Prosazování zastavení vývoje na základě strachu z předpovědí může lidstvo připravit o příležitosti, které by nová technologie mohla mít.
"OpenAIPřístup decentralizovaného řízení může pomoci zachovat jeho širokou bezpečnost. Se správnými předpisy by mohl být program v případě, že ano představuje hrozbu. Pokud budou tyto záruky zavedeny, Superinteligence může být inovací, kterou stojí za to prozkoumat,“ řekl Shazhaev.
Otevřenou diskusí o svých názorech na superinteligenci AI a navrhovaná regulační opatření, OpenAI Zdá se, že podporuje informované diskuse a nabízí různé pohledy.
Sam Altman pevně věří v široké dostupnosti umělé inteligence pro veřejnost. Uznává, že není možné předvídat všechny problémy předem, a proto se zasazuje o řešení problémů v co nejranější fázi. Altman však také zdůrazňuje význam nezávislých auditů pro systémy jako ChatGPT před vydáním. Dále uznává možnost implementace opatření, jako je omezení tempa tvorby nového modelu nebo zřízení výboru pro posoudit bezpečnost modelů umělé inteligence před uvedením na trh. Je pozoruhodné, že Altman předpovídá, že množství inteligence ve vesmíru se každých 18 měsíců zdvojnásobí.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další články
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
