Množství inteligence ve vesmíru se zdvojnásobí každých 18 měsíců, říká Sam Altman
Stručně
Apokalypsa umělé inteligence začala a množství inteligence ve vesmíru se každých 18 měsíců zdvojnásobuje.
OpenAIje Sam Altman kdysi vtipkoval, že umělá inteligence povede ke konci světa, ale předtím by to byl obrovský byznys.
Eric Hoel, americký neurovědec a filozof z Tufts University, tvrdí, že systémy umělé inteligence nelze v tuto chvíli považovat za inteligentní, protože nerozumí světu a nemají osobnost, která se projevuje v jejich záměrech a činech.
Bayesovská mozková hypotéza tvrdí, že primární funkcí mozku je minimalizovat překvapení. Pokud je to pravda, apokalypsa umělé inteligence už možná začala.
To naznačuje to ChatGPT a jiní jsou již svou inteligencí všestrannější než jakákoli lidská bytost.
Apokalypsa umělé inteligence začala a mění význam Moorova zákona. Nyní se množství inteligence ve vesmíru zdvojnásobí každých 18 měsíců Sam Altman, Generální ředitel OpenAI, společnost za ní ChatGPT. Před pouhými sedmi lety Sam vtipkoval: „AI s největší pravděpodobností povede ke konci světa, ale předtím tu bude obrovský byznys.“ A teď si lidé dělají legraci nerozdělí se s „jaderným batohem“, aby mohl na dálku odpálit datová centra, pokud GPT vymkne kontrole.
| Doporučený příspěvek: ChatGPT Může způsobit nevratnou lidskou degeneraci |
Abyste lépe porozuměli tomu, na co Altman ve svém tweetu odkazuje, a abyste zjistili, jak se během boomu umělé inteligence nezbláznit, doporučujeme přečíst si knihu Erica Hoela “Jak se orientovat v apokalypse AI jako zdravý člověk.“ Hoel je americký neurovědec a filozof na Tufts University. Dobře se to čte, protože Hoel je skvělý spisovatel, my také defirozhodně doporučuji zkontrolovat tento příspěvek.
Pojďme se podívat na jeden z klíčových bodů, který shrnuje hluboké porozumění tomu, co se děje, a blízké budoucnosti apokalypsy, která již přišla. Hlavním argumentem „racionálních technooptimistů“, kteří se domnívají, že se nic mimořádného a přehnaně riskantního nestalo s příchodem ChatGPT, je následující:
- Navzdory vynikajícím výsledkům generativní konverzační umělé inteligence (např ChatGPT, Bing atd.), nelze tyto systémy umělé inteligence považovat za inteligentní. Nerozumějí světu a nemají motivaci agenta. Nemají osobnost, která se projevuje v jejich záměrech a činech, a jejich vnímaný intelekt není nic jiného než simulakrum intelektu. Ve svém jádru je toto simulakrum pouze automatickým doplňkem pro další slova, odrážející ve svém pravděpodobnostním zrcadle kolosální, nefiltrovaný korpus lidmi napsaných textů z internetu.
- Pokud ano, pak není ani blízká vyhlídka na objevení se superinteligence ani rizika s tím spojená (i když je samozřejmě potřeba se na to připravit, nejspíš v horizontu desetiletí).
| Doporučený příspěvek: Vyhledávací roboti AI udělají Big Tech ještě výkonnější, říká Christopher Millsnost |
Hoelova odpověď na tuto argumentaci je následující:
- Skutečnost, že se ChatGPT, například, je jednoduše automatické doplňování dalších slov neznamená, že se nemůže stát (nebo se již stalo) inteligentním agentem. Na rozdíl od vědomí je inteligence plně funkční koncept: Pokud něco jedná inteligentně, je to inteligentní. Pokud vystupuje jako agent, je agentem.
- Zde je vysvětlující příklad. Existuje vlivná skupina vědců – Carl Friston (nejcitovanější neurovědec) a řada dalších slavných jmen – kteří tvrdí, že účelem našeho mozku je minimalizovat překvapení. Tato „bayesovská hypotéza mozku“ je dnes jednou z hlavních proudů. Teorie říká, že na globální úrovni je minimalizace překvapení primární funkcí mozku. A i když je to jen jedna z několika hlavních hypotéz o tom, jak mozek funguje, předpokládejme, že je to pravda. Představte si teď, že mimozemšťané najdou lidský mozek, podívají se na něj a řeknou: „Ach, tahle věc jen minimalizuje překvapení! Nemůže být základem intelektu, a proto nemůže být nebezpečný pro pravé nositele mysli. Přemýšlejte: Je „minimalizace překvapení“ skutečně mnohem obtížnějším cílem než automatické doplňování textu? Nebo je to vlastně hodně podobné?
- A pokud ano, pak může být nelidská superinteligence již nablízku. A související rizika jsou již zcela reálná. Co ještě dodat? Možná ChatGPT a další jsou již ve svém oboru všestrannější inteligenci než kterýkoli člověk. ChatGPT a další budou pravděpodobně aktivní ve stejnou dobu z následujících důvodů: rozumné, nespolehlivé a nepodobné lidské mysli, nekontrolovatelné v jakémkoli základním smyslu, s výjimkou některých narychlo navržených plotů.
A pokud je tohle všechno pravda, tak apokalypsa AI už začala.
Přečtěte si další související témata:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
