Množstvo inteligencie vo vesmíre sa zdvojnásobí každých 18 mesiacov, hovorí Sam Altman
Stručne
Apokalypsa AI sa začala, pričom množstvo inteligencie vo vesmíre sa zdvojnásobuje každých 18 mesiacov.
OpenAIje Sam Altman raz žartoval, že AI povedie ku koncu sveta, ale predtým by to bol obrovský biznis.
Eric Hoel, americký neurovedec a filozof z Tufts University, tvrdí, že systémy AI nemožno v tejto chvíli považovať za inteligentné, keďže nerozumejú svetu a nemajú osobnosť, ktorá sa prejavuje v ich zámeroch a činoch.
Bayesovská hypotéza mozgu tvrdí, že primárnou funkciou mozgu je minimalizovať prekvapenie. Ak je to pravda, apokalypsa AI sa už mohla začať.
To naznačuje, že ChatGPT a iní sú už vo svojej inteligencii všestrannejší ako ktorýkoľvek človek.
Apokalypsa AI sa začala a zmenila význam Moorovho zákona. Teraz sa množstvo inteligencie vo vesmíre zdvojnásobí každých 18 mesiacov Sam Altman, Generálny riaditeľ OpenAI, spoločnosť za sebou ChatGPT. Len pred siedmimi rokmi Sam žartoval: „AI s najväčšou pravdepodobnosťou povedie ku koncu sveta, ale predtým tu bude obrovský biznis.“ Teraz ľudia žartujú nerozlúči sa s „jadrovým batohom“, aby mohol na diaľku odpáliť dátové centrá, ak GPT vymkne spod kontroly.
| Odporúčaný príspevok: ChatGPT Môže spôsobiť nezvratnú ľudskú degeneráciu |
Aby ste lepšie pochopili, o čom Altman vo svojom tweete hovorí, a aby ste zistili, ako sa nezblázniť počas boomu AI, odporúčame prečítať si knihu Erica Hoela „Ako sa pohybovať v apokalypse AI ako zdravý človek.“ Hoel je americký neurovedec a filozof na Tufts University. Dobre sa to číta, keďže Hoel je skvelý spisovateľ, my tiež defivrelo odporúčam pozrieť si tento príspevok.
Pozrime sa len na jeden z kľúčových bodov, ktorý zhŕňa hlboké pochopenie toho, čo sa deje, a blízkej budúcnosti apokalypsy, ktorá už prišla. Hlavným argumentom „racionálnych technooptimistov“, ktorí veria, že sa nič mimoriadne a prehnane riskantné nestalo s príchodom ChatGPT, je nasledujúci:
- Napriek vynikajúcim výsledkom generatívnej konverzačnej AI (napr ChatGPT, Bing atď.), tieto systémy AI nemožno považovať za inteligentné. Nerozumejú svetu a nemajú motiváciu agenta. Nemajú osobnosť, ktorá sa prejavuje v ich zámeroch a činoch, a ich vnímaný intelekt nie je nič iné ako simulakrum intelektu. Vo svojom jadre je toto simulakrum len automatickou výplňou pre ďalšie slová, odrážajúce vo svojom pravdepodobnostnom zrkadle kolosálny, nefiltrovaný korpus ľuďmi napísaných textov z internetu.
- Ak áno, potom nie je blízka perspektíva objavenia sa superinteligencie ani s ňou spojených rizík (hoci sa na to, samozrejme, treba pripraviť, s najväčšou pravdepodobnosťou v horizonte desaťročí).
| Odporúčaný príspevok: AI vyhľadávacie roboty urobia veľkú technológiu ešte výkonnejšou, hovorí Christopher Millsace |
Hoelova odpoveď na túto argumentáciu je nasledovná:
- Skutočnosť, že ChatGPT, napríklad, je jednoducho automatické dopĺňanie ďalších slov neznamená, že sa nemôže stať (alebo sa už stalo) inteligentným agentom. Na rozdiel od vedomia je inteligencia plne funkčný pojem: Ak niečo koná inteligentne, je to inteligentné. Ak vystupuje ako agent, je agentom.
- Tu je vysvetľujúci príklad. Existuje vplyvná skupina vedcov – Carl Friston (najcitovanejší neurovedec) a množstvo ďalších známych mien – ktorí tvrdia, že účelom nášho mozgu je minimalizovať prekvapenie. Táto „bayesovská hypotéza mozgu“ je dnes jednou z hlavných. Teória tvrdí, že na globálnej úrovni je minimalizácia prekvapení primárnou funkciou mozgu. A hoci je to len jedna z niekoľkých hlavných hypotéz o tom, ako mozog funguje, predpokladajme, že je to pravda. Teraz si predstavte, že mimozemšťania nájdu ľudský mozog, pozrú sa naň a povedia: „Ach, táto vec len minimalizuje prekvapenie! Nemôže byť základom intelektu, a preto nemôže byť nebezpečný pre skutočných nositeľov mysle. Zamyslite sa: Je „minimalizácia prekvapení“ skutočne oveľa ťažším cieľom ako automatické dopĺňanie textu? Alebo je to naozaj veľmi podobné?
- A ak áno, potom môže byť neľudská superinteligencia už nablízku. A súvisiace riziká sú už celkom reálne. Čo ešte dodať? Možno ChatGPT a iné sú už vo svojej podstate všestrannejšie inteligenciu ako ktorákoľvek ľudská bytosť. ChatGPT a iní budú pravdepodobne aktívni v rovnakom čase z nasledujúcich dôvodov: rozumné, nespoľahlivé a nie podobné ľudskej mysli, nekontrolovateľné v akomkoľvek základnom zmysle, s výnimkou niektorých narýchlo navrhnutých plotov.
A ak je toto všetko pravda, tak apokalypsa AI sa už začala.
Prečítajte si ďalšie súvisiace témy:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
