Dan Hendrycks: Volba mezi AI a lidmi si evoluce nevybere nás
Stručně
Výzkum Dana Hendryckse „Přirozený výběr preferuje umělou inteligenci před lidmi“ je děsivý závěr.
Jde o zkušeného a známého výzkumníka, který publikoval desítky vědeckých prací o posuzování bezpečnosti systémů AI.
Výzkum Dana Hendryckse zní jako rozsudek smrti pro Homo Sapiens. Závěr studie"Přirozený výběr upřednostňuje AI před lidmi“ je opravdu děsivé. Toto nenapsal populární vizionář jako Dan Brown, ale Dan Hendrycks, ředitel Kalifornského centra pro bezpečnost AI (CAIS), neziskové organizace specializující se na výzkum a práci v terénu v oblasti bezpečnosti AI.
Dan Hendrycks není okrajový šílenec, který propadá panice kvůli pokrokům v AI. Je to zkušený a široce uznávaný výzkumník, který publikoval desítky vědeckých prací o posuzování bezpečnosti systémů AI — testoval, jak jsou dobří v kódování, uvažování, chápání zákonů atd. Mimo jiné je také spoluvynálezcem tzv. Gaussovské lineární chybové jednotky (GELU).
Jack Clark, spoluzakladatel ChatGPT soutěžící Anthropic, spolupředseda indexu AI na Stanfordské univerzitě, spolupředseda sekce AI a výpočetní techniky OECD a člen Národního poradního výboru vlády USA pro AI diskutuje o závěru Hendrycksovy studie. „Lidé chtějí reflexivně zavrhnout takové prohlášení, jako když pochází od nějakého šílence s divokýma očima, který žije v lesní chatě. To bych chtěl předem vyvrátit. Když odborník, který má zkušenosti nejen s výzkumem AI, ale i v posuzování bezpečnosti systémů umělé inteligence píše článek, v němž tvrdí, že budoucí systémy AI mohou jednat sobecky a ne v souladu se zájmy lidí, měli bychom se o to postarat!
Shrnutí Hendrycksova článku:
- Pokud se agenti AI stanou více inteligentní než lidé, mohlo by to vést k tomu, že lidstvo ztratí kontrolu nad svou budoucností.
- Má velkou šanci, že k tomu nedojde v důsledku nějakého zvláštního zlomyslného záměru lidí nebo strojů, ale výhradně v důsledku použitelnosti evolučních principů vývoje na AI podle darwinovské logiky.
- Aby se toto riziko minimalizovalo, musí být vnitřní motivace agentů umělé inteligence pečlivě navržena, jejich činnost omezena a vytvořeny instituce na podporu spolupráce s umělou inteligencí.
To jsou nejdůležitější body, které Hendrycks uvádí ve své 43stránkové vědecké práci:
1. Báli jsme se příchodu Terminátora, ale základy těchto obav byly špatné. Byly tam dvě chyby:
A. Antropomorfizace umělé inteligence s přisuzováním našich motivací jí atd. – jako ChatGPT Ukázalo se, že AI je zásadně odlišná mysl se všemi důsledky, které z toho plynou.
b. Myšlenka, že umělá inteligence je druh jediné entity: chytrá nebo nepříliš chytrá, laskavá nebo nepříliš laskavá, ale ve skutečnosti těchto velmi odlišných entit umělé inteligence bude brzy na světě co nejvíce.
2. V našich představách o budoucnosti s AI je ještě jedna zásadní chyba — zapomněli jsme na nejdůležitější vývojový mechanismus — evoluci, která řídí vývoj nejen bioagentů, ale také myšlenek a významů, materiálních nástrojů a nehmotných institucí.
3. Na Zemi se již začalo formovat prostředí, ve kterém se bude vyvíjet a vyvíjet mnoho AI. Tento vývoj bude probíhat podle logiky Darwina, prostřednictvím soutěže AI mezi sebou, s přihlédnutím k zájmům jejich „mateřských“ institucí: korporací, armády atd.
4. Logika konkurenční evoluce povede ke stejnému jako u lidí: stále inteligentnější agenti AI budou stále více sobečtí a připraveni dosahovat cílů lstí a silou, přičemž hlavním cílem je moc.
5. Přirozený výběr agentů AI má tendenci upřednostňovat sobečtější druhy před altruističtějšími. Agenti AI se budou chovat sobecky a sledovat své vlastní zájmy s malým ohledem na lidi, což by mohlo vést ke katastrofickým rizikům pro lidstvo.
- Petice zastavit vývoj AI systémů pokročilejších než GPT-4 polarizoval společnost. První skupina věří, že pokrok nelze zastavit, zatímco druhá věří, že pokrok, a někdy by měl být zastaven. Třetí skupina nechápe jak GPT-4 působí na prvním místě. Nejdůležitější podrobnosti v tomto textu jsou, že umělá inteligence nemá žádné vědomí, vůli ani jednání a že může být špatná i bez zlomyslných lidí.
- Geoffrey Hinton je často nazýván „kmotrem umělé inteligence“ a je považován za vedoucí osobnost v komunitě hlubokého učení. Jeho 40minutový rozhovor ChatGPT je jedinečný v tom, že je snadno srozumitelný a má hloubku porozumění přístupnou jen málo lidem. Zdůrazňuje důležitost probíhající „intelektuální revoluce“ a nelidské inteligence ChatGPT, která je založena na uměle inteligentním agentovi s pokročilými možnostmi digitální komunikace.
Přečtěte si další související články:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
