Dan Hendrycks: Výber medzi AI a ľuďmi si evolúcia nevyberie nás
Stručne
Výskum Dana Hendrycksa „Prirodzený výber uprednostňuje umelú inteligenciu pred ľuďmi“ je desivý záver.
Ide o skúseného a známeho výskumníka, ktorý publikoval desiatky vedeckých prác o hodnotení bezpečnosti systémov AI.
Výskum Dana Hendrycksa znie ako rozsudok smrti pre Homo Sapiens. Záver štúdie „Prirodzený výber uprednostňuje AI pred ľuďmi“ je naozaj strašidelné. Toto nenapísal populárny vizionár ako Dan Brown, ale Dan Hendrycks, riaditeľ Kalifornského centra pre bezpečnosť AI (CAIS), nezisková organizácia špecializujúca sa na výskum a prácu v teréne v oblasti bezpečnosti AI.
Dan Hendrycks nie je okrajový šialenec panikáriaci z pokrokov AI. Je skúseným a široko uznávaným výskumníkom, ktorý publikoval desiatky vedeckých prác o hodnotení bezpečnosti systémov AI — testoval, ako dobre sú v kódovaní, uvažovaní, chápaní zákonov atď. Okrem iného je tiež spoluvynálezcom Gaussove lineárne chybové jednotky (GELU).
Jack Clark, spoluzakladateľ ChatGPT konkurent Anthropic, spolupredseda indexu AI na Stanfordskej univerzite, spolupredseda sekcie AI a výpočtov v OECD a člen Národného poradného výboru vlády USA pre AI diskutuje o záveroch Hendrycksovej štúdie. „Ľudia chcú reflexívne zavrhnúť také tvrdenie, že pochádza od nejakého šialenca s divokými očami, ktorý žije v lesnej chatrči. To by som chcel vopred vyvrátiť. Keď odborník, ktorý má skúsenosti nielen s výskumom AI, ale aj v posudzovanie bezpečnosti systémov AI píše článok, v ktorom tvrdí, že budúce systémy AI môžu konať sebecky a nie v súlade so záujmami ľudí, mali by sme sa o to postarať!
Zhrnutie Hendrycksovho článku:
- Ak sa agenti AI stanú viac inteligentnejší ako ľudia, mohlo by to viesť k tomu, že ľudstvo stratí kontrolu nad svojou budúcnosťou.
- Je veľká šanca, že sa to stane nie v dôsledku nejakého špeciálneho zlomyseľného úmyslu ľudí alebo strojov, ale výlučne v dôsledku použiteľnosti evolučných princípov vývoja na AI podľa darwinovskej logiky.
- Aby sa toto riziko minimalizovalo, je potrebné starostlivo navrhnúť vnútornú motiváciu agentov AI, obmedziť ich konanie a vytvoriť inštitúcie na podporu spolupráce AI.
To znamená, že najvýznamnejšie body, ktoré Hendrycks uvádza vo svojej 43-stranovej vedeckej práci:
1. Báli sme sa príchodu Terminátora, ale základy týchto obáv boli mylné. Vyskytli sa dve chyby:
a. Antropomorfizácia AI s pripisovaním našich motivácií jej atď. – ako ChatGPT Ukázalo sa, že AI je zásadne odlišná myseľ so všetkými dôsledkami, ktoré z toho vyplývajú.
b. Myšlienka, že AI je druh jedinej entity: inteligentná alebo nie veľmi inteligentná, láskavá alebo nie veľmi láskavá, ale v skutočnosti týchto veľmi odlišných entít AI bude čoskoro na svete čo najviac.
2. V našich predstavách o budúcnosti s AI je ešte jedna zásadná chyba – zabudli sme na najdôležitejší vývojový mechanizmus – evolúciu, ktorá poháňa vývoj nielen bioagentov, ale aj myšlienok a významov, materiálnych nástrojov a nemateriálnych inštitúcií.
3. Na Zemi sa už začalo formovať prostredie, v ktorom sa bude vyvíjať a vyvíjať mnoho AI. Tento vývoj bude prebiehať podľa logiky Darwina, prostredníctvom súťaže AI medzi sebou, berúc do úvahy záujmy ich „materských“ inštitúcií: korporácií, armády atď.
4. Logika konkurenčného vývoja povedie k tomu istému ako u ľudí: čoraz inteligentnejší agenti AI budú čoraz sebeckejší a pripravení dosahovať ciele klamstvom a silou, pričom hlavným cieľom je moc.
5. Prirodzený výber agentov AI má tendenciu uprednostňovať sebeckejšie druhy pred altruistickejšími. Agenti AI sa budú správať sebecky a presadzovať svoje vlastné záujmy s malým ohľadom na ľudí, čo by mohlo viesť ku katastrofálnym rizikám pre ľudstvo.
- Petícia zastaviť vývoj pokročilejších systémov AI ako GPT-4 polarizovala spoločnosť. Prvá skupina verí, že pokrok nemožno zastaviť, zatiaľ čo iná verí, že pokrok a niekedy by sa mal zastaviť. Tretia skupina nechápe ako GPT-4 pôsobí na prvom mieste. Najdôležitejšie podrobnosti v tomto texte sú, že AI nemá žiadne vedomie, vôľu ani agentúru a že môže byť zlá aj bez zlomyseľných ľudí.
- Geoffrey Hinton je často nazývaný „krstným otcom AI“ a je považovaný za vedúcu osobnosť v komunite hlbokého učenia. Jeho 40-minútový rozhovor s ChatGPT je jedinečný v tom, že je ľahko pochopiteľný a má hĺbku pochopenia prístupnú len málokomu. Zdôrazňuje dôležitosť prebiehajúcej „intelektuálnej revolúcie“ a neľudskej inteligencie ChatGPT, ktorá je založená na umelo inteligentnom agentovi s pokročilými možnosťami digitálnej komunikácie.
Prečítajte si ďalšie súvisiace články:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
