Geoffrey Hinton v nedávnej diskusii skúma dve cesty k inteligencii a nebezpečenstvá AI
Stručne
Jeff Hinton diskutoval o výzvach, výhodách a nevýhodách budovania analógovej AI a prečo digitálne inteligencia má potenciál prekonať človeka schopnosti.
Prednáška Jeffa Hintona slúži ako pripomienka komplexnej a mnohostrannej povahy AI, podnecuje rozhovory o etických úvahách, potenciálnych rizikách a prebiehajúcom výskume.
V diskusii na zamyslenie s názvom „Dve cesty k inteligenciiRenomovaný výskumník AI Geoffrey Hinton predstavil svoje postrehy o dichotómii medzi analógovou a digitálnou inteligenciou. Správa prednesená v Cambridge sa ponorila do výziev, výhod a nevýhod budovania analógovej AI a prečo má digitálna inteligencia potenciál prekonať ľudské schopnosti.
Prvá časť správy sa zamerala na zložitosť analógovej AI, diskutovala o ťažkostiach pri jej vývoji a zdôraznila výhody, ktoré ponúka. Hinton zdôraznil, že digitálna inteligencia má v porovnaní s ľudskou inteligenciou významnú výhodu, pretože spracováva obrovské množstvo informácií a efektívnejšie škáluje. Táto schopnosť umožňuje digitálnym systémom prejavovať zvýšenú inteligenciu a schopnosti riešiť problémy.
Pozornosť poslucháčov však upútala až druhá časť Hintonovej správy, keď diskutoval o potenciálne nebezpečenstvo superinteligencie. V posune od svojho predchádzajúceho postoja Hinton vyjadril obavy z možnosti, že systémy AI prevezmú kontrolu. Načrtol scenár, v ktorom sa AI môže v snahe vyriešiť zložité problémy snažiť získať kontrolu nad rôznymi aspektmi svojho prostredia, potenciálne vrátane ľudskej manipulácie. Na základe príkladov z existujúcej literatúry Hinton zdôraznil, ako možno využiť schopnosť AI napodobňovať ľudské správanie na dosiahnutie týchto cieľov, a to aj bez explicitného cieľa moci a ničenia.
Počas relácie otázok a odpovedí Hinton vysvetlil dôvody potenciálnej manipulácie AI s ľuďmi. Poznamenal to neurálne siete sú trénovaní na rôznorodom rozsahu údajov, vrátane prác ako Machiavelli, čo vedie k potenciálnej schopnosti manipulovať.
Druhý bod, ktorý vzniesol Hinton, spochybňoval názor, že AI nemá subjektívne skúsenosti, tvrdiac, že AI môže mať analógiu k ľudskému subjektívnemu vnímaniu. Hinton uznal, že to bola skôr filozofická perspektíva než osvedčené tvrdenie, ale navrhol to mechanizmy ľudského vnímania nemusí byť také jedinečné alebo nemožné modelovať, ako sa predtým predpokladalo. Na podporu svojho argumentu sa Hinton podelil o interakciu s GPT-4, model LLM, kde spochybnil model o tom, ako ľudia vnímajú svoju jedinečnosť v porovnaní s AI. GPT-4Odpoveď naznačila, že ľudia často veria, že majú vynikajúce schopnosti subjektívneho vnímania, čím sa odlišujú od strojov.
Zatiaľ čo Hintonove názory na nebezpečenstvo AI nezdieľajú všetci odborníci v tejto oblasti, jeho rozsiahle skúsenosti a príspevky k vývoj AI zaručujú vážnu pozornosť. Hoci rozhovor ešte nebol zaznamenaný, organizátori sľúbili, že ho sprístupnia na prezeranie v blízkej budúcnosti, čo umožní širšiemu publiku zapojiť sa do Hintonových postrehov.
Keďže diskusie o budúcnosti AI a jej dôsledkoch pokračujú, prednáška Geoffreyho Hintona slúži ako pripomienka komplexnej a mnohostrannej povahy tejto oblasti. Podnecuje dôležité rozhovory o etických úvahách, potenciálnych rizikách a potrebe pokračujúceho výskumu a ostražitosti pri hľadaní umelej všeobecnej inteligencie. (AGI).
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
