Geoffrey Hinton v nedavnem pogovoru raziskuje dve poti do inteligence in nevarnosti umetne inteligence
Na kratko
Jeff Hinton je razpravljal o izzivih, prednostih in slabostih gradnje analogne umetne inteligence in zakaj digitalne inteligenca ima potencial, da preseže človeško zmogljivosti.
Govor Jeffa Hintona služi kot opomin na zapleteno in večplastno naravo umetne inteligence, sproži pogovore o etičnih vidikih, možnih tveganjih in tekočih raziskavah.
V pogovoru, ki spodbuja razmišljanje z naslovom "Dve poti do inteligence,« je priznani raziskovalec AI Geoffrey Hinton predstavil svoje vpoglede v dihotomijo med analogno in digitalno inteligenco. Poročilo, ki je bilo predstavljeno v Cambridgeu, se je poglobilo v izzive, prednosti in slabosti gradnje analogne umetne inteligence in zakaj ima digitalna inteligenca potencial, da preseže človeške zmožnosti.
Prvi del poročila se je osredotočil na zapletenost analogne umetne inteligence, razpravo o težavah pri njenem razvoju in poudarjanje prednosti, ki jih ponuja. Hinton je poudaril, da ima digitalna inteligenca pomembno prednost pred človeško inteligenco, saj obdeluje ogromne količine informacij in se učinkoviteje spreminja. Ta sposobnost omogoča digitalnim sistemom, da izkazujejo večjo inteligenco in zmožnosti reševanja problemov.
Vendar pa je bil drugi del Hintonovega poročila tisti, ki je pritegnil pozornost občinstva, ko je razpravljal o potencialne nevarnosti superinteligence. V nasprotju s prejšnjim stališčem je Hinton izrazil zaskrbljenost glede možnosti, da bi sistemi AI prevzeli nadzor. Orisal je scenarij, po katerem lahko umetna inteligenca v svojem prizadevanju za reševanje zapletenih problemov skuša pridobiti nadzor nad različnimi vidiki svojega okolja, vključno s človeško manipulacijo. Na podlagi primerov iz obstoječe literature je Hinton poudaril, kako bi lahko sposobnost umetne inteligence, da posnema človeško vedenje, izkoristila za doseganje teh ciljev, tudi brez izrecnega cilja moči in uničenja.
Med sejo vprašanj in odgovorov je Hinton razširil razloge za morebitno manipulacijo AI z ljudmi. Opozoril je, da nevronske mreže se usposabljajo na različnih podatkih, vključno z deli, kot je Machiavellijeva, kar vodi do potencialne zmožnosti manipulacije.
Druga točka, ki jo je izpostavil Hinton, je izpodbijala idejo, da umetni inteligenci manjka subjektivna izkušnja, in trdila, da bi umetna inteligenca lahko imela analogijo človeškega subjektivnega zaznavanja. Hinton je priznal, da je to bolj filozofska perspektiva kot dokazana izjava, vendar je predlagal, da mehanizmi človeškega zaznavanja morda ni tako edinstven ali nemogoč za modeliranje, kot se je prej verjelo. Da bi podprl svoj argument, je Hinton delil interakcijo z GPT-4, model LLM, kjer je spraševal model o dojemanju ljudi o njihovi edinstvenosti v primerjavi z AI. GPT-4Odgovor uporabnika je pokazal, da ljudje pogosto verjamejo, da imajo boljše subjektivne sposobnosti zaznavanja, kar jih loči od strojev.
Medtem ko se Hintonovih pogledov na nevarnosti umetne inteligence ne strinjajo vsi strokovnjaki s tega področja, njegove bogate izkušnje in prispevki k razvoj AI zahteva resno obravnavo. Čeprav pogovor še ni bil posnet, so organizatorji obljubili, da ga bodo dali na voljo za ogled v bližnji prihodnosti, kar bo širšemu občinstvu omogočilo, da se vključi v Hintonove vpoglede.
Medtem ko se razprave o prihodnosti umetne inteligence in njenih posledicah nadaljujejo, govor Geoffreyja Hintona služi kot opomin na kompleksno in večplastno naravo področja. Spodbuja pomembne pogovore o etičnih vidikih, možnih tveganjih in potrebi po nenehnem raziskovanju in budnosti pri iskanju splošne umetne inteligence. (AGI).
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
