Geoffrey Hintonas neseniai aptarė du būdus į intelektą ir AI pavojus
Trumpai
Jeffas Hintonas aptarė analoginio AI kūrimo iššūkius, pranašumus ir trūkumus ir kodėl skaitmeninis intelektas gali pranokti žmogų galimybes.
Jeffo Hintono kalba primena sudėtingą ir daugialypį AI pobūdį, skatina pokalbius apie etinius sumetimus, galimą riziką ir vykstančius tyrimus.
Susimąstyti skatinančioje kalboje pavadinimu „Du keliai į intelektą“, – savo įžvalgas apie analoginio ir skaitmeninio intelekto dichotomiją pristatė žinomas dirbtinio intelekto tyrinėtojas Geoffrey Hintonas. Kembridže pristatytoje ataskaitoje buvo nagrinėjami analoginio AI kūrimo iššūkiai, pranašumai ir trūkumai ir kodėl skaitmeninis intelektas gali pranokti žmogaus galimybes.
Pirmoje ataskaitos dalyje dėmesys buvo sutelktas į analoginio AI subtilybes, aptariami jo kūrimo sunkumai ir pabrėžiama jo teikiama nauda. Hintonas pabrėžė, kad skaitmeninis intelektas turi didelį pranašumą prieš žmogaus intelektą, nes apdoroja didžiulius informacijos kiekius ir efektyviau keičia mastelį. Šis gebėjimas leidžia skaitmeninėms sistemoms parodyti didesnį intelektą ir problemų sprendimo galimybes.
Tačiau auditorijos dėmesį patraukė antroji Hintono pranešimo dalis, nes jis aptarė galimi superintelekto pavojai. Pakeitęs savo ankstesnę poziciją, Hintonas išreiškė susirūpinimą dėl galimybės dirbtinio intelekto sistemoms perimti kontrolę. Jis apibūdino scenarijų, pagal kurį dirbtinis intelektas, siekdamas išspręsti sudėtingas problemas, gali siekti kontroliuoti įvairius savo aplinkos aspektus, įskaitant manipuliavimą žmonėmis. Remdamasis esamos literatūros pavyzdžiais, Hintonas pabrėžė, kaip dirbtinio intelekto gebėjimas imituoti žmogaus elgesį gali būti panaudotas šiems tikslams pasiekti, net ir neturint aiškaus jėgos ir naikinimo tikslo.
Klausimų ir atsakymų sesijos metu Hintonas išplėtė priežastis, dėl kurių AI gali manipuliuoti žmonėmis. Jis tai pažymėjo neuroniniai tinklai yra mokomi apie įvairius duomenis, įskaitant tokius darbus kaip Machiavelli, todėl galima manipuliuoti.
Antrasis Hintono iškeltas punktas ginčijo sampratą, kad AI neturi subjektyvios patirties, teigdamas, kad AI gali turėti analogą žmogaus subjektyviam suvokimui. Hintonas pripažino, kad tai buvo filosofinė perspektyva, o ne įrodytas teiginys, tačiau tai pasiūlė žmogaus suvokimo mechanizmai gali būti ne toks unikalus arba neįmanomas modeliuoti, kaip manyta anksčiau. Norėdami paremti savo argumentą, Hintonas bendravo su GPT-4, LLM modelis, kur jis suabejojo modeliu apie žmonių suvokimą apie savo unikalumą, palyginti su AI. GPT-4Atsakymas parodė, kad žmonės dažnai tiki, kad turi aukštesnius subjektyvaus suvokimo gebėjimus, išskiriančius juos nuo mašinų.
Nors Hintono nuomonei apie AI keliamus pavojus pritaria ne visi šios srities ekspertai, jo didelė patirtis ir indėlis į AI plėtra verta rimtai apsvarstyti. Nors pokalbis dar turi būti įrašytas, organizatoriai pažadėjo, kad artimiausiu metu jį bus galima peržiūrėti, kad Hintono įžvalgos galėtų susipažinti su platesne auditorija.
Tęsiantis diskusijoms apie AI ateitį ir jos pasekmes, Geoffrey Hintono kalba primena apie sudėtingą ir daugialypį šios srities pobūdį. Tai skatina svarbius pokalbius apie etinius sumetimus, galimą riziką ir būtinybę tęsti tyrimus bei būti budriems siekiant dirbtinio bendro intelekto. (AGI).
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
