Geoffrey Hinton az intelligenciához vezető két utat és a mesterséges intelligencia veszélyeit vizsgálja a közelmúltban
Röviden
Jeff Hinton megvitatta az analóg AI felépítésének kihívásait, előnyeit és hátrányait, és azt, hogy miért digitális az intelligencia képes felülmúlni az embert képességeit.
Jeff Hinton előadása emlékeztet a mesterséges intelligencia összetett és sokrétű természetére, beszélgetéseket indítva etikai megfontolásokról, lehetséges kockázatokról és a folyamatban lévő kutatásokról.
című elgondolkodtató előadásában „Két út az intelligenciához” – ismertette Geoffrey Hinton, a neves AI-kutató az analóg és a digitális intelligencia dichotómiájára vonatkozó meglátásait. A Cambridge-ben bemutatott jelentés az analóg mesterséges intelligencia felépítésének kihívásaira, előnyeire és hátrányaira tért ki, valamint arra, hogy a digitális intelligencia miért képes felülmúlni az emberi képességeket.
A jelentés első része az analóg mesterséges intelligencia bonyolultságára összpontosított, megvitatva a fejlesztés nehézségeit és kiemelve az általa kínált előnyöket. Hinton hangsúlyozta, hogy a digitális intelligencia jelentős előnnyel rendelkezik az emberi intelligenciával szemben azáltal, hogy hatalmas mennyiségű információt dolgoz fel és hatékonyabban skáláz. Ez a képesség lehetővé teszi a digitális rendszerek számára, hogy fokozott intelligenciával és problémamegoldó képességekkel rendelkezzenek.
Hinton riportjának második része azonban lekötötte a hallgatóság figyelmét, amikor a a szuperintelligencia lehetséges veszélyei. Korábbi álláspontjához képest Hinton aggodalmának adott hangot azzal kapcsolatban, hogy az AI-rendszerek átvehetik az irányítást. Felvázolt egy forgatókönyvet, amelyben a mesterséges intelligencia az összetett problémák megoldására törekedve megpróbálhatja megszerezni az irányítást környezete különböző aspektusai felett, beleértve az emberi manipulációt is. A meglévő irodalomból származó példákra támaszkodva Hinton kiemelte, hogy a mesterséges intelligencia azon képessége, hogy utánozza az emberi viselkedést, hogyan használható fel e célok eléréséhez, még akkor is, ha nincs kifejezett hatalom és pusztítás.
A kérdések és válaszok során Hinton kifejtette a mesterséges intelligencia lehetséges embermanipulációjának okait. Ezt megjegyezte neurális hálózatok sokféle adatra képezik ki, beleértve a Machiavellihez hasonló munkákat is, ami potenciális manipulációs képességhez vezet.
A Hinton által felvetett második pont megkérdőjelezte azt az elképzelést, hogy a mesterséges intelligencia hiányzik a szubjektív tapasztalatokból, és azt állította, hogy a mesterséges intelligencia az emberi szubjektív észlelés analógja lehet. Hinton elismerte, hogy ez inkább filozófiai perspektíva, semmint bevált állítás, de ezt javasolta emberi észlelési mechanizmusok lehet, hogy nem olyan egyedi vagy lehetetlen modellezni, mint korábban hitték. Érvelésének alátámasztására Hinton interakciót folytatott vele GPT-4, egy LLM-modell, ahol megkérdőjelezte a modellt arról, hogy az emberek hogyan érzékelik sajátosságukat az AI-hoz képest. GPT-4válasza arra utalt, hogy az emberek gyakran azt hiszik, hogy kiváló szubjektív észlelési képességekkel rendelkeznek, ami megkülönbözteti őket a gépektől.
Bár Hinton nézeteit a mesterséges intelligencia veszélyeiről nem osztja a terület minden szakértője, széles körű tapasztalata és hozzájárulása a az AI fejlesztése komoly megfontolást igényel. Bár a beszélgetést még rögzíteni kell, a szervezők ígéretet tettek arra, hogy a közeljövőben megtekinthetővé teszik, így szélesebb közönség is megismerheti Hinton meglátásait.
Miközben a mesterséges intelligencia jövőjéről és következményeiről szóló viták folytatódnak, Geoffrey Hinton előadása emlékeztet a terület összetett és sokrétű természetére. Fontos beszélgetéseket indít el az etikai megfontolásokról, a lehetséges kockázatokról, valamint a folyamatos kutatás és éberség szükségességéről az általános mesterséges intelligencia kutatásában. (AGI).
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
