Vitalik Buterin és a MIRI igazgatója, Nate Soares belemerül a mesterséges intelligencia veszélyeibe: okozhat-e a mesterséges intelligencia az emberi kihalást?
Röviden
Az Ethereum alapítója, Vitalik Buterin és a Gépi Intelligencia Kutatóintézet igazgatója, Nate Soares a mesterséges intelligencia kockázatairól vitatták meg ma Zuzaluban.
A Zuzalu egy felugró városi közösség Montenegróban, amelyet Buterin és társai kezdeményeztek a kriptográfiai közösségben.
A beszélgetés során Soares megosztotta véleményét arról, hogy a mesterséges intelligencia miért vet véget minden életnek a Földön.
Vitalik Buterin, az Ethereum alapítója és a Gépi Intelligencia Kutatóintézet (MIRI) igazgatója Nate Soares megvitatta a mesterséges intelligencia kockázatait ma Zuzaluban.
A Zuzalu egy montenegrói „pop-up városi közösség”, amelyet Buterin és társai kezdeményeztek a kriptokommunikációs közösségben, amely március 25. és május 25. között működik. Az esemény 200 fő lakost hoz össze, akiknek közös a vágya, hogy tanuljanak, alkossanak, hosszabb ideig és egészségesebben éljenek. életeket, és önfenntartó közösségeket építsenek. A két hónap leforgása alatt a közösség számos eseménynek ad otthont különböző témákban, mint például a szintetikus biológia, a magánélet védelmét szolgáló technológia, a közjavak, a hosszú élettartam, a kormányzás és még sok más.
A vita Soares azzal nyitott, hogy bemutatta munkáját a MIRI-nél, egy berkeley-i székhelyű non-profit szervezetnél, amely már régebb óta létezik, mint ő vezeti. Az elmúlt 20 évben a MIRI megpróbálta megteremteni az alapot annak biztosítására, hogy a mesterséges intelligencia fejlesztése jól menjen. A megbeszélés során Vitalik azt remélte, hogy foglalkozik azzal, hogy mi az, ami az AI-t egyedülállóan kockázatossá teszi az emberi történelem során megjelent többi technológiához képest.
Annak a valószínűsége, hogy a mesterséges intelligencia emberi kihalást okoz
Vitalik elmondta, hogy régóta érdekli az MI-kockázatok témája, és emlékezett arra, hogy meg volt győződve arról, hogy 0.5–1% az esélye annak, hogy a Földön minden élet megszűnik, ha az AI rosszul sül el – ez az egzisztenciális kockázat, amely az emberi faj kihalása vagy az emberi civilizáció visszafordíthatatlan összeomlása.
Soares szemszögéből az emberi kihalás az AI-technológia nem biztonságos fejlesztésének alapértelmezett következménye. Az evolúcióval összehasonlítva azt mondta, hogy az emberiség fejlődése gyorsabban megy végbe, mint a puszta evolúciós változások. Mind a mesterséges intelligencia, mind az emberi evolúciós folyamatokban megváltozott a domináns optimalizálás – a legjobb megoldás megtalálásának folyamata egy problémára, amikor több célt is figyelembe kell venni. Az emberek eljutottak arra a pontra, ahol képesek voltak a tudást szájról szájra átadni, ahelyett, hogy az információt a természetes szelekción keresztül a génekhez kötnék.
„A mesterséges intelligencia végső soron egy olyan eset, amikor újra át lehet váltani a makroszkopikus optimalizálási folyamatot. Úgy gondolom, hogy optimalizálási szempontból sokkal jobban tud, mint az emberek. Szerintem még mindig elég hülyék vagyunk, ha környezetünk optimalizálásáról van szó. Az AI-val egyfajta fázisátalakuláson megyünk keresztül, ahol az automatizált optimalizálás az az erő, amely meghatározza az univerzum makroszkopikus jellemzőit” – magyarázta Soares.
Hozzátette, hogy a jövő úgy néz ki, amire az optimalizálási folyamat optimalizál, és ez valószínűleg nem lesz előnyös az emberiség számára, mivel a legtöbb optimalizálási célnak nincs helye az emberek számára.
Képezhetik-e az emberek a mesterséges intelligenciát a jóra?
Buterin rámutatott, hogy az emberek képezik az MI-t, és megmondják neki, hogyan optimalizálja. Szükség esetén módosíthatják a gép optimalizálásának módját. Erre Soares azt mondta, hogy elvileg lehetséges a mesterséges intelligenciát arra tanítani, hogy jót tegyen, de pusztán egy mesterséges intelligencia képzése egy cél elérése érdekében nem jelenti azt, hogy ezt megtenné vagy akarná.
A megerősített tanulásról a nagy nyelvi modellekben, amelyek nagy mennyiségű adatot szereznek be az emberi preferenciákról, Buterin feltette a kérdést, hogy ez miért ne működne, mivel a meglévő intelligencia egyre jobban megérti, mik a preferenciáink.
"Nagy szakadék tátong a motivációink megértése és a szarság között."
Soares válaszolt.
„Az állításom nem az, hogy egy nagy nyelvi modell vagy mesterséges intelligencia ne értené meg az emberi preferenciák apróságait. Azt állítom, hogy az emberi preferenciák apró részleteinek megértése egészen más, mint a jóra optimalizálni” – tette hozzá.
A közönség egy tagja összehasonlította a mesterséges intelligenciát és az embereket, mondván, hogy a mesterséges intelligenciához hasonlóan az emberek általában nem értik, mit csinálnak vagy mit jósolnak, ami szintén veszélyes lehet. Ezután megkérte Soarest, hogy tegyen úgy, mintha egy idegen lenne, és magyarázza el, miért ne léteznének emberek.
„Nem lennék elragadtatva attól, hogy egyetlen embernek isteni hatalmat és irányítást adnék a jövő felett. Külön-külön is sokkal jobban örülnék, ha egyetlen embernek adnék hatalmat, mint egy véletlenszerűen beosztott MI-nek. Határozottan nem azt mondom, hogy ne legyen mesterséges intelligencia. Azt mondom, hogy rendbe kell hoznunk. El kell érnünk őket, hogy törődjenek egy olyan jövővel, amely tele van szórakozással és boldogsággal, és virágzó civilizációkkal, ahol a transzhumánok pozitív összegű kereskedelmet folytatnak idegenekkel és így tovább” – magyarázta Soares. "Ha olyan erős optimalizálási folyamatot építesz fel, amely különböző dolgokkal foglalkozik, az potenciálisan tönkreteheti az univerzum összes értékét."
Hozzátette, hogy azok a dolgok, amelyeket az emberek értékelnek, nem általánosan meggyőzőek, és hogy az erkölcs nem olyasvalami, amilyenre az azt tanulmányozó elme törekszik. Ehelyett az emberekbe beépített késztetések eredménye, amelyek az ősi környezetben jó szaporodást eredményeztek, és amelyek csak az emberekre jellemzőek.
Végső soron Soares úgy véli, hogy nem szabad olyat építenünk, ami hasonlóan intelligens, vagy még intelligensebb, ami nincs összhangban a szórakozással, a boldogsággal és a virágzó jövővel. Másrészt azt is mondta, hogy az emberiségnek nem szabad olyan barátságos szuperintelligenciát építenie, amely a fegyverkezési verseny első próbálkozására optimalizálja a szórakoztató jövőt. Rövid távon az AI-nak arra kell törekednie, hogy segítsen az emberiségnek időt és teret nyerni, hogy rájöjjön, mit is akar valójában.
ChatGPT nem fogja felemészteni az egész bioszférát
Mivel a mesterséges intelligencia jelenleg bizonyos célok elérése érdekében készül, beleértve az előrejelzést is, Buterin megkérdezte, mi van, ha a mesterséges intelligencia nem célvezérelt? Soares azt mondta, hogy könnyű biztonságos és nem működő mesterséges intelligencia készítése, és hamarosan olyan mesterséges intelligencia is megjelenhet, amely képes, de más dolgokra törekszik. Nem gondolja ChatGPT felemészti az egész bioszférát, mivel nincs azon a képességszinten.
Soares megjegyezte, hogy a legtöbb érdekes AI-alkalmazás, mint például a tudományos és technológiai fejlesztés és kutatás automatizálása, úgy tűnik, bizonyos célok elérését követeli meg.
„Nem hiba, amit kaphatsz GPT szép haikukat írni, de regényírásra nem lehet rávenni. A jelenlegi rendszerek korlátai azzal kapcsolatosak, hogy nem követik ezeket a mélyebb célokat, legalábbis számomra.”
Bővebben:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Cindy újságíró a cégnél Metaverse Post, amelyhez kapcsolódó témákat fed fel web3, NFT, metaverzum és mesterséges intelligencia, különös tekintettel a vele készült interjúkra Web3 iparági szereplők. Több mint 30 C-szintű vezetővel beszélt, akik értékes ismereteiket juttatták el az olvasókhoz. Az eredetileg Szingapúrból származó Cindy jelenleg Tbilisziben, Grúziában él. Kommunikáció és médiatudomány szakon szerzett alapdiplomát a Dél-ausztrál Egyetemen, és több évtizedes tapasztalattal rendelkezik az újságírás és az írás terén. Vedd fel vele a kapcsolatot ezen keresztül [e-mail védett] sajtóbemutatókkal, közleményekkel és interjúlehetőségekkel.
További cikkek
Cindy újságíró a cégnél Metaverse Post, amelyhez kapcsolódó témákat fed fel web3, NFT, metaverzum és mesterséges intelligencia, különös tekintettel a vele készült interjúkra Web3 iparági szereplők. Több mint 30 C-szintű vezetővel beszélt, akik értékes ismereteiket juttatták el az olvasókhoz. Az eredetileg Szingapúrból származó Cindy jelenleg Tbilisziben, Grúziában él. Kommunikáció és médiatudomány szakon szerzett alapdiplomát a Dél-ausztrál Egyetemen, és több évtizedes tapasztalattal rendelkezik az újságírás és az írás terén. Vedd fel vele a kapcsolatot ezen keresztül [e-mail védett] sajtóbemutatókkal, közleményekkel és interjúlehetőségekkel.
