Vitalik Buterin və MIRI direktoru Neyt Soares süni intellektin təhlükələrini araşdırır: Süni intellekt insanların yox olmasına səbəb ola bilərmi?
Qısaca
Ethereum qurucusu Vitalik Buterin və Maşın Kəşfiyyat Araşdırma İnstitutunun direktoru Neyt Soares bu gün Zuzalu-da süni intellekt risklərini müzakirə etdilər.
Zuzalu, Buterin və kripto icmasındakı həmyaşıdlarının təşəbbüsü ilə Monteneqroda pop-up şəhər icmasıdır.
Müzakirələrdə Soareş süni intellektin niyə Yer kürəsində bütün həyatı sonlandıracağına dair öz perspektivini bölüşdü.
Ethereum qurucusu Vitalik Buterin və Maşın İntellekt Tədqiqat İnstitutunun (MIRI) direktoru Neyt Soares bu gün Zuzaluda AI risklərini müzakirə etdi.
Zuzalu, Monteneqroda Buterin və onun kriptovalyuta cəmiyyətindəki həmyaşıdlarının təşəbbüsü ilə 25 mart-25 may tarixləri arasında fəaliyyət göstərən “pop-up şəhər icmasıdır”. Tədbir öyrənmək, yaratmaq, daha uzun və daha sağlam yaşamaq arzusu ilə 200 əsas sakini bir araya gətirir. yaşayır və özünü təmin edən icmalar qurur. İki ay ərzində icma sintetik biologiya, məxfilik texnologiyası, ictimai mallar, uzunömürlülük, idarəetmə və s. kimi müxtəlif mövzularda bir sıra tədbirlərə ev sahibliyi edir.
The müzakirə Soaresin Berklidə yerləşən və idarə etdiyindən daha uzun müddətdir mövcud olan qeyri-kommersiya təşkilatı olan MIRI-də işini təqdim etməsi ilə açıldı. Son 20 il ərzində MIRI süni intellekt inkişafının yaxşı getməsini təmin etmək üçün zəmin yaratmağa çalışır. Müzakirə ilə Vitalik süni intellektni bəşər tarixində buraxılan digər texnologiyalarla müqayisədə unikal riskli edən şeyləri həll etməyə ümid etdi.
Süni intellektin insanların yox olmasına səbəb olma ehtimalı
Vitalik, uzun müddətdir ki, süni intellektlə bağlı risklər mövzusu ilə maraqlandığını və süni intellekt səhv olarsa, Yer kürəsindəki bütün həyatın yox olacağı ehtimalının 0.5%-1% olduğuna əmin olduğunu xatırladı. bəşər övladının yox olması və ya bəşər sivilizasiyasının geri dönməz süqutu.
Soaresin nöqteyi-nəzərindən insanların yox olması süni intellekt texnologiyasının təhlükəli inkişafının standart nəticəsi kimi görünür. Onu təkamüllə müqayisə edərək, bəşəriyyətin inkişafının sadəcə təkamül dəyişikliklərindən daha sürətli baş verdiyini söylədi. Həm süni intellekt, həm də insanın təkamül proseslərində dominant optimallaşdırma – nəzərə alınmalı bir çox məqsəd olduqda problemin ən yaxşı həllini tapmaq prosesi – dəyişirdi. İnsanlar elə bir nöqtəyə çatmışdılar ki, təbii seçmə yolu ilə məlumatı genlərə bağlamaq əvəzinə, bilikləri ağızdan-ağıza ötürə bildilər.
“AI, nəticədə makroskopik optimallaşdırma prosesini yenidən dəyişdirə biləcəyiniz bir vəziyyətdir. Düşünürəm ki, siz insanların optimallaşdırılması baxımından daha yaxşısını edə bilərsiniz. Düşünürəm ki, ətrafımızı optimallaşdırmağa gəldikdə hələ də çox axmaqıq. Süni intellektlə biz avtomatlaşdırılmış optimallaşdırmanın kainatın makroskopik xüsusiyyətlərini təyin edən qüvvə olduğu bir növ faza keçidindən keçirik”, - Soareş izah etdi.
O əlavə etdi ki, bu gələcəyin necə göründüyü optimallaşdırma prosesinin optimallaşdırılmasıdır və bu, çox güman ki, bəşəriyyət üçün faydalı olmağı dayandıracaq, çünki əksər optimallaşdırma hədəflərində insanlar üçün yer yoxdur.
İnsanlar AI-ni yaxşılıq etmək üçün öyrədə bilərmi?
Buterin, süni intellektə öyrədənlərin və ona necə optimallaşdırmağı izah edənlərin insanlar olduğuna diqqət çəkdi. Lazım gələrsə, onlar maşının optimallaşdırılması üsulunu dəyişə bilərlər. Bununla əlaqədar, Soareş dedi ki, AI-ni yaxşılıq etmək üçün öyrətmək prinsipcə mümkündür, lakin sadəcə bir məqsədə çatmaq üçün süni intellekt öyrətmək onun bunu edəcəyini və ya etmək istədiyini ifadə etmir.
İnsan üstünlüklərinin nə olduğu haqqında böyük həcmdə məlumat əldə edən böyük dil modellərində möhkəmləndirmə öyrənilməsinə toxunan Buterin bunun niyə işləmədiyini soruşdu, çünki mövcud kəşfiyyat üstünlüklərimizin nə olduğunu daha yaxşı başa düşür.
"Motivasiyalarımızı başa düşmək və incitmək arasında böyük bir boşluq var"
Soares cavab verdi.
“Mənim iddiam o deyil ki, böyük bir dil modeli və ya süni intellekt insan üstünlüklərinin xırdalıqlarını başa düşməyəcək. Mənim iddiam budur ki, insan üstünlüklərinin xırdalıqlarını başa düşmək yaxşılıq üçün optimallaşdırmaqdan çox fərqlidir”.
Tamaşaçıların bir üzvü süni intellekt kimi insanlar da nə etdiklərini və ya proqnozlaşdırdıqlarını başa düşmürlər ki, bu da təhlükəli ola bilər. Daha sonra o, Soaresdən özünü yadplanetli kimi göstərməsini və niyə insanların olmaması lazım olduğunu izah etməsini istədi.
“Tanrı kimi səlahiyyətlər və gələcək üzərində nəzarəti tək bir insana vermək məni heyran etməzdi. Ayrı-ayrılıqda, mən təsadüfi bir süni intellektə yox, tək bir insana güc verməkdən daha çox sevinərdim. Mən qəti şəkildə demirəm ki, bizdə süni intellekt olmamalıdır. Mən deyirəm ki, biz bunu düzgün başa düşməliyik. Biz onları əyləncə və xoşbəxtliklə dolu bir gələcəyə və inkişaf edən sivilizasiyalara yönəltməliyik ki, burada transhumanlar yadplanetlilərlə müsbət sövdələşmələr aparır və s.” "Fərqli şeylərə əhəmiyyət verən güclü bir optimallaşdırma prosesi qursanız, bu, potensial olaraq kainatın bütün dəyərlərini məhv edə bilər."
O, əlavə etdi ki, insanların dəyər verdiyi şeylər ümumbəşəri şəkildə məcburedici deyil və əxlaq onu öyrənən hər hansı bir zehnin həyata keçirəcəyi bir şey deyil. Əvəzində, ata-baba mühitində bizə çoxalmaqda yaxşı olmağımıza səbəb olan və insanlara xas olan insanlarda qurulmuş sürücülüklərin nəticəsidir.
Nəhayət, Soareş hesab edir ki, biz eyni dərəcədə ağıllı və ya əyləncə, xoşbəxtlik və çiçəklənən gələcəklə uyğun olmayan daha ağıllı bir şey qurmamalıyıq. Digər tərəfdən, o, həmçinin bildirib ki, bəşəriyyət silahlanma yarışı zamanı ilk cəhdində əyləncəli gələcəyi optimallaşdıran dostluq super kəşfiyyatı qurmamalıdır. Qısa müddətdə süni intellekt bəşəriyyətə həqiqətən nə istədiklərini anlamaq üçün vaxt və məkan almağa kömək etməyə həsr edilməlidir.
ChatGPT bütün biosferi istehlak etməyəcək
Süni intellekt hazırda müəyyən məqsədlərə, o cümlədən proqnoza nail olmaq üçün qurulduğundan, Buterin soruşdu ki, AI məqsədə uyğun deyilsə, necə? Soares dedi ki, təhlükəsiz və bacarıqsız olan süni intellekt yaratmaq asandır və biz tezliklə bacarıqlı, lakin fərqli şeylərə can atan AI-lərə sahib ola bilərik. O düşünmür ChatGPT o qabiliyyət səviyyəsində olmadığı üçün bütün biosferi istehlak edəcək.
Soares qeyd etdi ki, elmi və texnoloji inkişafın və tədqiqatların avtomatlaşdırılması kimi ən maraqlı süni intellekt tətbiqləri, görünür, müəyyən məqsədlərə nail olmaq tələb edir.
“Əldə edə biləcəyiniz səhv deyil GPT səliqəli hayku yazmaq, amma roman yazmaq üçün onu əldə edə bilmirsən. Mövcud sistemlərin məhdudiyyətləri, ən azı mənim üçün bu daha dərin məqsədləri güdməmələri ilə əlaqədardır.”
Daha ətraflı:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Sindi jurnalistdir Metaverse Postilə bağlı mövzuları əhatə edir web3, NFT, metaverse və AI ilə müsahibələrə diqqət yetirərək Web3 sənaye oyunçuları. O, 30-dan çox C səviyyəli icraçı ilə danışıb və onların dəyərli fikirlərini oxuculara çatdırıb. Əslən Sinqapurdan olan Sindi hazırda Gürcüstanın Tbilisi şəhərində yerləşir. O, Cənubi Avstraliya Universitetində Kommunikasiya və Media Tədqiqatları üzrə bakalavr dərəcəsinə malikdir və jurnalistika və yazı sahəsində onillik təcrübəyə malikdir. vasitəsilə onunla əlaqə saxlayın [e-poçt qorunur] mətbuat meydançaları, elanlar və müsahibə imkanları ilə.
Ətraflı məqalələr
Sindi jurnalistdir Metaverse Postilə bağlı mövzuları əhatə edir web3, NFT, metaverse və AI ilə müsahibələrə diqqət yetirərək Web3 sənaye oyunçuları. O, 30-dan çox C səviyyəli icraçı ilə danışıb və onların dəyərli fikirlərini oxuculara çatdırıb. Əslən Sinqapurdan olan Sindi hazırda Gürcüstanın Tbilisi şəhərində yerləşir. O, Cənubi Avstraliya Universitetində Kommunikasiya və Media Tədqiqatları üzrə bakalavr dərəcəsinə malikdir və jurnalistika və yazı sahəsində onillik təcrübəyə malikdir. vasitəsilə onunla əlaqə saxlayın [e-poçt qorunur] mətbuat meydançaları, elanlar və müsahibə imkanları ilə.
