AI Təlimində 6 aylıq Fasilə Yaxşı Fikirdir, lakin Kifayət qədər Olmaya bilər
Qısaca
Petisiyanın hekayəsi və Yudkovskinin məqaləsinin dərci cəmiyyəti qütbləşdirib.
Məhbus dilemması və oyun nəzəriyyəsi belə problemlərin həlli üçün müxtəlif yerlərdə kritik sağlam düşüncəli insanların kütləsinin lazım olduğunu deməyə əsas verir.
Bununla belə, rəqəmsal təkamüldə şüurun, iradənin və agentliyin olmaması kimi bu fikrin bir neçə əks tərəfi var.
Hekayəsi daha inkişaf etmiş AI sistemlərini inkişaf etdirməyi dayandırmaq üçün ərizə GPT-4 cəmiyyəti nəzərəçarpacaq dərəcədə qütbləşdirdi. Yudkovskinin sərbəst buraxılması məqalə inkişafının daha da dayandırılmasını xahiş edir GPT modelləri, xüsusilə də məlumat mərkəzlərinin bombalanması ilə bağlı keçidləri yanğına yağ qatdı.
İnternetdə müşahidə edilənlərə görə, petisiyanın tərəfdarlarının üç əsas arqumenti olan opponentlərdən daha az olduğu görünür:
| 1 | - Tərəqqi dayandırmaq olmaz. – Müraciəti icad edib OpenAI rəqiblər. - Çin gözləməyəcək. |
| 2 | – Siz süni intellektdən yox, insanlardan qorxmalısınız. - GPT şüuru, iradəsi, istəkləri və ya səlahiyyəti yoxdur, ona görə də qorxacaq bir şey yoxdur. - GPT-4 dünyanı əsarət altına almaqdan dəlicəsinə uzaqdır, çünki heç nə başa düşmür, axmaq səhvlər edir və ümumiyyətlə olduqca axmaqdır. - GPT-4 dünyanı idarə edə bilməyəcək, çünki onun qolları/ayaqları yoxdur. |
| 3 | – Üçüncü qrup necə olduğunu başa düşmür GPT-4 ilk növbədə fəaliyyət göstərir. |
Üçüncü dəstəyə diqqət yetirməyəcəyik, çünki onların mövqeyi cəhalətdən irəli gəlir. Bu o demək deyil ki, bütün AI rəqibləri AI haqqında hər şeyi bilirlər; Yudkovski özü süni intellekt mövzusuna daha dərindən daxil olsa da, texnologiyanı və bunun nə demək olduğunu başa düşməyən çoxlu AI əleyhinə insan tapa bilərsiniz, ona görə də onu məlumatsızlıqda ittiham etmək olmaz.
Gəlin birinci qrup insanlara nəzər salaq – tərəqqinin dayandırıla bilməyəcəyinə inananlar. Onlar fərqli, lakin oxşar arqumentlər təklif edirlər və ümumilikdə bu insanlar süni intellektin imkanlarını və onun qəbul edilməsinin gətirdiyi perspektivləri inkar etmir və nə olursa olsun AI inkişafının davam edəcəyinə inanırlar.
Dayanılmaz tərəqqi haqqında ilk tezis doğru olması şərt olmayan bir şüardır. İnsanlar, görünür, bəzi elmi təcrübələri dayandırıblar və bir zamanlar qəbul edilmiş bir çox tədqiqat layihələri artıq etik hesab edilmir və bu gün oxşar layihələrə heç vaxt icazə verilməyəcək. Bununla belə, keçmişdə inkvizisiya və digər dini təqiblər, kitab qadağaları və Çində (və digər ölkələrdə) elm adamlarının qətli ilə nə qədər çox irəliləyiş dayandırıldı? Bu, sağ qalma qərəzinə görə heç vaxt tam qavraya bilməyəcəyimiz bir şeydir.
Digər tezislər “biz olmasaq, onlar olacaq” kimi ümumiləşdirilə bilən yanaşmanı ehtiva edir. Bu düşüncə xətti daha başa düşülən olsa da, bu da düzgün həll yolu deyil. Bu, oyun nəzəriyyəsindəki məhbus dilemmasına çox bənzəyir.
İkinci qrup arqumentlər ən maraqlıdır. Şəxsən mən bununla müəyyən dərəcədə razı olsam da, bəzi məqamlar var ki, onları həll etmək lazımdır. Bəli, süni intellektdə şüur, iradə, agentlik və s. yoxdur. Nə COVID-19 yoxdur, lakin o, bütün dünyada təxribat törətdi. Bir şeyin təhlükəli olması üçün agentlik hissi və şüurun olması lazım deyil; bir virus səbəbiylə yer üzündə həyatın məhv olması ssenarisi ağlasığmaz deyil. İşi bitdikdən sonra o, stulları masaların üzərinə qoya, işıqları söndürə və həmişəlik tərk edə bilər.
Bioloji bənzətməni davam etdirərək, proseslərin gözlənilməz istiqamətdə getdiyinə dair çoxlu nümunələr təqdim edən “Rəqəmsal Təkamülün Təəccüblü Yaradıcılığı: Təkamül Hesablamaları və Süni Həyat Tədqiqat İcmalarından Lətifələr Toplusu” adlı gözəl məqalə var. Təkamül prosesi olmasa belə, hər şey səhv ümumiləşdirməyə gedə bilər: “Məqsədin Yanlış Ümumiləşdirilməsi: Niyə Düzgün Xüsusiyyətlər Düzgün Məqsədlər üçün Yetərli Deyil”. Optimallaşdırma prosesinə ixtiyar vermək səhv gedə bilər.Qabaqcıl Maşın Öyrənmə Sistemlərində Öyrənilmiş Optimallaşdırmanın Riskləri".
Eyni zamanda biz ümumiyyətlə riskləri nəzərə almırıq AI-dən zərərli istifadə və hər hansı bir sui-istifadə, bu yalnız AI-nin özündən deyil, insanlardan qorxmağımız lazım olduğu arqumentini qidalandırır. Bununla belə, məsələnin həqiqəti budur ki, süni intellekt pis niyyətli insanlar olmadan belə pis ola bilər.
Mən də modelin axmaq səhvlərə yol verməsi ilə razıyam, amma insanlar da belədir, lakin biz onların zərər verə biləcəyini bilirik. Modellər çoxlu səhvlərə yol versə də, adi insanın həll edə bilmədiyi bir çox zəhmli, sərin və mürəkkəb problemləri də həll edə bilirlər. Bədnam əsərdən “Süni Ümumi İntellektin Qığılcımları: Erkən Eksperimentlər GPT-4,” Süni intellektin həmişə düzgün olmasa da, Fermi problemlərini, olduqca mürəkkəb riyazi problemləri həll edə bilməsi məni heyrətə gətirdi. Onun ağıl nəzəriyyəsi və başqalarının hərəkətlərini “anlamaq qabiliyyəti” də çox təsir edicidir. Bütün bunlar süni intellektə işarə edir; var, amma bizimki kimi deyil.
Süni intellekt modellərinin ən azı bəzi səhvlərini aradan qaldırmaq ümumiyyətlə mümkündür, buna görə də onların zəkaları yalnız böyüyə bilər. Sizə lazım olan tək şey dəqiq hesablamalar, faktlar bazası və başqa modellə yoxlama üçün modul əlavə etməkdir.
Bütün bu hekayədə ən vacib şey süni intellektin inkişaf sürətidir. GPT modelləri başgicəlləndirici bir sürətlə çox böyüdü. İndi, var ChatGPT plugins mövcuddur, istifadə edə bilərsiniz GPT kod yazmaq üçün modellər, API-lər geniş ictimaiyyət üçün əlçatandır və siz heç bir əvvəlcədən təlim almadan xarici alətlərdən istifadə edə bilərsiniz.
GPT-4, təbii ki, dünyanı fəth etməyəcək, amma iqtisadiyyatı çox sarsıda bilər. GPT-5, və modelin gələcək iterasiyası çox da irəlidə olmaya bilər və çox güman ki, daha güclü qabiliyyətlərlə gələcək. Gəlin etiraf edək ki, biz hələ mövcud olmayan modelləri dərk etməyə ümid edə bilmərik; artıq mövcud olan modelləri anlamağa belə yaxınlaşmamışıq. Bu mənada, altı aylıq fasilə yaxşı bir fikir ola bilər, lakin bu, sadəcə olaraq kifayət olmaya bilər.
Və nəzərə alsaq ki, AI yarışı başladı, öyrənməyə vaxt yoxdur.
Ümumiyyətlə, bütün bunları nəzərə alaraq, mən də müraciəti imzaladım. Baxmayaraq ki, hər hansı bir şəkildə kömək edəcəyinə inanmıram.
Daha çox əlaqəli mövzuları oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
