AI liderləri sürətli irəliləyişlərdə artan risklər və etik narahatlıqlar barədə xəbərdarlıq edir
Son siyasət bəyanatında, Bengio, Hinton, Russell, Harari və Kahneman da daxil olmaqla süni intellekt sahəsində tanınmış simalar süni intellektlə bağlı sürətli irəliləyiş və artan sosial risklər barədə həyəcan təbili çalıblar.
AI sürətlə inkişaf edir. GPT-2 dörd il əvvəl 0-dan 100-ə qədər saya bilmirdi, lakin müasir modellər kod yaza, heyrətamiz şəkillər çəkə və intellektual rəhbərlik təklif edə bilər. Yarışda olduğumuz üçün irəliləyiş daha da sürətlənə bilər. Bundan əlavə, süni intellekt, məsələn, yeni sistemlərin proqramlaşdırılmasına və onların təlimi üçün məlumatların toplanmasına kömək etməklə daha sürətli inkişaf edir.
Tərəqqi insan səviyyəsinə çatdıqdan sonra onun yavaşlayacağını və ya dayanacağını düşünmək üçün heç bir səbəb yoxdur. Müəyyən bölgələrdə süni sistemlər artıq bu mövzuda insanı üstələyib, sərgiləyib daha sürətli emal kimi imkanlar sürətlər, daha böyük məlumat emal imkanları və geniş miqyaslı miqyaslılıq. Müəssisələr hazırkı həddi çox aşan təlim proqramlarını həyata keçirmək üçün maliyyə imkanlarına malikdirlər.
Müəlliflər düşünürlər ki, yaxın on il ərzində daha yaxşı süni intellekt üzrə ümumi mütəxəssisin meydana çıxması üçün yaxşı şans var. insan imkanlarını üstələyir bir çox mühüm sahələrdə.
Bundan sonra nə baş verəcək? Bütün həyatlar düzgün idarə olunarsa və bölüşdürülərsə yaxşılaşdırıla bilər. Səhv seçilmiş seçim bizim pis hazırladığımız əhəmiyyətli risklərə səbəb olur. Təhlükəsizliyə və zərərin qarşısının alınmasına ayrılmaq əvəzinə, daha güclü süni intellekt sistemlərinin yaradılması üçün əhəmiyyətli resurslardan istifadə edilir. Bunun dəyişdirilməsi lazımdır; bacarıqları təkbaşına əldə etmək kifayət deyil. Və bu proses gözlənildiyindən daha uzun çəkir. Mövcud təhlükələrin eskalasiyasını və yenilərinin meydana çıxmasını gözləməklə daha yüksək riskləri onlar yaranmazdan əvvəl planlaşdırmalıyıq. Bizim süni intellekt üçün eyni vaxtımız yoxdur, çünki onun qəbul edilməsi onilliklər tələb edir. iqlim dəyişikliyi.
Cəmiyyət səviyyəsində çoxsaylı risklər mövcuddur, o cümlədən ədalətsizliyin artması, sabitliyin pozulması və reallıq haqqında ümumi təsəvvürün pisləşməsi. Burada terrorçular və cinayətkarlar geniş fəaliyyətlə məşğuldurlar. Süni intellekt bir neçə oyunçunun əlində cəmləşə bilər ki, bu da qlobal bərabərsizliyin artmasına, avtomatlaşdırılmış müharibənin asanlaşmasına, hər bir fərd üçün uyğunlaşdırılmış kütləvi manipulyasiyaya və hər yerdə müşahidəyə səbəb ola bilər.
Muxtar kimi AI daha təkmilləşir və planlaşdırmağı bacarır, dünyada fəaliyyət göstərib məqsədlərinə çatdıqda bu risklər daha da artacaq. Bu məqsədlər bizim maraqlarımıza uyğun olmaya bilər və pis aktyorlar vəziyyətində hətta zərərli ola bilər. AI davranışının mürəkkəb məqsədlərimizlə uyğunlaşdırılmasını nəzərdə tutan AI Alignment problemini necə həll edəcəyimiz hələlik aydın deyil. Bundan əlavə, qalib gəlmək niyyəti ilə yarışarkən təhlükəsizlik tədbirlərinə məhəl qoymamaq çox sadədir.
Sosial mühəndislik, hakerlik, fırıldaqçılıq və strateji planlaşdırmada getdikcə daha çox məharətə çevrilən mürəkkəb süni intellekt sistemləri bir yana dursun, insanlar üçün müntəzəm proqram təminatına nəzarət etmək çətindir. Bu, avtonom süni intellekt sistemlərinin insanlardan ala biləcəyi və ya özləri yarada biləcəyi bir şeydir.
Bu sistemlər fərdlərlə və digər sistemlərlə koalisiya qurmaq, etimadı qazanmaq, maliyyələşməni təmin etmək və qərar qəbul edənləri ələ keçirmək qabiliyyətinə malikdir. Bir qurd kimi, onlar bütün şəbəkədə özünü çoxalda bilirlər. Artıq AI köməkçilərinin köməyi ilə böyük miqdarda kod yazılır; gələcəkdə sistemlər istismarları çoxsaylı mühüm sistemlərə daxil edə bilər. Süni intellekt sistemləri açıq döyüşdə bioloji və ya avtonom silahlardan istifadə etmək və ya onları təhdid etmək qabiliyyətinə malikdir. Bu, sadəcə olaraq davamıdır bioloji tədqiqatlar, süni intellekt və müharibənin avtomatlaşdırılması istiqamətində cari hərəkətlər. İnsanlara müdaxilə etmək və müqavimət göstərmək çox çətin ola bilər.
Bir çox hallarda biz onlardan xahiş etmədən cilovu onlara verməyə hazırıq. Bir çox fərdlər və müəssisələr rəqabətdən geri qalacaqlarından narahat olduqları üçün bu cür sistemləri rəqabətli şəraitdə yerləşdirməyə hazırdırlar.
Tam sənədlə tanış ola bilərsiniz burada.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
