Den Hendrycks: Süni intellekt və insanlar arasında seçim etsəniz, təkamül bizi seçməyəcək
Qısaca
Dan Hendriksin “Təbii seçmə insanlardan süni intellektə üstünlük verir” araşdırması qorxulu nəticədir.
O, AI sistemlərinin təhlükəsizliyinin qiymətləndirilməsi ilə bağlı onlarla elmi məqalə dərc etdirmiş təcrübəli və tanınmış tədqiqatçıdır.
Dan Hendrycks-in araşdırması Homo Sapiens üçün ölüm hökmü kimi səslənir. Araşdırmanın nəticəsi "Təbii seçmə AI-ləri insanlardan üstün tutur” həqiqətən qorxuludur. Bunu Dan Braun kimi məşhur bir vizyoner deyil, AI təhlükəsizliyi üzrə tədqiqat və sahə işlərində ixtisaslaşmış qeyri-kommersiya təşkilatı olan Kaliforniya Süni İntellekt Təhlükəsizliyi Mərkəzinin (CAIS) direktoru Den Hendrycks yazıb.
Dan Hendrycks süni intellektin inkişafı ilə bağlı çaxnaşma salan bir dəli deyil. O, süni intellekt sistemlərinin təhlükəsizliyinin qiymətləndirilməsi - onların kodlaşdırmada, əsaslandırmada, qanunları başa düşməkdə və s. bacarıqlarını yoxlamaq üzrə onlarla elmi məqalə dərc etdirmiş təcrübəli və geniş hörmətli tədqiqatçıdır. Digər şeylər arasında o, həm də Qauss xətti xəta vahidləri (GELU).
Jack Clark, həmtəsisçisi ChatGPT rəqib Anthropic, Stenford Universitetinin AI İndeksinin həmsədri, OECD-nin AI və Hesablama bölməsinin həmsədri və ABŞ Hökumətinin Süni İntellekt üzrə Milli Məsləhət Komitəsinin üzvü Hendriksin araşdırmasının yekununu müzakirə edir. “İnsanlar meşə daxmasında yaşayan vəhşi gözlü bir dəlidən gələn ifadəni refleks olaraq kənara atmaq istəyirlər. Mən bunu əvvəlcədən təkzib etmək istərdim. Təkcə AI tədqiqatında deyil, həm də təcrübəsi olan bir mütəxəssis AI sistemlərinin təhlükəsizliyinin qiymətləndirilməsi gələcək AI sistemlərinin insanların maraqlarına uyğun deyil, eqoist davrana biləcəyini iddia edən bir məqalə yazır, biz bunun qayğısına qalmalıyıq!
Hendrycks-in məqaləsinin xülasəsi:
- AI agentləri daha çox olarsa insanlardan daha ağıllıdır, bu, bəşəriyyətin gələcəyinə nəzarəti itirməsinə səbəb ola bilər.
- Bunun insanların və ya maşınların hansısa xüsusi zərərli niyyəti nəticəsində deyil, Darvin məntiqinə görə təkamül inkişaf prinsiplərinin süni intellektə tətbiq edilməsi nəticəsində baş verməsi üçün yaxşı şans var.
- Bunun riskini minimuma endirmək üçün süni intellekt agentlərinin daxili motivləri diqqətlə hazırlanmalı, onların hərəkətlərinə məhdudiyyətlər qoyulmalı və AI əməkdaşlığını təşviq etmək üçün təsisatlar yaradılmalıdır.
Yəni, Hendrycks 43 səhifəlik elmi məqaləsində qeyd etdiyi ən mühüm məqamlar:
1. Terminatorun gəlişindən qorxduq, lakin bu qorxuların təməlləri yanlış idi. İki səhv var idi:
a. Motivasiyalarımızı ona aid etməklə AI-nin antropomorfizasiyası və s.—kimi ChatGPT göstərdi ki, süni intellekt ondan gələn bütün nəticələrlə əsaslı şəkildə fərqli bir ağıldır.
b. Süni intellektin bir növ tək varlıq olması fikri: ağıllı və ya çox ağıllı deyil, xeyirxah və ya çox mehriban deyil, amma əslində bu çox fərqli AI varlıqları mümkün qədər tezliklə dünyada olacaq.
2. Süni intellektlə gələcəklə bağlı təsəvvürlərimizdə daha bir fundamental qüsur var – biz ən mühüm inkişaf mexanizmini unutmuşuq – təkamül, təkcə bioagentlərin deyil, həm də ideya və mənaların, maddi alətlərin və qeyri-maddi institutların inkişafına təkan verir.
3. Artıq Yer kürəsində bir çox AI-nin inkişaf edəcəyi və təkamül edəcəyi mühit formalaşmağa başlayıb. Bu təkamül Darvinin məntiqinə uyğun olaraq, öz aralarında süni intellektlə rəqabət yolu ilə, onların “ana” institutlarının: korporasiyaların, ordunun və s. maraqlarını nəzərə alaraq gedəcək.
4. Rəqabətli təkamülün məntiqi insanlarda olduğu kimi buna gətirib çıxaracaq: getdikcə daha intellektli AI agentləri getdikcə daha çox eqoist olacaq və əsas məqsəd güc olmaqla, hiylə və zorla məqsədlərə çatmağa hazır olacaqlar.
5. Süni intellekt agentlərinin təbii seçilməsi daha çox eqoist növlərə daha fədakar olanlara üstünlük verir. Süni intellekt agentləri eqoist davranacaq və insanlara çox az əhəmiyyət verərək öz maraqlarını güdəcəklər ki, bu da bəşəriyyət üçün fəlakətli risklərə səbəb ola bilər.
- Ərizə daha inkişaf etmiş AI sistemlərinin inkişafını dayandırmaq GPT-4 cəmiyyəti qütbləşdirdi. Birinci qrup tərəqqinin dayandırıla bilməyəcəyinə inanır, digərləri isə tərəqqiyə inanır və bəzən dayandırılmalıdır. Üçüncü qrup necə olduğunu başa düşmür GPT-4 ilk növbədə fəaliyyət göstərir. Bu mətndəki ən vacib detallar süni intellektin heç bir şüurunun, iradəsinin və ya səlahiyyətinin olmaması və hətta pis niyyətli insanlar olmadan da pis ola biləcəyidir.
- Geoffrey Hinton tez-tez "AI-nin xaç atası" adlanır və dərin öyrənmə cəmiyyətinin aparıcı siması hesab olunur. Onun 40 dəqiqəlik müsahibəsi ChatGPT unikaldır ki, onu başa düşmək asandır və başqaları üçün əlçatandır. O, davam edən “intellektual inqilab”ın və qeyri-insani zəkanın əhəmiyyətini vurğulayır. ChatGPT, qabaqcıl rəqəmsal kommunikasiya imkanlarına malik süni intellekt agentinə əsaslanır.
Daha çox əlaqəli məqaləni oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
