Süni intellekt üzrə ekspertlər və ictimai xadimlər süni intellektin məhv olma riski ilə bağlı həyəcan təbili çalırlar
Qısaca
Tanınmış süni intellekt ekspertləri və nüfuzlu şəxslər öz fikirlərini bildirirlər AI ilə əlaqəli risklərlə bağlı narahatlıqlar.
Süni intellektdə əhəmiyyətli irəliləyişlərə baxmayaraq, AI riski ilə bağlı bir çox problemlər həll edilməmiş qalır.
Tanınmış süni intellekt mütəxəssisləri və ictimai xadimlər süni intellektin bəşəriyyətin sağ qalması üçün pandemiya və nüvə müharibəsi riskləri ilə müqayisə edilə bilən və ya ondan daha böyük təhlükə yarada biləcəyi barədə xəbərdarlıq ediblər. İmzalayan 350 iştirakçı iddia edir ki, süni intellekt gözlənilməz və fəlakətli nəticələrə səbəb ola bilər, məsələn, avtonom silahlar buraxmaq, sosial və iqtisadi sistemləri pozmaq və ya insanları ələ keçirə və onlara qalib gələ biləcək super zəkalı agentlər yaratmaq.
Onlar siyasətçiləri bu riskləri ciddi qəbul etməyə və təhlükəsiz və faydalı süni intellekt inkişafını təmin etmək üçün tədbirlər görməyə çağırırlar. The bəyanat kimi süni intellektlə bağlı tədqiqat və inkişaf sahəsində bəzi aparıcı şəxslər tərəfindən imzalanır OpenAI CEO Sam Altman, Skype-ın həmtəsisçisi Jaan Tallinn, DeepMind CEO-su Demis Hassabis və AI kompüter alimi Geoffrey Hinton, həmçinin musiqiçi Qrayms və podkaster Sam Harris kimi nüfuzlu ictimai şəxsiyyətlər.
İmzalayanlar arasında dərin öyrənməyə verdikləri töhfələrə görə 2018-ci il Turing Mükafatının qalibləri də var idi: Geoffrey Hinton və Yoshua Bengio. Onlara Çinin Harvard və Tsinghua Universiteti kimi nüfuzlu universitetlərin professorları, eləcə də MİT-in Maks Teqmarkı qoşulub.
“Aİ-nin yox olma riskinin azaldılması pandemiya və nüvə müharibəsi kimi digər sosial miqyaslı risklərlə yanaşı qlobal prioritet olmalıdır”.
CAIS-in dərc etdiyi məktubda deyilir.
AI Təhlükəsizliyi Mərkəzi (CAIS), San Fransiskoda yerləşən qeyri-kommersiya təşkilatı süni intellektlə bağlı təhlükəsizlik problemlərini həll etməyi hədəfləyir. CAIS süni intellektin potensial faydalarını tanımaqla yanaşı, onu təhlükəsiz şəkildə inkişaf etdirməyin və istifadə etməyin zəruriliyini vurğulayır. Şirkət hesab edir ki, süni intellektdə əhəmiyyətli irəliləyişlərə baxmayaraq, süni intellekt təhlükəsizliyində çoxsaylı fundamental problemlər həll olunmamış qalır. Veb saytına görə, CAIS-in missiyası təhlükəsizlik araşdırmaları aparmaq, süni intellekt üzrə təhlükəsizlik tədqiqatçıları cəmiyyətini inkişaf etdirmək və təhlükəsizlik standartlarını müdafiə etməklə riskləri azaltmaqdır.
“Süni intellektlə bağlı bir çox vacib və təcili risklər var, təkcə yox olma riski; məsələn, sistemli qərəz, dezinformasiya, zərərli istifadə, kiberhücumlar və silahlanma. Bütün bunlar həll edilməli olan mühüm risklərdir. Cəmiyyətlər birdən çox riski idarə edə bilər; bu “ya/yaxud” deyil, “bəli/və”dir. Risklərin idarə edilməsi nöqteyi-nəzərindən, mövcud zərərləri müstəsna olaraq prioritetləşdirmək ehtiyatsızlıq olduğu kimi, onlara məhəl qoymamaq da ehtiyatsızlıq olardı”.
Den Hendrycks, CAIS direktoru yazdı Twitter.
Mart ayında 1,100-dən çox texnologiya mütəxəssisi imzalanmışdır aşaraq süni intellekt sistemlərinin təliminin altı aylıq dayandırılmasını tələb edən açıq məktub GPT-4. Bu yaxınlarda Avropa qanunvericiləri də təsdiq kimi AI alətlərini tənzimləyən AI Aktı kimi tanınan daha sərt qanun layihəsi ChatGPT. Akt əsas süni intellekt modelləri üçün təhlükəsizlik yoxlamaları, məlumatların idarə edilməsi və risklərin azaldılması tələblərini ehtiva edir və manipulyasiya üsulları və biometrikanın müəyyən istifadəsi kimi təcrübələri qadağan edir.
Daha ətraflı:
- OpenAI Süni intellekt təhlükəsizliyinin təmin edilməsinə dair ən son yanaşmasını təqdim edir
- Google oyunçular üçün mətndən avatar generatorunu elan edəcəkmi?
- Amazon-un CodeWhisperer proqramı tərtibatçılara AI Arenada ehtiyac duyduqları üstünlüyü verir
- Vitalik Buterin və MIRI direktoru Neyt Soares süni intellektin təhlükələrini araşdırırlar
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
Ətraflı məqalələr
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
