Texnoloji Mütəxəssislər, Süni İntellekt Sistemlərinin Təlimində Müvəqqəti Fasilə Çağıran Açıq Məktub İmzaladılar GPT-4
Qısaca
1100-dən çox imzalayan şəxs nəhəng süni intellekt təcrübələrinə fasilə verilməsini tələb edən açıq məktubu imzalayıb.
İmzalayanlar arasında Elon Musk, Steve Wozniak və Emad Mostaque və başqaları var.
Açıq məktub süni intellekt tərəfindən məlumatların qərəzliliyi ilə bağlı narahatlıqları artırdı, işin avtomatlaşdırılması və AI-nin insan sivilizasiyası üçün riski.
Aparıcı texnoloji ekspertlər də daxil olmaqla, 1,100-dən çox imzalayan müqavilə imzalayıb açıq məktub daha inkişaf etmiş süni intellekt sistemlərinin təliminə altı aylıq fasilə verilməsini tələb edir GPT-4.
Məktub bəşəriyyətin üzləşdiyi qlobal fəlakət və ekzistensial riskləri, xüsusən də qabaqcıl süni intellektin ekzistensial riskini azaltmaq üçün çalışan qeyri-kommersiya təşkilatı olan Həyatın Gələcəyi İnstitutu tərəfindən yazılmışdır.
“Qabaqcıl süni intellekt Yerdəki həyatın tarixində köklü dəyişikliyi təmsil edə bilər və mütənasib qayğı və resurslarla planlaşdırılmalı və idarə edilməlidir” deyən geniş şəkildə təsdiqlənmiş Asilomar AI Prinsiplərindən sitat gətirərək məktubda deyilir ki, planlaşdırma və idarəçilik baş vermir.
Məktubda daha sonra deyilir ki, süni intellekt laboratoriyaları heç kimin başa düşə, proqnozlaşdıra və ya etibarlı şəkildə idarə edə bilmədiyi getdikcə daha güclü süni intellekt yaratmaq üçün “nəzarətdən kənar” yarışdadır. Müasir AI sistemləri kimi GPT-4 bilərsiniz insanlarla rəqabət aparır Ümumi vəzifələrə dair məktubda süni intellekt tərəfindən məlumatların qərəzliliyi, işin avtomatlaşdırılması və insan sivilizasiyasına nəzarəti itirmək riski ilə bağlı narahatlıqlar qaldırılır.
“Biz bütün süni intellekt laboratoriyalarını daha güclü süni intellekt sistemlərinin təlimini ən azı 6 ay dayandırmağa çağırırıq. GPT-4. Bu fasilə ictimai və yoxlanıla bilən olmalıdır və bütün əsas aktyorları əhatə etməlidir. Əgər belə bir fasilə tez bir zamanda qüvvəyə minə bilmirsə, hökumətlər işə qarışmalı və moratorium qoymalıdırlar”.
məktubda deyilir.
Məktubda süni intellekt laboratoriyaları və texnoloji mütəxəssislərdən müstəqil kənar ekspertlər tərəfindən ciddi şəkildə yoxlanılan və nəzarət edilən qabaqcıl AI dizaynı və inkişafı üçün təhlükəsizlik protokollarını hazırlamaq və həyata keçirmək üçün fasilə müddətindən istifadə etmələri xahiş olunur.
Lakin amerikalı jurnalist Jeff Jarvis məktubu tənqid edib. deyərək ki, bu, "mənəvi çaxnaşmanın əsas nümunəsidir".
Dünyanın hər yerindən DeepMind tədqiqatçı alimləri və bir neçə universitet professoru ilə birlikdə məktubu imzalayan texnoloji və maşın öyrənməsi sahəsində aparıcı beyinlərdən bəziləri bunlardır:
- Yoshua Bengio, Montreal Universiteti, dərin öyrənmənin inkişafı üzrə Turinq mükafatı laureatı, Montreal Öyrənmə Alqoritmləri İnstitutunun rəhbəri
- Stuart Russell, Berkeley, kompüter elmləri professoru, İntellektual Sistemlər Mərkəzinin direktoru və “Süni intellekt: Müasir yanaşma” standart dərsliyinin həmmüəllifi
- Elon Musk, SpaceX, Tesla və Twitter-in baş direktoru
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, Skype-ın həmtəsisçisi, Ekzistensial Risklərin Tədqiqi Mərkəzi, Həyatın Gələcəyi İnstitutu
- Gary Marcus, Nyu York Universiteti, süni intellekt üzrə tədqiqatçı, fəxri professor
- Mark Rotenberq, Süni İntellekt və Rəqəmsal Siyasət Mərkəzi (CAIDP), Prezident
A son məktub, Rotenberg yazıb ki, CAIDP Federal Ticarət Komissiyasına şikayət verəcək, Açıq AI və araşdırmaya çağıracaq. ChatGPT, həmçinin qorunma tədbirləri qurulana qədər məhsulun sonrakı kommersiya buraxılışlarına qadağa.
OpenAI CEO Sam Altman var etiraf etdi “Bizim qurumlarımızın nə edəcəyini anlamaq üçün kifayət qədər vaxta ehtiyacımız var” və cəmiyyətin “potensial olaraq qorxulu” generativ AI vasitələrindən uzaq olmadığını.
“Biz FTC-dən “fasilə düyməsini vurmağı” xahiş edirik ki, institutlarımız, qanunlarımız və cəmiyyətimizi tutmaq imkanı olsun. Biz nəzarəti itirməmişdən əvvəl yaratdığımız texnologiyalar üzərində agentlik iddiası etməliyik”, CAIDP məktubunda deyilir.
Başqa yerdə, AB qanunvericiləri süni intellekt qaydalarını tətbiq etmək üçün ilin sonuna qədər Aİ ölkələri ilə müqavilə imzalamağı hədəfləyirlər, baxmayaraq ki, süni intellektin necə idarə olunması ilə bağlı müzakirələr gücləndikcə bu, darboğaz yarada bilər.
Daha ətraflı:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Sindi jurnalistdir Metaverse Postilə bağlı mövzuları əhatə edir web3, NFT, metaverse və AI ilə müsahibələrə diqqət yetirərək Web3 sənaye oyunçuları. O, 30-dan çox C səviyyəli icraçı ilə danışıb və onların dəyərli fikirlərini oxuculara çatdırıb. Əslən Sinqapurdan olan Sindi hazırda Gürcüstanın Tbilisi şəhərində yerləşir. O, Cənubi Avstraliya Universitetində Kommunikasiya və Media Tədqiqatları üzrə bakalavr dərəcəsinə malikdir və jurnalistika və yazı sahəsində onillik təcrübəyə malikdir. vasitəsilə onunla əlaqə saxlayın [e-poçt qorunur] mətbuat meydançaları, elanlar və müsahibə imkanları ilə.
Ətraflı məqalələr
Sindi jurnalistdir Metaverse Postilə bağlı mövzuları əhatə edir web3, NFT, metaverse və AI ilə müsahibələrə diqqət yetirərək Web3 sənaye oyunçuları. O, 30-dan çox C səviyyəli icraçı ilə danışıb və onların dəyərli fikirlərini oxuculara çatdırıb. Əslən Sinqapurdan olan Sindi hazırda Gürcüstanın Tbilisi şəhərində yerləşir. O, Cənubi Avstraliya Universitetində Kommunikasiya və Media Tədqiqatları üzrə bakalavr dərəcəsinə malikdir və jurnalistika və yazı sahəsində onillik təcrübəyə malikdir. vasitəsilə onunla əlaqə saxlayın [e-poçt qorunur] mətbuat meydançaları, elanlar və müsahibə imkanları ilə.
