O.XYZ-dən Əhməd Şadid xəbərdarlıq edir ki, milli təhlükəsizlik prioritetləri süni intellektdə ədalət və şəffaflığa xələl gətirə bilər.
Qısaca
Əhməd Şadid vurğulayır ki, siyasi təzyiqlər süni intellektin təhlükəsizliyi və ədalətliliyini inkişaf etdirmək üçün şəffaf, müstəqil və açıq tədqiqata təcili ehtiyacı vurğulayan NIST-in kritik süni intellekt zəifliklərini üzə çıxaran hesabatının verilməməsinə səbəb olub.
ABŞ-ın hazırkı prezidenti Donald Trampın andiçmə mərasimindən əvvəl Milli Standartlar və Texnologiya İnstitutu (NIST) qabaqcıl AI modellərinin təhlükəsizliyinə dair hesabatı tamamladı.
Keçən ilin oktyabr ayında Virciniya ştatının Arlinqton şəhərində kompüter təhlükəsizliyi konfransı ən müasir dil modelini və digər AI sistemlərini ciddi şəkildə sınaqdan keçirməyə yönəlmiş qabaqcıl “qırmızı komanda” məşqində iştirak edən bir qrup AI tədqiqatçısını bir araya gətirdi. İki gün ərzində bu komandalar sistemlərin nasazlığına səbəb olan 139 yeni üsul aşkar ediblər, məsələn, yalan məlumatlar istehsal etmək və ya həssas məlumatları ifşa etmək. Ən başlıcası, onların tapıntıları, həmçinin şirkətlərə süni intellekt sisteminin təhlükəsizliyini qiymətləndirmək üçün rəhbərlik etmək məqsədi daşıyan ABŞ hökuməti standartının zəif tərəflərini də ortaya qoydu.
Təşkilatlara AI sistemlərini qiymətləndirməyə kömək etmək üçün nəzərdə tutulmuşdur hesabat daxil olan administrasiyanın siyasət istiqaməti ilə potensial ziddiyyətlər səbəbindən dərc edilməmiş bir neçə NIST tərəfindən yazılmış AI sənədləri arasında idi.
Müsahibəsində Mpost, Əhməd Şədid, Baş direktoru O.XYZ, süni intellektlə idarə olunan qeyri-mərkəzləşdirilmiş ekosistem, süni intellekt təhlükəsizliyi tədqiqatında siyasi təzyiq və məxfiliyin təhlükələrini müzakirə etdi.
NIST-in Qırmızı Komandanın Nəticələrini Yayımlamağa Kim Səlahiyyətlidir?
Əhməd Şadidin fikrincə, siyasi təzyiq mediaya təsir edə bilər və NIST hesabatı bunun bariz nümunəsidir. O, müstəqil tədqiqatçılara, universitetlərə və bu cür təzyiqlərlə məhdudlaşdırılmayan özəl laboratoriyalara ehtiyac olduğunu vurğulayıb.
"Çətinlik ondadır ki, onların resurslara və ya məlumatlara həmişə eyni çıxışı yoxdur. Buna görə də bizə, daha doğrusu, hər kəsə lazımdır - hər kəsin töhfə verə biləcəyi və öyrənə biləcəyi qlobal, açıq süni intellekt zəiflikləri məlumat bazasına ehtiyacımız var" dedi Əhməd Şadid. Mpost. "Belə tədqiqat üçün heç bir hökumət və ya korporativ filtr olmamalıdır" dedi.
AI zəifliklərinin gizlədilməsi təhlükəsizliyin tərəqqisinə mane olur və zərərli aktyorları gücləndirir, Əhməd Şadid xəbərdar edir
O, daha sonra ictimaiyyətdən zəifliklərin gizlədilməsi ilə bağlı riskləri və bu cür hərəkətlərin AI təhlükəsizliyində irəliləyişə necə mane ola biləcəyini izah etdi.
"Əsas təhsil araşdırmalarını gizlətmək pis aktyorlara başlanğıc verir, eyni zamanda yaxşıları qaranlıqda saxlayır" dedi Əhməd Şadid.
Şirkətlər, tədqiqatçılar və startaplar bilmədikləri problemləri həll edə bilmirlər ki, bu da AI firmaları üçün gizli maneələr yarada bilər və AI modellərində çatışmazlıqlar və səhvlərlə nəticələnə bilər.
Əhməd Şadidin sözlərinə görə, açıq mənbə mədəniyyəti proqram inqilabı üçün əsas olub, zəifliklərin kollektiv şəkildə müəyyən edilməsi yolu ilə həm davamlı inkişafı, həm də proqramların gücləndirilməsini dəstəkləyib. Bununla belə, süni intellekt sahəsində bu yanaşma əhəmiyyətli dərəcədə azalıb – məsələn, Meta-nın öz inkişaf prosesini qapalı mənbəyə çevirməyi düşündüyü bildirilir.
"NIST-in siyasi təzyiqə görə ictimaiyyətdən gizlətdiyi şey, sənayenin LLM və ya halüsinasiyalar ətrafındakı bəzi riskləri həll etmək üçün lazım olan dəqiq biliklər ola bilərdi" dedi Əhməd Şadid. Mpost. “Kim bilir, pis aktyorlar hesabata daxil edilmiş “AI sistemlərini sındırmağın 139 yeni yolu”ndan faydalanmaqla məşğul ola bilərlər”, o əlavə edib.
Hökumətlər ictimai inamı sarsıdan süni intellektdə ədalət və şəffaflıq əvəzinə milli təhlükəsizliyi prioritetləşdirməyə meyllidirlər
Təhlükəsizliyin araşdırılmasının qarşısının alınması hökumətlərin milli təhlükəsizliyi ədalətlilik, dezinformasiya və qərəzlilikdən üstün tutduğu daha geniş bir məsələni əks etdirir.
Əhməd Şadid vurğulayıb ki, geniş ictimaiyyətin istifadə etdiyi istənilən texnologiya şəffaf və ədalətli olmalıdır. O, məxfilikdən daha çox şəffaflığa ehtiyac olduğunu vurğulayaraq qeyd edib ki, süni intellektlə bağlı məxfilik onun geosiyasi əhəmiyyətini vurğulayır.
ABŞ və Çin kimi böyük iqtisadiyyatlar süni intellekt yarışında üstünlük əldə etmək üçün milyardlarla subsidiyalar və aqressiv istedadların əldə edilməsi daxil olmaqla, böyük sərmayələr qoyurlar.
"Hökumətlər 378 milyon istifadəçinin cibində olan süni intellekt kimi texnologiya üçün "milli təhlükəsizlik" terminini ədalətdən, dezinformasiyadan və qərəzdən üstün tutduqda, həqiqətən bu problemlərin gözləyə biləcəyini söyləyirlər. Bu, yalnız insanları deyil, gücü qoruyan AI ekosisteminin qurulmasına gətirib çıxara bilər "dedi.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Alisa, xüsusi jurnalist MPost, kriptovalyuta, süni intellekt, investisiyalar və geniş sahələrdə ixtisaslaşıb Web3. Yaranan tendensiyaları və texnologiyaları diqqətlə izləyərək, o, oxucuları məlumatlandırmaq və rəqəmsal maliyyənin daim inkişaf edən mənzərəsinə cəlb etmək üçün hərtərəfli əhatə dairəsi təqdim edir.
Ətraflı məqalələr
Alisa, xüsusi jurnalist MPost, kriptovalyuta, süni intellekt, investisiyalar və geniş sahələrdə ixtisaslaşıb Web3. Yaranan tendensiyaları və texnologiyaları diqqətlə izləyərək, o, oxucuları məlumatlandırmaq və rəqəmsal maliyyənin daim inkişaf edən mənzərəsinə cəlb etmək üçün hərtərəfli əhatə dairəsi təqdim edir.
