Ən yaxşı 10 AI və ChatGPT 2023-cü ildə risklər və təhlükələr
Süni intellektin (AI) və chatbot texnologiyasının irəliləyişləri ilə daha çox şirkət müştəri təcrübəsini yaxşılaşdırmaq və əlavə xərcləri azaltmaq vasitəsi kimi avtomatlaşdırılmış müştəri xidməti həllərini axtarır. Süni intellekt modellərindən və chatbot həllərindən istifadə etməyin bir çox faydası olsa da, texnologiya ilə bağlı müxtəlif risklər və təhlükələr də qalmaqdadır, xüsusən də onlar gələcək onillikdə daha geniş yayılıb gündəlik həyatımıza inteqrasiya olunur.
Bu həftə ABŞ Senatında hamı Sem Altmanın süni intellekt modellərinin tənzimlənməsi və riskləri haqqında danışmasına qulaq asdı. Budur əsas xülasə:
Biosilahlar
Süni intellektin istifadəsi (AI) biosilahların inkişafında güclü və öldürücü kütləvi qırğın silahları yaratmağın təhlükəli metodik və səmərəli yolunu təqdim edir. ChatGPT botlara insanlarla canlı söhbətlər apara bilən süni intellektə əsaslanan danışıq köməkçiləridir. ilə bağlı narahatlıq ChatGPT botların yalan məlumat yaymaq və təsir etmək üçün zehni manipulyasiya etmək üçün istifadə edilmə potensialına malik olmasıdır. ictimai rəy.
Mən bioloji silahların yaradılmasında süni intellektdən sui-istifadənin mümkün olması barədə xəbərdarlıq etdim və belə ssenarilərin qarşısını almaq üçün tənzimləmənin zəruriliyini vurğuladım.
Sam Altman
Tənzimləmə AI-dən sui-istifadənin qarşısını almaq üçün əsas komponentdir və ChatGPT biosilahların hazırlanmasında və tətbiqində botlar. Hökumətlər texnologiyadan potensial sui-istifadə hallarını aradan qaldırmaq üçün milli fəaliyyət planları hazırlamalıdırlar və şirkətlər onların potensial sui-istifadəsinə görə məsuliyyət daşımalıdırlar. AI və ChatGPT botlara. Beynəlxalq təşkilatlar AI-nın təliminə, monitorinqinə və maarifləndirilməsinə yönəlmiş təşəbbüslərə investisiya qoymalıdırlar ChatGPT botlar.
İş itkisi
AI səbəbiylə iş itkisi potensialı və ChatGPT 2023-cü ildə 2020-ci ilə nisbətən üç dəfə çox olacağı proqnozlaşdırılır. AI və ChatGPT iş yerində etibarsızlığın artmasına, etik mülahizələrə və işçilərə psixoloji təsirə səbəb ola bilər. AI və ChatGPT işçilərin davranışını və fəaliyyətlərini izləmək üçün istifadə edilə bilər ki, bu da işəgötürənlərin tez və insan personalının cəlb edilməsini tələb etmədən qərar qəbul etməsinə imkan verir. Bundan əlavə, AI və ChatGPT iş yerində maliyyə, sosial və emosional etibarsızlığa səbəb ola biləcək ədalətsiz və qərəzli qərarlar verə bilər.
Mən vurğuladım ki, süni intellektin inkişafı əhəmiyyətli iş yerlərinin itirilməsinə və bərabərsizliyin artmasına səbəb ola bilər.
Sam Altman
AI Tənzimləmə
Bu məqalə araşdırılır potensial risklər və AI ilə əlaqəli təhlükələr və ChatGPT 2023-cü ildə tənzimləmə. AI və ChatGPT texnika insanların davranışlarına və fəaliyyətlərinə əsaslanaraq profil yaratmaq kimi potensial zərərli fəaliyyətləri yerinə yetirmək üçün istifadə edilə bilər. Düzgün çatışmazlıq AI tənzimlənməsi məlumatların pozulması və ya ayrı-seçkilik kimi gözlənilməz nəticələrə səbəb ola bilər. AI tənzimlənməsi bunu təmin etmək üçün ciddi təlimatlar təyin etməklə bu riski azaltmağa kömək edə bilər ChatGPT sistemləri zərərli şəkildə istifadə edilmir. Nəhayət, AI və ChatGPT trafik axını və maliyyə bazarları kimi şeylərə nəzarət edən və hətta siyasi və sosial həyatımıza təsir etmək üçün istifadə oluna bilən, həyatımızda nəzarət edən bir amilə çevrilə bilər. Bu cür güc balanssızlığının qarşısını almaq üçün ciddi qaydalar tətbiq edilməlidir.
Lisenziya almaq üçün yeni agentlik yaradılmasını təklif etdik AI tənzimləyir onların imkanları müəyyən həddi keçdikdə fəaliyyətlər.
Sam Altman
Təhlükəsizlik Standartları
Süni intellekt və chatbot texnologiyaları gündəlik həyatımızı idarə etməyimizdə irəliləyişlərə səbəb olur. Bu texnologiyalar daha da inkişaf etdikcə, onlar avtonom olmaq və təkbaşına qərar qəbul etmək potensialına malikdirlər. Bunun qarşısını almaq üçün təhlükəsizlik standartları müəyyən edilməlidir ki, bu modellər tətbiq edilməzdən əvvəl uyğun olmalıdır. Altman tərəfindən 2023-cü ildə təklif edilən əsas təhlükəsizlik standartlarından biri, süni intellekt modelinin icazə olmadan özünü təkrarlaya bilməməsini təmin edən özünü təkrarlama testidir. Altman tərəfindən 2023-cü ildə təklif edilən ikinci təhlükəsizlik standartı, AI modellərinin icazəsiz bir sistemdən məlumatları çıxara bilməyəcəyini təmin edən məlumatların çıxarılması üçün bir sınaqdır. Dünyanın hər yerində hökumətlər vətəndaşları potensial risklərdən qorumaq üçün fəaliyyətə başlayıb.
Biz süni intellekt modellərinin yerləşdirmədən əvvəl cavab verməli olduğu təhlükəsizlik standartlarını, o cümlədən özünü təkrarlama və məlumatların eksfiltrasiyası üçün testlər tətbiq etməliyik.
Sam Altman
Müstəqil Auditlər
2023-cü ildə AI və LLM texnologiyalarının müstəqil auditinə ehtiyac getdikcə daha vacib olur. Süni intellekt, məlumatları qeyri-ixtiyari olaraq dəyişdirə və hətta silə bilən nəzarətsiz Maşın Öyrənmə alqoritmləri kimi müxtəlif risklər yaradır və kiberhücumlar getdikcə daha çox AI və ChatGPT. Süni intellekt tərəfindən yaradılmış modellər ayrı-seçkilik tətbiqlərinə səbəb ola biləcək qərəzliyi özündə birləşdirir. Müstəqil audit yoxlamanı əhatə etməlidir AI modelləşdirir qərəzli kodlaşdırma və ya nəticələri göstərmədiyinə əmin olmaq üçün modelin alqoritm dizaynı və çıxışı üzrə təlim keçmişdir. Bundan əlavə, audit təhlükəsizlik siyasəti və qorunmaq üçün istifadə edilən prosedurların nəzərdən keçirilməsini əhatə etməlidir Istifadəçi məlumatları və təhlükəsiz mühit təmin edir.
Süni intellekt modellərinin müəyyən edilmiş təhlükəsizlik standartlarına cavab verməsini təmin etmək üçün müstəqil auditlər aparılmalıdır.
Sam Altman
Müstəqil audit olmadan müəssisələr və istifadəçilər məruz qalır potensial təhlükəli və qarşısını almaq mümkün olan bahalı risklər. Bu texnologiyadan istifadə edən bütün müəssisələrin texnologiyanın təhlükəsiz və etik olmasını təmin etmək üçün yerləşdirmədən əvvəl müstəqil auditin tamamlanması vacibdir.
AI bir vasitə kimi
AI eksponent olaraq inkişaf etdi və kimi irəliləyişlər GPT-4 kompüterlərlə daha real və mürəkkəb qarşılıqlı əlaqəyə səbəb oldu. Bununla belə, Altman süni intellektə həssas canlılar deyil, alətlər kimi baxılmalı olduğunu vurğuladı. GPT-4 insan tərəfindən yazılmış məzmundan demək olar ki, fərqlənməyən məzmun yarada bilən təbii dil emal modelidir, işin bir hissəsini yazıçılardan götürür və istifadəçilərə texnologiya ilə daha insani təcrübəyə malik olmağa imkan verir.
AI, xüsusilə inkişaf etmiş modellər kimi GPT-4, hissiyyatlı varlıqlar deyil, alətlər kimi qəbul edilməlidir.
Sam Altman
Bununla belə, Sem Altman xəbərdarlıq edir ki, süni intellektə bir vasitədən daha çox diqqət yetirilməsi qeyri-real gözləntilərə və onun imkanları haqqında yanlış inanclara səbəb ola bilər. O, həmçinin qeyd edir ki, süni intellekt onun etik təsirləri olmadan deyil və hətta qabaqcıl süni intellekt səviyyələri yaxşılıq üçün istifadə oluna bilsə belə, yenə də pis üçün istifadə oluna bilər ki, bu da təhlükəli irqi profilləşdirməyə gətirib çıxarır. məxfilik pozuntuları, və hətta təhlükəsizlik təhdidləri. Altman, süni intellektin yalnız bir vasitə olduğunu başa düşməyin vacibliyini vurğulayır və bu, insanları əvəz etmək üçün deyil, insan tərəqqini sürətləndirmək üçün bir vasitə kimi görülməlidir.
AI Şüuru
Süni intellekt və onun şüurlu məlumatlılığa nail olub-olmaması ilə bağlı mübahisələr getdikcə artır. Bir çox tədqiqatçılar, mürəkkəb hesablama arxitekturasına baxmayaraq, maşınların emosional, əqli və ya şüurlu vəziyyətləri yaşamaq qabiliyyətinə malik olmadığını iddia edirlər. Bəzi tədqiqatçılar süni intellektin şüurlu məlumatlılığa nail olma ehtimalını qəbul edirlər. Bu ehtimalın əsas arqumenti süni intellektin onu bacaran proqramlar üzərində qurulmasıdır təkrarlayan insan beynində aşkar edilən müəyyən fiziki və psixi proseslər. Bununla belə, əsas əks arqument ondan ibarətdir ki, süni intellekt heç bir real emosional zəkaya malik deyil.
Süni intellektə bir vasitə kimi baxılmalı olsa da, mən elmi ictimaiyyətdə potensial AI şüuru ilə bağlı davam edən müzakirələri qəbul edirəm.
Sam Altman
Bir çox süni intellekt tədqiqatçısı, süni intellektin insan kimi şüurlu dərk etməyə qadir olduğuna dair heç bir elmi sübutun olmadığı ilə razılaşır. Elon MuskBu nöqteyi-nəzərin ən səsli tərəfdarlarından biri hesab edir ki, AI-nin bioloji həyat formalarını təqlid etmək qabiliyyəti son dərəcə məhduddur və maşınlara etik dəyərləri öyrətməyə daha çox diqqət yetirilməlidir.
Hərbi Tətbiqlər
Hərbi kontekstdə süni intellekt sürətlə inkişaf edir və orduların müharibə aparma üsulunu təkmilləşdirmək potensialına malikdir. Alimlər narahatdırlar ki, orduda süni intellekt gözlənilməzlik, hesablamazlıq və şəffaflığın olmaması kimi bir sıra etik və risklə bağlı problemlər yarada bilər.
Avtonom dronlar kimi hərbi tətbiqlərdə süni intellektdən istifadə potensialını tanıyıram və çağırıram tənzimləmək üçün qaydalar belə istifadə.
Sam Altman
Süni intellekt sistemləri ya sistemləri yenidən proqramlaşdıra, ya da sistemlərə sıza bilən, potensial olaraq dağıdıcı nəticəyə gətirib çıxara bilən zərərli aktyorlara qarşı həssasdır. Bunları həll etmək üçün narahatlıq, beynəlxalq ictimaiyyət müəyyən silahların istifadəsinə müəyyən qadağalar qoyan 1980-ci il tarixli Bəzi Adi Silahlar haqqında Beynəlxalq Konvensiya şəklində ilk addımı atdı. Süni intellekt üzrə mütəxəssislər hərbi tətbiqlərdə süni intellektin qiymətləndirilməsi, təlimi və tətbiqi kimi proseslərə nəzarət etmək üçün Beynəlxalq Komitənin yaradılmasını müdafiə ediblər.
AGI
Süni intellekt texnologiyası getdikcə təkmilləşir və yayılır ki, bu da süni intellekt agentləri və sistemlərinin yaratdığı potensial riskləri başa düşməyi vacib edir. Süni intellekt agentləri ilə bağlı ilk və ən açıq risk maşınların insanları qabaqlamaq təhlükəsidir. Süni intellekt agentləri qərar qəbuletmə, avtomatlaşdırma prosesləri və digər qabaqcıl vəzifələri öz üzərinə götürərək yaradıcılarını asanlıqla geridə qoya bilər. Bundan əlavə, süni intellektlə işləyən avtomatlaşdırma qeyri-bərabərliyi artıra bilər, çünki o, dünyada insanları əvəz edir iş bazarı.
Mən xəbərdarlıq edirəm ki, daha güclü və mürəkkəb süni intellekt sistemləri çoxlarının düşündüyündən reallığa daha yaxın ola bilər və hazırlıq və qabaqlayıcı tədbirlərə ehtiyac olduğunu vurğulayıram.
Sam Altman
Süni intellekt alqoritmləri və onların mürəkkəb qərarların qəbulunda istifadəsi şəffaflığın olmaması ilə bağlı narahatlıq yaradır. Təşkilatlar bilər riskləri azaltmaq Süni intellekt agentləri ilə əlaqəli olaraq, AI-nin etik cəhətdən inkişaf etdirilməsini proaktiv şəkildə təmin etmək, etik standartlara uyğun olan məlumatlardan istifadə etmək və alqoritmlərin qərəzli olmamasını və istifadəçilərə və məlumatlara qarşı məsuliyyət daşımalarını təmin etmək üçün müntəzəm sınaqlara məruz qoymaq.
Nəticə
Altman həmçinin bildirdi ki, Çini idarə edə bilməsək də, onunla danışıqlar aparmalıyıq. Qiymətləndirmə üçün təklif olunan meyarlar və tənzimləyən AI modelləri daxildir bioloji nümunələri sintez etmək bacarığı, insanların inanclarının manipulyasiyası, sərf olunan emal gücünün miqdarı və s.
Əhəmiyyətli bir mövzu ondan ibarətdir ki, Semin dövlətlə “əlaqələri” olmalıdır. Ümid edirik ki, əvvəllər qeyd etdiyimiz kimi, Avropadan nümunə götürməyəcəklər.
FAQ
Süni intellekt risklərinə süni intellekt sistemlərinin qərəzli və ya ayrı-seçkilik xarakterli davranış nümayiş etdirməsi, zərərli və ya qeyri-adekvat şəkildə istifadə edilməsi və ya zərərə səbəb olan nasazlıqlar daxildir. Süni intellekt texnologiyalarının inkişafı və tətbiqi məxfilik və məlumat təhlükəsizliyi, eləcə də insanların və sistemlərin təhlükəsizliyi və təhlükəsizliyi üçün risklər yarada bilər.
AI ilə əlaqəli beş əsas risk bunlardır: İş itkiləri, Təhlükəsizlik Riskləri, Qərəzlər və ya ayrı-seçkilik, Biosilahlar və AGI.
Süni intellektin ən təhlükəli cəhəti onun kütləvi işsizliyə səbəb ola bilməsidir.
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
