OpenAI Süni intellekt təhlükəsizliyinin təmin edilməsinə dair ən son yanaşmasını təqdim edir
Qısaca
OpenAI təhlükəsizlik və məxfiliklə bağlı son narahatlıqlar və araşdırmalardan sonra təhlükəsizliyə təkmilləşdirilmiş yanaşmasını əks etdirən bir blog yazısı yayımladı.
Şirkət ciddi sınaqlar keçirməyi, rəy bildirmək üçün xarici ekspertləri cəlb etməyi və ən yaxşısını müəyyən etmək üçün hökumətlərlə işləməyi vəd edir. AI qaydalarına yanaşma.
Təhlükəsizlik və məxfilik ilə bağlı narahatlıqlarla üzləşdikdən sonra son araşdırmalar bəzi Avropa ölkələrində OpenAI var azad şirkətin təhlükəsizliyə təkmil yanaşmasını əks etdirən blog yazısı.
OpenAI ciddi sınaqlar keçirməyi, hər hansı yeni sistemi buraxmazdan əvvəl rəy üçün kənar ekspertləri cəlb etməyi və AI qaydalarına ən yaxşı yanaşmanı müəyyən etmək üçün hökumətlərlə işləməyi vəd edir.
Əvvəllər şirkət ən son modelinin təhlükəsizliyi və uyğunlaşdırılması üzərində altı aydan çox işləmişdir. GPT-4, ictimaiyyətə açıqlanmadan əvvəl. Ən yeni dil modelinin təhlükəsizliyini təmin etmək üçün, GPT-4, OpenAI kirayəyə götürdüm 50-dən çox mütəxəssisdən ibarət komanda: AI təhlükəsizliyi, etika və siyasət üzrə mütəxəssislər, o cümlədən tədqiqatçılar və mühəndislər.
“Əsas odur ki, cəmiyyətin getdikcə daha bacarıqlı AI-ya uyğunlaşmaq üçün vaxtı olmalıdır və bu texnologiyadan təsirlənən hər kəs AI-nin daha da necə inkişaf edəcəyinə dair əhəmiyyətli söz sahibi olmalıdır”.
OpenAI Yazdı.
OpenAIUşaqların Təhlükəsizliyi və Məxfiliyinə Fokus
İtaliya qadağandır ChatGPT, istinadən OpenAI'nin 13 yaş və üstü şəxslər üçün nəzərdə tutulmasına baxmayaraq, istifadəçilərinin yaşını doğrulamaması səbəblərdən biri olaraq göstərilir. Şirkətin təhlükəsizlik səylərinin kritik diqqəti yaşın yoxlanılması variantlarını həyata keçirməklə uşaqların qorunmasına yönəldilib OpenAI Xüsusilə süni intellekt alətləri valideynlərin icazəsi ilə 18 və ya daha böyük və ya 13 və daha yuxarı yaşda olan şəxslər üçün nəzərdə tutulduğuna görə indi araşdırılır.
Şirkət nifrət, təqib, zorakılıq və ya böyüklər üçün məzmunun yaradılmasını qəti şəkildə qadağan edir və GPT-4 ilə müqayisədə artıq icazə verilməyən məzmun üçün sorğulara cavab vermək ehtimalı 82% aşağıdır GPT-3. 5.
OpenAI sui-istifadəyə nəzarət etmək üçün möhkəm bir sistem qurmuş və ümid edir GPT-4 zamanla daha çox insan üçün əlçatandır. Şirkət qeyri-kommersiya Khan Academy kimi xüsusi təhlükəsizlik azaldılması üzrə tərtibatçılarla işləyir və model çıxışları üçün daha sərt standartlara imkan verən funksiyalar üzərində işləyir.
Məxfiliyin təkmilləşdirilməsi başqa bir təhlükəsizlik aspektidir OpenAI Xüsusilə son dövrlərdən sonra üzərində dayanır məlumat pozuntuları. Süni intellekt şirkətinin böyük dil modelləri ictimaiyyətə açıq məzmunu, lisenziyalı məzmunu və insan rəyçiləri tərəfindən yaradılan məzmunu ehtiva edən böyük həcmdə mətn üzərində hazırlanır; AI modellərini insanlar üçün daha faydalı etmək üçün məlumatlardan istifadə edir.
OpenAI təlim məlumatlarından şəxsi məlumatları silməklə, fərdi məlumat sorğularını rədd etmək üçün modelləri tənzimləməklə və sorğu əsasında şəxsi məlumatları sistemlərindən silməklə şəxslərin məxfiliyini qorumaq üçün addımlar atır. Bu, AI modellərinin şəxsi məlumatları ehtiva edən cavablar yaratma şansını azaldır.
OpenAI-nin yanaşması süni intellektlə bağlı təhlükəsizliklə bağlı problemlərin həlli təsirli təsirləri aradan qaldırmaqdır və hizalama üsullarından istifadə edin və onları real dünyada sui-istifadəyə qarşı sınayın. O, həmçinin daha bacarıqlı modellərin yaradılmasında və tətbiqində getdikcə ehtiyatlı olmağı və təhlükəsizlik tədbirlərini gücləndirməyi vəd edir. Texniki və institusional innovasiyalar tələb edən təhlükəsizliyi təmin etmək üçün süni intellektin inkişafı və tətbiqinin effektiv idarə edilməsi vacibdir.
Daha ətraflı:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
Ətraflı məqalələr
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
