OpenAI Təkmilləşdirmək üçün 50+ Mütəxəssisdən ibarət Komanda toplayır GPT-4Təhlükəsizlik
Qısaca
OpenAI ən yeni olmasını təmin etmək üçün 50-dən çox mütəxəssisdən ibarət bir komanda işə götürdü dil modeli, GPT-4, istifadə üçün təhlükəsizdir.
Komandaya AI təhlükəsizliyi, etika və siyasət sahəsində ixtisaslaşmış tədqiqatçılar və mühəndislər daxildir.
Məqsəd qarşısını almaqdır GPT-4 zərərli və ya qərəzli məzmun yaratmaqdan və onun insan dəyərlərinə uyğun olmasını təmin etməkdən.
OpenAI etmək üçün müxtəlif domenlərdən 50-dən çox mütəxəssis işə götürdü GPT-4 daha təhlükəsiz. Mütəxəssislər potensial riskləri və zəiflikləri müəyyən etmək üçün modelin rəqib sınaqları ilə işləyirlər. Onlar müxtəlif sahələrdən ekspertlərdir: uzunmüddətli süni intellektlə uyğunlaşma riskləri, kibertəhlükəsizlik, biorisk və beynəlxalq təhlükəsizlik. Onların tapıntıları kömək etdi OpenAI niş təcrübə tələb edən yüksək riskli sahələrdə model davranışını qiymətləndirin.
Ən yeni dil modeli daha kiçik dil modelləri ilə oxşar risklər yaratsa da, əlavə imkanlar GPT-4 yeni təhlükələrə səbəb olur. Beləliklə, mütəxəssislərin cəlbi oldu texnologiyanın təhlükəsizliyinin təmin edilməsində mühüm əhəmiyyət kəsb edir.
OpenAI təhlükəsizliyini artırmaq üçün insan üstünlükləri (RLHF) təlim göstərişləri və qayda-əsaslı mükafat modelləri (RBRMs) əsasında əlavə təhlükəsizliklə bağlı möhkəmləndirmə öyrənmə dəstini həyata keçirmişdir. GPT-4 model. RBRM-lər sıfır atışdır GPT-4 üçün əlavə mükafat siqnalı kimi fəaliyyət göstərən təsnifatçılar GPT-4 RLHF incə tənzimlənməsi zamanı siyasət modeli. Onların məqsədi zərərli məzmun yaratmaqdan imtina etmək və ya zərərsiz sorğuları rədd etməmək kimi uyğun davranışı stimullaşdırmaqdır.
Təhlükəsizliyini təmin etmək üçün GPT-4 modellər, OpenAI 2022-ci ilin avqustunda stress testi, sərhəd testi və rəqib testi də daxil olmaqla “qırmızı komandalaşma” təlimləri keçirmək üçün kənar ekspertlər cəlb etməyə başladı. Onların ilkin versiyalara çıxışı var idi GPT-4 model və gələcək təhlükəsizlik tədqiqatlarını motivasiya edən ilkin riskləri müəyyənləşdirdi.
Mütəxəssislərin rəyi riskləri azaltmaq üçün texniki təsirlərin azaldılması və siyasətin tətbiqi tədbirlərinə gətirib çıxardı. Bununla belə, bir çox təhlükələr qalmaqdadır və əlavə qiymətləndirmə tələb olunur.
İşçilər haqqında danışırıq OpenAI, ChatGPT əvvəlcə idi inkişaf etmiş vasitəsilə dünyanın ən yoxsul bölgələrindən bəzilərində fərdlərin köməyi ilə OpenAI'nin yoxsul bölgələrdən milyonlarla işçisi olan Sama adlı şirkətlə ortaqlığı. Süni intellekt etikası üzrə bəzi ekspertlər tənqid edib OpenAI's təlimini xarici təhvil vermək qərarına gəldi ChatGPT şirkəti aşağı qiymətli işçi qüvvəsini istismar etməkdə ittiham edərək, Sama model.
Daha ətraflı:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
Ətraflı məqalələr
Agne metaverse, AI və ən son tendensiyaları və inkişafları işıqlandıran bir jurnalistdir Web3 üçün sənayelər Metaverse Post. Hekayəyə olan həvəsi onu bu sahələr üzrə mütəxəssislərlə çoxsaylı müsahibələr aparmağa vadar edib, həmişə maraqlı və cəlbedici hekayələri üzə çıxarmağa çalışır. Agne ədəbiyyat üzrə bakalavr dərəcəsinə malikdir və səyahət, incəsənət və mədəniyyət də daxil olmaqla geniş mövzular haqqında yazı yazmaqda geniş təcrübəyə malikdir. O, həmçinin heyvanların rifahı problemləri haqqında məlumatlılığın artırılmasına kömək etdiyi heyvan hüquqları təşkilatında redaktor kimi könüllü olmuşdur. Onunla əlaqə saxlayın [e-poçt qorunur].
