Anthropic 60 Prinsipə əsaslanan Söhbət Modelləri üçün "Kontekstual Süni İntellekt" təklif edir
Qısaca
OpenAI uyğunlaşdırmaq üçün insan rəyindən (RLHF) möhkəmləndirmə öyrənməsindən istifadə edir dil modelləri insan prinsipləri, təhlükəsizlik və faydalılıq ilə.
Anthropic alternativ bir yanaşma təklif etdi: kontekstli AI, insanların modelin əməl etməli olduğu konstitusiya yazmasını əhatə edir.
Bu konstitusiya Birləşmiş Millətlər Təşkilatının İnsan Hüquqları Bəyannaməsinə, Apple-ın Xidmət Şərtlərinə, Qeyri-Qərb Perspektivlərinin Nəzərdən keçirilməsini Təşviq Edən Prinsiplərə əsaslanır.
Anthropic 'dən istifadə edərək söhbət modellərini öyrətmək üçün yeni bir yanaşma təklif etdi.Konstitusiya AI'. Bu üsul üzərində qurulur OpenAI'S gücləndirici öyrənmə insan rəyindən, lakin dərin təlim nümunələri yazmaq ehtiyacından qaçaraq ona əsaslanır. Bunun əvəzinə model, modelin izləməsi üçün qanunlar toplusu kimi çıxış etmək üçün nəzərdə tutulmuş konstitusiyadan istifadə etməklə daxil olan məlumatlara cavab vermək üçün öyrədilir.
| Tövsiyə edilir: keçmişOpenAI işçilər 700 milyon dollardan çox maliyyə cəlb edən Anthropic biznesini qurdular |
Bu üsul vasitəsilə süni intellekt qanuni olaraq qəbul edilmiş prinsiplər toplusuna qarşı dediklərini qiymətləndirərək öz təlim nümunələrini yarada bilər. Bu zaman qənaət texnikası olaraq görülə bilər İshaq Asimov's Robototexnika qanunları tətbiq etmək.
Modelin əsasını təşkil edən prinsiplər ətraflı müzakirə etmək üçün çox saydadır. Bununla belə, onlar əxlaq, riskdən çəkinmə, iqtisadiyyat və süni intellekt kimi bir çox mövzuları əhatə edir. Onların hər biri süni intellektə cavab verməklə bağlı qərarlarına rəhbərlik etməyə kömək etmək üçün hazırlanmışdır danışıq göstərişləri.
Anthropic, uğurla rəqabət aparan Klod adlı süni intellekt modelini effektiv şəkildə öyrətməyi bacardı OpenAI'S ChatGPT. İstifadə edərək Konstitusiya-AI metodu, Claude təsir edici dəqiqlik səviyyəsində danışıq göstərişlərinə cavab verə bilərdi, lakin Anthropic bu oyunu dəyişən texnologiya üzərində qurmağa davam etdiyi üçün əlavə təkmilləşdirmələr gözlənilir.
Həqiqətən də, bu yeni yanaşma artıq öz təlim nümunələrini yaratmağa ehtiyac duymayacaq şirkətlər üçün vaxt və pula qənaət etmək potensialına malikdir. Əksinə, bu 'hazır' metod xüsusi uyğun modellər yaratmaq üçün əsas kimi istifadə edilə bilər - heç bir proqramlaşdırma biliyi tələb olunmur. Bu texnologiyanın danışıq botlarına gəldikdə təhlükəsizliyi necə artıracağını da qeyd etmək lazımdır. Qanuni olaraq qəbul edilmiş prinsiplər toplusunun yaradılması riski azaldır süni intellekt fırıldaqçı gedir.
Buna görə də, Constituation AI nəinki söhbət modelinin inkişafını asanlaşdıracaq və daha sürətli edəcək, həm də onu daha təhlükəsiz edəcək. Süni intellekt və ChatBots dünyası üçün qazan-qazan vəziyyəti.
Anthropic-in Chatbotlar üçün "Kontekstual AI"-a analitik baxış
Anthropic's Contextual AI Birləşmiş Millətlər Təşkilatının İnsan Hüquqları Bəyannaməsindən, Apple-ın Xidmət Şərtlərindən, Qeyri-Qərb Perspektivlərinin Nəzərdən keçirilməsini Təşviq Edən Prinsiplərdən irəli gələn 60-dan çox prinsipi özündə birləşdirməyə əsaslanır. Deepmind's Sərçə Qaydaları və Antropik Araşdırma Set 1 və Set 2.
İndi süni intellektə bu cür geniş və müxtəlif mənbələrdən əldə edilən prinsiplərə uyğun davranmağın öyrədilə biləcəyi faktı həqiqətən diqqətəlayiqdir. Məsələn, Birləşmiş Millətlər Təşkilatının İnsan Hüquqları Bəyannaməsindəki prinsipləri özündə birləşdirərək, chatbot cavabları indi azadlıq, bərabərlik və qardaşlıq anlayışının qorunmasının vacibliyini əks etdirir. Bu cür prinsiplər bunu təmin etmək üçün mühüm komponentdir chatbot söhbətləri etik və hörmətli qalın. Eynilə, Apple-ın Xidmət Şərtlərinin birləşdirilməsi təmin edir chatbot istifadəçilərinin məxfilik maraqlarını nəzərə alır.
Qeyri-Qərb Perspektivlərinin Nəzərdən keçirilməsini Təşviq Edən Prinsiplər də “Kontekstual AI” modelində mühüm rol oynayır. Bu prinsiplər süni intellektin digər mədəniyyətlərə hörmətlə yanaşması ehtiyacını əks etdirir və chatbot cavablarının zərərli və ya təhqiredici kimi qəbul edilməməsini təmin edir. Eynilə, Deepmind-in Sərçə Qaydaları chatbotun istifadəçi ilə münasibət qurmaq məqsədi daşıyan cavablarla cavab verməsini diktə edir.
Anthropic Research Set 1 və Set 2-nin birləşdirilməsi AI söhbətlərinin sivil və hörmətli qalmasına son zəmanət verir. AI suallara düşüncəli və nəzakətli şəkildə cavab verməsini təmin etmək üçün öyrədilir.
Ümumilikdə, Anthropic-in “Kontekstual AI” modeli texnologiya sahəsində inanılmaz dərəcədə mühüm irəliləyişdir. AI tədqiqatı. Süni intellektin bu cür müxtəlif mənbələrdən əldə edilən prinsiplərə əsasən öyrədilməsinə icazə verməklə, avtomatlaşdırılmış söhbətlərin etik nəticələri xeyli yaxşılaşır.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
