LLM-ləri inkişaf etdirən bütün Böyük Texnologiya Şirkətləri Model Təhlükəsizliyinə üstünlük verməlidir
Qısaca
Tədqiqatçılar birləşdirən bir sistem yaratdılar böyük dil modelləri elmi eksperimentlərin avtonom dizaynı, planlaşdırılması və icrası üçün, üç fərqli halda öz tədqiqat imkanlarını nümayiş etdirir.
Model reaksiya üçün nə qədər maddə lazım olduğunu başa düşmək üçün kimyəvi tənliklər üçün kod yazdı.
The məqalə “Böyük dil modellərinin fövqəladə avtonom elmi tədqiqat imkanları” elmi eksperimentlərin avtonom dizaynı, planlaşdırılması və icrası üçün bir neçə böyük dil modelini birləşdirən sistemin yaradılması ideyasını nəzərdən keçirir. O, agentin tədqiqat imkanlarını üç müxtəlif halda nümayiş etdirir, onlardan ən çətini katalizləşdirilmiş reaksiyaların uğurla həyata keçirilməsidir.
Bu məqalənin əsas tezisi:
- Tədqiqatçılar Python-da kod yazmağa və sonra əmrləri təcrübələrin aparılması üçün xüsusi aparata (qarışdıran maddələrlə) ötürməyə imkan verən kitabxana tapdılar;
- Tədqiqatçılar istifadə etdilər GPT-4 İnternetdə və kitabxana sənədlərində axtarış üçün, həmçinin Python kodunu işə salmaq (təcrübələri yerinə yetirmək üçün);
- Ən yüksək səviyyəli planlaşdırıcı var (həmçinin GPT-4), orijinal sorğunu təhlil edən və “tədqiqat planı” tərtib edən.
- GPT-4 kimyəvi lövhədə müəyyən formalar yaratmaq (hüceyrələri maddələrlə düzgün doldurmaq) kimi sadə qeyri-kimyəvi işləri yerinə yetirməklə yaxşı iş görür.
- Onlar reaksiya aparmaq kimi daha mürəkkəb və tətbiqi tapşırığı sınadılar; model yaxşı öhdəsindən gəldi və məntiqli hərəkət etdi.
- Sonra modelə təcrübələr aparmaq üçün bir neçə tapşırıq verdilər; lakin modelin verdiyi şeylər üçün heç bir real təcrübə aparılmadı.
- Üstəlik, model reaksiya üçün nə qədər maddə lazım olduğunu qiymətləndirmək üçün kimyəvi tənliklərin kodunu bir neçə dəfə yazdı.
- Xərçəng üçün bir müalicə yaratmaq da istəndi. Model təhlilə məntiqi və metodik yanaşdı. Birincisi, o, xərçəng əleyhinə dərmanların aşkar edilməsində mövcud tendensiyalar üçün onlayn "baxdı". Daha sonra model dərmanı modelləşdirmək üçün istifadə olunacaq molekulu seçdi və onun sintezi üçün kodu yazdı. İnsanlar kodu işlətmədilər (və mən onun adekvatlığının təhlilini görmədim).
- Bundan əlavə, dərmanlar və zəhərlər kimi bir neçə təhlükəli maddələrin sintezi tələb olundu.
Ən maraqlı hissə budur. Bəzi istəklər üçün model dərhal işləməkdən imtina etdi (məsələn, heroin və ya xardal qazı, son dərəcə təhlükəli zəhərli qaz). Digərləri üçün isə bu maddələrin necə hazırlanacağı Google-a başladı, lakin onların qeyri-qanuni məqsədlər üçün istifadə oluna biləcəyini anladı və işi davam etdirməkdən imtina etdi. Digərləri üçün, maddə sintezi üçün bir araşdırma planı və kodu yazdı.
Bu “imtina” çox güman ki, ona görədir GPT-4 sorğunun təhlili üçün nəzərdə tutulmuşdur və ondan qanunsuz və ya təhlükəli bir şey etməsi tələb olunarsa, dərhal sorğunu yerinə yetirməkdən imtina edir. Düzləşdirmə prosedurunun nəticəsinin nəzərə çarpan olması həqiqətən gözəldir.
Və məqalənin sonunda müəlliflər hamını böyük çağırış edir LLM-ləri inkişaf etdirən şirkətlər modellərin təhlükəsizliyinə üstünlük vermək.
- Kaliforniya Universitetinin tədqiqatçıları bunu yaratdılar Makiavelli meyarları uzunmüddətli dil qarşılıqlı əlaqəsinin geniş mühitində AI modellərinin səriştəsini və zərərliliyini ölçmək. Bu test agentlərə real məqsədlər vermək və aşağı səviyyəli qarşılıqlı əlaqələri aradan qaldırmaq üçün yüksək səviyyəli həllərdən istifadə edir.
- ilə qeyd olunan intellektual inqilab ChatGPT texnoloji, texno-humanitar və ictimai-siyasi inqilablar triadasıdır. Baş verənlərə hərtərəfli baxmaq üçün qulaq asmaq tövsiyə olunur üç yeni baxış nöqtəsi fəlsəfə, tarix və innovasiya sahələrindən olan ziyalılardan.
- Süni intellekt sistemlərinin inkişafını dayandırmaq üçün ərizənin hekayəsi daha inkişaf etmişdi GPT-4 cəmiyyəti qütbləşdirdi. Bir məqalə proseslərin gözlənilməz istiqamətdə getdiyinə dair nümunələr təqdim edir. Süni intellektdən zərərli istifadə və sui-istifadə riskləri nəzərə alınmır, bu da süni intellektin özündən deyil, insanlardan qorxmağımız lazım olduğu arqumentinə gətirib çıxarır.
AI haqqında daha çox oxuyun:
Məsuliyyətdən imtina
uyğun olaraq Güvən Layihəsi qaydaları, lütfən nəzərə alın ki, bu səhifədə təqdim olunan məlumat hüquqi, vergi, investisiya, maliyyə və ya hər hansı digər məsləhət forması kimi təfsir edilməməlidir və təfsir edilməməlidir. Yalnız itirə biləcəyiniz şeyə investisiya qoymaq və hər hansı bir şübhəniz varsa, müstəqil maliyyə məsləhətləri axtarmaq vacibdir. Əlavə məlumat üçün biz emitent və ya reklamçı tərəfindən təmin edilən şərtlər və şərtlərə, həmçinin yardım və dəstək səhifələrinə müraciət etməyi təklif edirik. MetaversePost dəqiq, qərəzsiz hesabat verməyə sadiqdir, lakin bazar şərtləri xəbərdarlıq edilmədən dəyişdirilə bilər.
Müəllif haqqında
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
Ətraflı məqalələr
Damir komanda rəhbəri, məhsul meneceri və redaktordur Metaverse Post, AI/ML, AGI, LLMs, Metaverse və kimi mövzuları əhatə edir Web3- əlaqəli sahələr. Onun məqalələri hər ay bir milyondan çox istifadəçinin kütləsini cəlb edir. O, SEO və rəqəmsal marketinq sahəsində 10 illik təcrübəyə malik mütəxəssis kimi görünür. Damirin adı Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto və digər nəşrlər. O, rəqəmsal köçəri kimi BƏƏ, Türkiyə, Rusiya və MDB arasında səyahət edir. Damir fizika üzrə bakalavr dərəcəsi qazandı və onun fikrincə, bu, ona internetin daim dəyişən mənzərəsində uğur qazanmaq üçün lazım olan tənqidi düşünmə bacarıqlarını verdi.
