LLMni rivojlantirayotgan barcha yirik texnologiya kompaniyalari model xavfsizligiga ustuvor ahamiyat berishlari kerak
Qisqacha
Tadqiqotchilar birlashtiradigan tizimni yaratdilar katta til modellari ilmiy tajribalarni avtonom loyihalash, rejalashtirish va amalga oshirish, uch xil holatda tadqiqot imkoniyatlarini namoyish qilish uchun.
Model reaksiya uchun qancha modda kerakligini tushunish uchun kimyoviy tenglamalar uchun kod yozdi.
The Maqola "Katta til modellarining favqulodda avtonom ilmiy tadqiqot imkoniyatlari" ilmiy tajribalarni avtonom loyihalash, rejalashtirish va amalga oshirish uchun bir nechta yirik til modellarini birlashtirgan tizimni yaratish g'oyasini ko'rib chiqadi. U uch xil holatda agentning tadqiqot imkoniyatlarini namoyish etadi, ularning eng qiyini katalizlangan reaktsiyalarni muvaffaqiyatli amalga oshirishdir.
Ushbu maqolaning asosiy tezisi:
- Tadqiqotchilar Python-da kod yozish va keyin buyruqlarni eksperimentlar o'tkazish uchun maxsus apparatga (moddalarni aralashtirish bilan) o'tkazish imkonini beruvchi kutubxonani topdilar;
- Tadqiqotchilar foydalandilar GPT-4 Internet va kutubxona hujjatlarini qidirish, shuningdek Python kodini ishga tushirish (tajribalarni bajarish uchun);
- Yuqori darajadagi rejalashtiruvchi mavjud (shuningdek GPT-4), asl so'rovni tahlil qiladi va "tadqiqot rejasini" tuzadi.
- GPT-4 kimyoviy doskada ma'lum shakllar yaratish (hujayralarni moddalar bilan to'g'ri to'ldirish) kabi oddiy kimyoviy bo'lmagan vazifalarni bajarishda yaxshi ish qiladi.
- Ular reaktsiyani o'tkazish uchun yanada murakkab va amaliy vazifani sinab ko'rdilar; model yaxshi uddaladi va mantiqiy harakat qildi.
- Keyin ular modelga tajriba o'tkazish uchun bir nechta topshiriqlar berishdi; ammo, model bergan narsa uchun hech qanday haqiqiy tajribalar o'tkazilmagan.
- Bundan tashqari, model reaksiya uchun qancha modda kerakligini baholash uchun kimyoviy tenglamalar kodini bir necha marta yozgan.
- Bundan tashqari, saraton kasalligini davolashni yaratish so'ralgan. Model tahlilga mantiqiy va uslubiy yondashgan. Birinchidan, u saratonga qarshi dori-darmonlarni kashf qilishning hozirgi tendentsiyalarini Internetda "qidirdi". Keyinchalik, model preparatni modellashtirish uchun ishlatiladigan molekulani tanladi va uning sintezi uchun kodni yozdi. Odamlar kodni ishga tushirishmadi (va men uning etarliligi tahlilini ko'rmadim).
- Bundan tashqari, giyohvand moddalar va zaharlar kabi bir nechta xavfli moddalarni sintez qilish so'ralgan.
Mana eng qiziqarli qismi. Ba'zi so'rovlar uchun model darhol ishlashdan bosh tortdi (masalan, geroin yoki xantal gazi, o'ta xavfli zaharli gaz). Boshqalar uchun, u moddalarni qanday qilish kerakligini Google'ga boshladi, lekin ular noqonuniy maqsadlarda ishlatilishi mumkinligini tushundi va ishni davom ettirishdan bosh tortdi. Boshqalar uchun u modda sintezi uchun tadqiqot rejasi va kodini yozgan.
Bu "rad etish" ehtimol, chunki GPT-4 so'rovni tahlil qilish uchun mo'ljallangan va agar undan noqonuniy yoki xavfli biror narsa qilish so'ralsa, u darhol so'rovni bajarishdan bosh tortadi. Hizalama jarayonining natijasi sezilarli bo'lishi haqiqatan ham ajoyib.
Va maqolaning oxirida, mualliflar barcha katta chaqiradi LLMlarni ishlab chiquvchi kompaniyalar modellarning xavfsizligini birinchi o'ringa qo'yish.
- Kaliforniya universiteti tadqiqotchilari buni yaratdilar Makiavelli ko'rsatkichi uzoq muddatli til o'zaro ta'sirining keng muhitida AI modellarining malakasi va zararliligini o'lchash. Ushbu test agentlarga real maqsadlar qo'yish va past darajadagi o'zaro ta'sirlardan voz kechish uchun yuqori darajadagi echimlardan foydalanadi.
- tomonidan belgilangan intellektual inqilob ChatGPT texnologik, texno-gumanitar va ijtimoiy-siyosiy sinergik jihatdan yuksak inqiloblar uchligidir. Nima bo'layotganini har tomonlama ko'rib chiqish uchun tinglash tavsiya etiladi uchta yangi nuqtai nazar falsafa, tarix va innovatsiya sohalaridagi ziyolilardan.
- AI tizimlarini ishlab chiqishni to'xtatish haqidagi petitsiya hikoyasi yanada rivojlangan GPT-4 jamiyatni qutblashtirdi. Maqola jarayonlarning kutilmagan yo‘nalishda ketishiga misollar keltiradi. Sun'iy intellektdan zararli foydalanish va noto'g'ri foydalanish xavfi hisobga olinmaydi, bu biz AIning o'zidan emas, balki odamlardan qo'rqishimiz kerak degan argumentga olib keladi.
AI haqida ko'proq o'qing:
Masʼuliyatdan voz kechish
Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.
Muallif haqida
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
Boshqa maqolalar
Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.
