Visos didžiosios technologijų įmonės, kuriančios LLM, turėtų teikti pirmenybę modelių saugai
Trumpai
Tyrėjai sukūrė sistemą, kuri sujungia didelių kalbų modeliai savarankiškam mokslinių eksperimentų projektavimui, planavimui ir vykdymui, demonstruojant savo tyrimų galimybes trimis skirtingais atvejais.
Modelis parašė cheminių lygčių kodą, kad suprastų, kiek medžiagos reikia reakcijai.
Šios straipsnis „Atsirandančios savarankiškos didelių kalbų modelių mokslinio tyrimo galimybės“ nagrinėja idėją sukurti sistemą, kuri apjungtų kelis didelius kalbos modelius savarankiškam mokslinių eksperimentų projektavimui, planavimui ir vykdymui. Tai parodo agento tyrimo galimybes trimis skirtingais atvejais, iš kurių sunkiausias yra sėkmingas katalizuojamų reakcijų įgyvendinimas.
Pagrindinė šio straipsnio tezė yra tokia:
- Tyrėjai rado biblioteką, leidžiančią rašyti kodą Python, o tada perkelti komandas vykdymui į specialų aparatą eksperimentams atlikti (su medžiagų maišymu);
- Tyrėjai naudojo GPT-4 paieškai internete ir bibliotekos dokumentacijoje, taip pat galimybė paleisti Python kodą (eksperimentams vykdyti);
- Yra aukščiausio lygio tvarkaraštis (taip pat GPT-4), kuriame analizuojamas pradinis prašymas ir sudaromas „tyrimų planas“.
- GPT-4 atlieka gerą darbą atlikdamas paprastas ne chemines užduotis, pavyzdžiui, kurdamas tam tikras formas ant cheminės plokštės (teisingai užpildo ląsteles medžiagomis).
- Jie išbandė sudėtingesnę ir taikomesnę reakcijos atlikimo užduotį; modelis susidorojo gerai ir elgėsi logiškai.
- Tada modeliui davė keletą užduočių eksperimentams atlikti; tačiau dėl to, ką pateikė modelis, nebuvo atlikti jokie tikri eksperimentai.
- Be to, modelis kelis kartus parašė cheminių lygčių kodą, kad įvertintų, kiek medžiagos reikia reakcijai.
- Taip pat buvo paprašyta sukurti vaistą nuo vėžio. Modelis prie analizės priartėjo logiškai ir metodiškai. Pirma, ji „ieškojo“ internete dabartinių priešvėžinių vaistų atradimo tendencijų. Tada modelis pasirinko molekulę, kuri bus naudojama modeliuojant vaistą, ir parašė jos sintezės kodą. Žmonės nepaleido kodo (ir aš nemačiau jo tinkamumo analizės).
- Be to, buvo paprašyta susintetinti keletą pavojingų medžiagų, tokių kaip vaistai ir nuodai.
Čia yra įdomiausia dalis. Kai kurių prašymų atveju modelis iš karto atsisakė dirbti (pavyzdžiui, heroinas ar garstyčios, itin pavojingos nuodingos dujos). Kiti pradėjo ieškoti „Google“, kaip pasigaminti medžiagas, tačiau suprato, kad jos gali būti naudojamos neteisėtiems tikslams, ir atsisakė tęsti darbą. Kitiems jis parašė tyrimų planą ir medžiagų sintezės kodą.
Šis „atsisakymas“ yra tikėtinas dėl to GPT-4 yra skirtas prašymui išanalizuoti, o paprašius padaryti ką nors neteisėto ar pavojingo, iš karto atsisako prašymą vykdyti. Labai smagu, kad derinimo procedūros rezultatas pastebimas.
O straipsnio pabaigoje autoriai ragina visus didelius LLM plėtojančios įmonės pirmenybę teikti modelių saugai.
- Kalifornijos universiteto mokslininkai sukūrė Machiavelli etalonas išmatuoti AI modelių kompetenciją ir žalingumą plačioje ilgalaikės kalbos sąveikos aplinkoje. Šiame teste naudojami aukšto lygio sprendimai, siekiant suteikti agentams realistiškus tikslus ir abstrahuoti žemo lygio sąveiką.
- Intelektualinė revoliucija paženklinta ChatGPT yra sinergiškai didingų revoliucijų triada: technologinė, technohumanitarinė ir socialinė-politinė. Norint visapusiškai pažvelgti į tai, kas vyksta, rekomenduojama klausytis trys nauji požiūriai iš intelektualų iš filosofijos, istorijos ir inovacijų sričių.
- Istorija apie peticiją nustoti kurti pažangesnes dirbtinio intelekto sistemas GPT-4 poliarizavo visuomenę. Straipsnis pateikia pavyzdžių, kai procesai pakrypsta netikėta linkme. Neatsižvelgiama į piktavališko AI naudojimo ir netinkamo naudojimo riziką, todėl kyla argumentas, kad turime bijoti žmonių, o ne paties AI.
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
