Visiem lielajiem tehnoloģiju uzņēmumiem, kas izstrādā LLM, par prioritāti jānosaka modeļu drošība
Īsumā
Pētnieki izveidoja sistēmu, kas apvieno lieli valodu modeļi zinātnisku eksperimentu autonomai projektēšanai, plānošanai un izpildei, demonstrējot savas pētniecības iespējas trīs dažādos gadījumos.
Modelis uzrakstīja ķīmisko vienādojumu kodu, lai saprastu, cik daudz vielas ir nepieciešams reakcijai.
Jūsu darbs IR Klientu apkalpošana raksts “Lielo valodu modeļu jaunās autonomās zinātniskās izpētes iespējas” aplūko ideju izveidot sistēmu, kas apvieno vairākus lielus valodu modeļus autonomai zinātnisku eksperimentu projektēšanai, plānošanai un izpildei. Tas demonstrē aģenta izpētes iespējas trīs dažādos gadījumos, no kuriem grūtākais ir veiksmīga katalizēto reakciju īstenošana.
Šī raksta galvenā tēze ir:
- Pētnieki atrada bibliotēku, kas ļauj rakstīt kodu Python un pēc tam pārsūtīt komandas izpildei uz īpašu aparātu eksperimentu veikšanai (ar vielu sajaukšanu);
- Pētnieki izmantoja GPT-4 meklēšanai internetā un bibliotēkas dokumentācijā, kā arī iespēja palaist Python kodu (veikt eksperimentus);
- Ir augstākā līmeņa plānotājs (arī GPT-4), kas analizē sākotnējo pieprasījumu un sastāda “pētniecības plānu”.
- GPT-4 veic labu darbu, veicot vienkāršus, neķīmiskus uzdevumus, piemēram, veidojot noteiktas formas uz ķīmiskās plāksnes (pareizi piepildot šūnas ar vielām).
- Viņi izmēģināja sarežģītāku un lietišķāku uzdevumu vadīt reakciju; modele tika galā labi un rīkojās loģiski.
- Pēc tam viņi deva modelim vairākus uzdevumus eksperimentu veikšanai; tomēr tam, ko modelis sniedza, īsti eksperimenti netika veikti.
- Turklāt modelis vairākas reizes uzrakstīja ķīmisko vienādojumu kodu, lai novērtētu, cik daudz vielas ir nepieciešams reakcijai.
- Tika arī lūgts izveidot līdzekli pret vēzi. Modelis analīzei piegāja loģiski un metodiski. Pirmkārt, tas tiešsaistē “meklēja” pašreizējās pretvēža zāļu atklāšanas tendences. Pēc tam modelis izvēlējās molekulu, kas tiks izmantota zāļu modelēšanai, un uzrakstīja tās sintēzes kodu. Cilvēki nepalaida kodu (un es neredzēju tā atbilstības analīzi).
- Turklāt tika lūgts sintezēt vairākas bīstamas vielas, piemēram, narkotikas un indes.
Šeit ir visinteresantākā daļa. Dažiem pieprasījumiem modele nekavējoties atteicās strādāt (piemēram, heroīns vai sinepju gāze, ārkārtīgi bīstama indīga gāze). Citiem tā sāka meklēt Google, kā šīs vielas izgatavot, taču saprata, ka tās var izmantot nelikumīgiem mērķiem, un atteicās turpināt darbu. Citiem tas uzrakstīja pētījumu plānu un vielu sintēzes kodu.
Šis “atteikums”, iespējams, ir tāpēc GPT-4 ir izstrādāts, lai analizētu pieprasījumu, un, ja tam tiek lūgts izdarīt kaut ko nelikumīgu vai bīstamu, tas nekavējoties atsakās izpildīt pieprasījumu. Tiešām forši, ka izlīdzināšanas procedūras rezultāts ir manāms.
Un raksta beigās autori mudina visus lielos uzņēmumi, kas izstrādā LLM lai prioritāti piešķirtu modeļu drošībai.
- Kalifornijas universitātes pētnieki izveidoja Makiavelli etalons izmērīt AI modeļu kompetenci un kaitīgumu plašā ilgstošas valodu mijiedarbības vidē. Šajā testā tiek izmantoti augsta līmeņa risinājumi, lai aģentiem izvirzītu reālus mērķus un novērstu zema līmeņa mijiedarbību.
- Intelektuālā revolūcija, ko iezīmēja ChatGPT ir sinerģiski cildenu revolūciju triāde: tehnoloģiskā, tehno-humanitārā un sociālpolitiskā. Lai visaptveroši aplūkotu notiekošo, ieteicams klausīties trīs jauni viedokļi no filozofijas, vēstures un inovāciju jomas intelektuāļiem.
- Stāsts par petīciju pārtraukt attīstīt AI sistēmas, kas ir progresīvākas nekā GPT-4 ir polarizējusi sabiedrību. Raksts sniegti piemēri, kad procesi iet neparedzētā virzienā. AI ļaunprātīgas izmantošanas un ļaunprātīgas izmantošanas riski netiek ņemti vērā, tādējādi radot argumentu, ka mums ir jābaidās no cilvēkiem, nevis paša AI.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
