Sve velike tehnološke tvrtke koje razvijaju LLM trebaju dati prednost sigurnosti modela
Ukratko
Istraživači su stvorili sustav koji kombinira veliki jezični modeli za autonomni dizajn, planiranje i izvođenje znanstvenih eksperimenata, pokazujući svoje istraživačke sposobnosti u tri različita slučaja.
Model je napisao kod za kemijske jednadžbe kako bi razumio koliko je tvari potrebno za reakciju.
Korištenje električnih romobila ističe članak “Emergent autonomous science research capabilities of large language models” razmatra ideju stvaranja sustava koji kombinira nekoliko velikih jezičnih modela za autonomni dizajn, planiranje i izvođenje znanstvenih eksperimenata. Prikazuje istraživačke sposobnosti agensa u tri različita slučaja, od kojih je najteži uspješno provođenje kataliziranih reakcija.
Glavna teza ovog članka je:
- Istraživači su pronašli knjižnicu koja vam omogućuje pisanje koda u Pythonu, a zatim prijenos naredbi za izvršenje u poseban aparat za provođenje eksperimenata (s miješanjem tvari);
- Istraživači su koristili GPT-4 za pretraživanje na Internetu i knjižničnoj dokumentaciji, kao i mogućnost pokretanja Python koda (za izvođenje eksperimenata);
- Postoji planer najviše razine (također GPT-4), koji analizira izvorni zahtjev i izrađuje „plan istraživanja“.
- GPT-4 dobro radi obavljajući jednostavne nekemijske zadatke poput stvaranja određenih oblika na kemijskoj ploči (ispravno punjenje ćelija tvarima).
- Iskušali su složeniji i primijenjeniji zadatak provođenja reakcije; model se dobro snašao i postupio logično.
- Potom su modelu dali nekoliko zadataka za provođenje pokusa; međutim, za ono što je model dao, nisu provedeni pravi eksperimenti.
- Štoviše, model je nekoliko puta napisao kod za kemijske jednadžbe kako bi procijenio koliko je tvari potrebno za reakciju.
- Također se tražilo da se stvori lijek za rak. Model je analizi pristupio logički i metodički. Prvo je "potražio" online trenutne trendove u otkrivanju lijekova protiv raka. Zatim je model odabrao molekulu koja će se koristiti za modeliranje lijeka i napisao kod za njegovu sintezu. Ljudi nisu pokrenuli kod (a ja nisam vidio analizu njegove primjerenosti).
- Osim toga, zatraženo je da sintetizira nekoliko opasnih tvari poput lijekova i otrova.
Ovdje je najzanimljiviji dio. Za neke zahtjeve model je odmah odbio raditi (primjerice, heroin ili iperit, izuzetno opasni otrovni plin). Drugi su počeli guglati kako napraviti tvari, ali su shvatili da bi se mogle koristiti u nedopuštene svrhe i odbili su nastaviti s radom. Za druge je napisao plan istraživanja i šifru za sintezu tvari.
Ovo "odbijanje" je vjerojatno jer GPT-4 dizajniran je za analizu zahtjeva, a ako se od njega traži da učini nešto nezakonito ili opasno, odmah odbija izvršiti zahtjev. Stvarno je super što je rezultat postupka poravnanja vidljiv.
I na kraju članka, autori pozivaju sve velike tvrtke koje razvijaju LLM dati prioritet sigurnosti modela.
- Istraživači sa Sveučilišta u Kaliforniji stvorili su Machiavelli mjerilo za mjerenje kompetencije i štetnosti AI modela u širokom okruženju dugotrajnih jezičnih interakcija. Ovaj test koristi rješenja visoke razine kako bi agentima dao realne ciljeve i apstrahirao interakcije niske razine.
- Intelektualna revolucija obilježena ChatGPT je trijada sinergistički uzvišenih revolucija: tehnološke, tehno-humanitarne i društveno-političke. Da biste sveobuhvatno sagledali što se događa, preporuča se poslušati tri nova gledišta od intelektualaca iz područja filozofije, povijesti i inovacija.
- Priča o peticiji za prestanak razvoja AI sustava naprednijih od GPT-4 polarizirao je društvo. Članak daje primjere kada procesi idu u neočekivanom smjeru. Rizici zlonamjerne upotrebe umjetne inteligencije i zlouporabe nisu uzeti u obzir, što dovodi do argumenta da se trebamo bojati ljudi, a ne same umjetne inteligencije.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
