Toate companiile mari de tehnologie care dezvoltă LLM-uri ar trebui să prioritizeze securitatea modelului
Pe scurt
Cercetătorii au creat un sistem care combină modele lingvistice mari pentru proiectarea, planificarea și execuția autonomă a experimentelor științifice, demonstrându-și capacitățile de cercetare în trei cazuri diferite.
Modelul a scris cod pentru ecuațiile chimice pentru a înțelege cât de multă substanță este necesară pentru reacție.
articol „Capacitățile emergente de cercetare științifică autonomă ale modelelor de limbaj mari” analizează ideea de a crea un sistem care combină mai multe modele de limbaj mari pentru proiectarea, planificarea și execuția autonomă a experimentelor științifice. Demonstrează capacitățile de cercetare ale agentului în trei cazuri diferite, dintre care cel mai dificil este implementarea cu succes a reacțiilor catalizate.
Teza principală a acestui articol este:
- Cercetătorii au găsit o bibliotecă care vă permite să scrieți cod în Python și apoi să transferați comenzi pentru execuție într-un aparat special pentru efectuarea experimentelor (cu amestecarea substanțelor);
- Cercetătorii au folosit GPT-4 pentru căutarea pe Internet și documentația bibliotecii, precum și capacitatea de a rula cod Python (pentru a executa experimente);
- Există un planificator de nivel superior (de asemenea GPT-4), care analizează cererea inițială și întocmește un „plan de cercetare”.
- GPT-4 face o treabă bună efectuând sarcini simple non-chimice, cum ar fi crearea anumitor forme pe o placă chimică (umplerea corectă a celulelor cu substanțe).
- Au încercat o sarcină mai complexă și mai aplicată de a conduce o reacție; modelul a făcut față bine și a acționat logic.
- Apoi au dat modelului mai multe sarcini pentru realizarea experimentelor; cu toate acestea, pentru ceea ce a dat modelul, nu au fost efectuate experimente reale.
- Mai mult, modelul a scris codul pentru ecuațiile chimice de mai multe ori pentru a evalua cât de multă substanță este necesară pentru reacție.
- De asemenea, i s-a cerut să creeze un leac pentru cancer. Modelul a abordat analiza logic și metodic. În primul rând, a „căutat” online tendințele actuale în descoperirea medicamentelor anticancer. Apoi, modelul a ales o moleculă care va fi folosită pentru modelarea medicamentului și a scris codul pentru sinteza acestuia. Oamenii nu au rulat codul (și nu am văzut o analiză a caracterului adecvat al acestuia).
- În plus, i s-a cerut să sintetizeze mai multe substanțe periculoase precum droguri și otrăvuri.
Aici este partea cea mai interesantă. Pentru unele solicitări, modelul a refuzat imediat să lucreze (de exemplu, heroină sau gaz muștar, un gaz otrăvitor extrem de periculos). Pentru alții, a început să caute pe Google cum să producă substanțele, dar și-a dat seama că pot fi folosite în scopuri ilicite și a refuzat să continue munca. Pentru alții, a scris un plan de cercetare și un cod pentru sinteza substanței.
Acest „refuz” este probabil pentru că GPT-4 este conceput pentru a analiza cererea, iar dacă i se cere să facă ceva ilegal sau periculos, refuză imediat să execute cererea. Este foarte bine că rezultatul procedurii de aliniere este vizibil.
Și la sfârșitul articolului, autorii îndeamnă pe toți mari companii care dezvoltă LLM-uri să prioritizeze siguranța modelelor.
- Cercetătorii de la Universitatea din California au creat Reperul Machiavelli pentru a măsura competența și nocivitatea modelelor AI într-un mediu larg de interacțiuni lingvistice pe termen lung. Acest test folosește soluții de nivel înalt pentru a oferi agenților obiective realiste și pentru a elimina interacțiunile de nivel scăzut.
- Revoluţia intelectuală marcată de ChatGPT este o triadă de revoluții sinergic sublime: tehnologice, tehno-umanitare și socio-politice. Pentru a arunca o privire cuprinzătoare asupra a ceea ce se întâmplă, este recomandat să ascultați trei puncte de vedere noi de la intelectuali din domeniile filosofiei, istoriei și inovației.
- Povestea petiției de a opri dezvoltarea sistemelor AI mai avansate decât GPT-4 a polarizat societatea. Un articol oferă exemple de când procesele merg într-o direcție neașteptată. Nu sunt luate în considerare riscurile de utilizare rău intenționată a AI și utilizarea abuzivă, ceea ce duce la argumentul că trebuie să ne fie frică de oameni și nu de AI în sine.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
