Kõik suured tehnoloogiaettevõtted, kes arendavad LLM-e, peaksid eelistama mudelite turvalisust
Põgusalt
Teadlased lõid süsteemi, mis ühendab suured keelemudelid teaduslike katsete autonoomseks kavandamiseks, planeerimiseks ja läbiviimiseks, demonstreerides oma uurimisvõimalusi kolmel erineval juhul.
Mudel kirjutas keemiliste võrrandite koodi, et mõista, kui palju ainet reaktsiooniks vaja on.
. artikkel "Suurte keelemudelite esilekerkivad autonoomsed teadusuuringute võimalused" käsitleb ideed luua süsteem, mis ühendaks mitu suurt keelemudelit teaduslike katsete autonoomse kavandamise, planeerimise ja läbiviimise jaoks. See demonstreerib agensi uurimisvõimalusi kolmel erineval juhul, millest kõige keerulisem on katalüüsitud reaktsioonide edukas rakendamine.
Selle artikli põhitees on:
- Teadlased leidsid raamatukogu, mis võimaldab Pythonis koodi kirjutada ja seejärel käsud täitmiseks üle kanda spetsiaalsesse aparaadisse katsete tegemiseks (ainete segamisega);
- Teadlased kasutasid GPT-4 Internetist ja raamatukogu dokumentatsioonist otsimiseks, samuti Pythoni koodi käivitamise võimalus (katsete läbiviimiseks);
- Seal on tipptasemel planeerija (ka GPT-4), mis analüüsib esialgset taotlust ja koostab "uuringute plaani".
- GPT-4 teeb head tööd lihtsate mittekeemiliste ülesannete täitmisel, nagu keemiaplaadil teatud kujundite loomine (rakkude korrektne täitmine ainetega).
- Nad proovisid keerulisemat ja rakenduslikumat reaktsiooni läbiviimise ülesannet; modell tuli hästi toime ja käitus loogiliselt.
- Seejärel andsid nad mudelile mitmeid ülesandeid katsete läbiviimiseks; kuid selle kohta, mida mudel andis, tegelikke katseid ei tehtud.
- Lisaks kirjutas mudel mitu korda keemiliste võrrandite koodi, et hinnata, kui palju ainet reaktsiooniks vaja on.
- Samuti paluti luua vähiravim. Mudel lähenes analüüsile loogiliselt ja metoodiliselt. Esiteks otsis see veebist vähivastaste ravimite avastamise praeguseid suundumusi. Järgmiseks valis mudel molekuli, mida kasutatakse ravimi modelleerimiseks, ja kirjutas selle sünteesi koodi. Inimesed ei käivitanud koodi (ja ma ei näinud selle adekvaatsuse analüüsi).
- Lisaks paluti tal sünteesida mitmeid ohtlikke aineid nagu ravimid ja mürgid.
Siin on kõige huvitavam osa. Mõne taotluse puhul keeldus modell kohe töötamast (näiteks heroiin või sinepigaas, äärmiselt ohtlik mürkgaas). Teiste jaoks hakkas ta guugeldama, kuidas aineid valmistada, kuid mõistis, et neid võib kasutada ebaseaduslikel eesmärkidel, ja keeldus tööd jätkamast. Teiste jaoks kirjutas see aine sünteesi uurimisplaani ja koodi.
See "keeldumine" on tõenäoliselt tingitud GPT-4 on loodud päringu analüüsimiseks ja kui tal palutakse teha midagi ebaseaduslikku või ohtlikku, keeldub see kohe taotlust täitmast. See on tõesti lahe, et joondamisprotseduuri tulemus on märgatav.
Ja artikli lõpus kutsuvad autorid üles kõiki suuri LLM-e arendavad ettevõtted et seada esikohale mudelite ohutus.
- California ülikooli teadlased lõid Machiavelli etalon mõõta tehisintellekti mudelite pädevust ja kahjulikkust laias pikaajalise keelelise suhtluse keskkonnas. See test kasutab kõrgetasemelisi lahendusi, et anda agentidele realistlikud eesmärgid ja abstraktselt eemaldada madala tasemega suhtlust.
- Intellektuaalne revolutsioon, mida tähistas ChatGPT on sünergiliselt ülevate revolutsioonide kolmik: tehnoloogiline, tehno-humanitaarne ja sotsiaalpoliitiline. Toimuva tervikliku ülevaate saamiseks on soovitatav kuulata kolm värsket vaatenurka filosoofia, ajaloo ja innovatsiooni valdkondade intellektuaalidelt.
- Lugu petitsioonist lõpetada AI-süsteemide arendamine, mis on arenenumad kui GPT-4 on ühiskonna polariseerinud. Artikkel toob näiteid, kui protsessid lähevad ootamatus suunas. Tehisintellekti pahatahtliku kasutamise ja väärkasutuse riske ei võeta arvesse, mis toob kaasa argumendi, et peame kartma inimesi, mitte AI ennast.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
