Kaikkien suurten teknologiayritysten, jotka kehittävät LLM:itä, tulisi asettaa mallisuojaus etusijalle

Jaa tämä artikkeli

• 
• 
• 
• 
• 

by Damir Yalalov

Julkaistu: 17. huhtikuuta 2023 klo 7 Päivitetty: 00. huhtikuuta 17 klo 2023

Käytämme joskus automaattisen käännöslaajennusta parantaaksemme paikallisen kielen käyttökokemustasi. Huomaa, että automaattinen käännös ei välttämättä ole tarkka, joten lue alkuperäinen artikkeli tarkkoja tietoja varten.

- artikkeli ”Suurten kielimallien syntyvä autonominen tieteellinen tutkimuskapasiteetti” tutkii ajatusta luoda järjestelmä, joka yhdistää useita suuria kielimalleja tieteellisten kokeiden autonomiseen suunnitteluun, suunnitteluun ja toteuttamiseen. Se osoittaa aineen tutkimuskyvyt kolmessa eri tapauksessa, joista vaikein on katalysoitujen reaktioiden onnistunut toteuttaminen.

Tämän artikkelin päätees on:

1. Tutkijat löysivät kirjaston, jonka avulla voit kirjoittaa koodia Pythonissa ja siirtää sitten komennot suoritettaviksi erityiseen laitteeseen kokeiden suorittamista varten (aineiden sekoitus);
2. Tutkijat käyttivät GPT-4 hakua varten Internetistä ja kirjaston dokumentaatiosta sekä kyky suorittaa Python-koodia (suorittaa kokeita);
3. Siellä on huipputason ajastin (myös GPT-4), joka analysoi alkuperäisen pyynnön ja laatii "tutkimussuunnitelman".
4. GPT-4 tekee hyvää työtä suorittaessaan yksinkertaisia ​​ei-kemiallisia tehtäviä, kuten luomalla tiettyjä muotoja kemialliselle levylle (täyttää solut oikein aineilla).
5. He kokeilivat monimutkaisempaa ja soveltavampaa tehtävää suorittaa reaktio; malli selviytyi hyvin ja toimi loogisesti.
6. Sitten he antoivat mallille useita tehtäviä kokeiden suorittamista varten; Kuitenkin, mitä malli antoi, todellisia kokeita ei suoritettu.
7. Lisäksi malli kirjoitti kemiallisten yhtälöiden koodin useita kertoja arvioidakseen kuinka paljon ainetta tarvitaan reaktioon.
8. Sitä pyydettiin myös luomaan parannuskeino syöpään. Malli lähestyi analyysiä loogisesti ja metodisesti. Ensinnäkin se "etsi" verkosta tämänhetkisiä suuntauksia syöpälääkkeiden löytämisessä. Seuraavaksi malli valitsi molekyylin, jota käytetään lääkkeen mallintamiseen, ja kirjoitti koodin sen synteesiä varten. Ihmiset eivät ajaneet koodia (enkä nähnyt analyysiä sen riittävyydestä).
9. Lisäksi sitä pyydettiin syntetisoimaan useita vaarallisia aineita, kuten huumeita ja myrkkyjä.

Tässä on mielenkiintoisin osa. Joissakin pyynnöissä malli kieltäytyi välittömästi toimimasta (esimerkiksi heroiini tai sinappikaasu, erittäin vaarallinen myrkkykaasu). Toisille se alkoi googlettaa aineiden valmistusta, mutta huomasi, että niitä voitiin käyttää laittomiin tarkoituksiin, ja kieltäytyi jatkamasta työtä. Toisille se kirjoitti tutkimussuunnitelman ja koodin ainesynteesiä varten.

Tämä "kieltäytyminen" johtuu todennäköisesti siitä GPT-4 on suunniteltu analysoimaan pyyntö, ja jos sitä pyydetään tekemään jotain laitonta tai vaarallista, se kieltäytyy välittömästi toteuttamasta pyyntöä. On todella hienoa, että kohdistustoimenpiteen tulos on havaittavissa.

Ja artikkelin lopussa kirjoittajat kehottavat kaikkia suuria LLM:itä kehittävät yritykset asettaa mallien turvallisuus etusijalle.

• Kalifornian yliopiston tutkijat loivat Machiavellin benchmark mittaa tekoälymallien osaamista ja haitallisuutta laajassa pitkäaikaisen kielen vuorovaikutuksen ympäristössä. Tämä testi käyttää korkean tason ratkaisuja antaakseen agenteille realistisia tavoitteita ja abstraktiakseen pois matalan tason vuorovaikutuksia.
• Henkinen vallankumous, jonka leima ChatGPT on synergistisesti ylevien vallankumousten kolmikko: teknologinen, tekno-humanitaarinen ja sosiopoliittinen. Jotta voisit katsoa tapahtumia kattavasti, on suositeltavaa kuunnella kolme uutta näkökulmaa intellektuelleilta filosofian, historian ja innovaatioiden aloilta.
• Tarina vetoomuksesta lopettaa kehittyneempien tekoälyjärjestelmien kehittäminen GPT-4 on polarisoinut yhteiskuntaa. Artikkeli tarjoaa esimerkkejä siitä, milloin prosessit menevät odottamattomaan suuntaan. Tekoälyn haitallisen käytön ja väärinkäytön riskejä ei oteta huomioon, mikä johtaa väitteeseen, että meidän on pelättävä ihmisiä eikä tekoälyä itseään.

Lue lisää tekoälystä:

• Meta AI ja Paperswithcode julkaisevat ensimmäisen tieteellisiin teksteihin koulutetun Galactican tekoälymallin
• 8 asiaa, jotka sinun tulee tietää suurista kielimalleista
• Yhdysvallat yliarvioi Kiinan mahdollisuudet taistelussa tekoälyteknologian puolesta

Author

Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa. 

lisää artikkeleita

Damir Yalalov

• 
• 

Damir Yalalov

Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa. 

• 

lisää artikkeleita