Vsa velika tehnološka podjetja, ki razvijajo LLM, bi morala dati prednost varnosti modela
Na kratko
Raziskovalci so ustvarili sistem, ki združuje veliki jezikovni modeli za avtonomno zasnovo, načrtovanje in izvedbo znanstvenih poskusov, ki prikazuje svoje raziskovalne zmogljivosti v treh različnih primerih.
Model je napisal kodo za kemijske enačbe, da bi razumel, koliko snovi je potrebno za reakcijo.
O članek »Novejoče avtonomne znanstvenoraziskovalne zmogljivosti velikih jezikovnih modelov« obravnavajo idejo o ustvarjanju sistema, ki združuje več velikih jezikovnih modelov za avtonomno načrtovanje, načrtovanje in izvajanje znanstvenih poskusov. Prikazuje raziskovalne zmožnosti agenta v treh različnih primerih, od katerih je najtežji uspešna izvedba kataliziranih reakcij.
Glavna teza tega članka je:
- Raziskovalci so našli knjižnico, ki vam omogoča pisanje kode v Pythonu in nato prenos ukazov za izvedbo v posebno napravo za izvajanje poskusov (z mešanjem snovi);
- Raziskovalci so uporabili GPT-4 za iskanje po internetu in knjižnični dokumentaciji ter možnost zagona Python kode (za izvajanje poskusov);
- Obstaja razporejevalnik najvišje ravni (tudi GPT-4), ki analizira prvotno zahtevo in sestavi "načrt raziskave".
- GPT-4 dobro opravlja preproste nekemične naloge, kot je ustvarjanje določenih oblik na kemični plošči (pravilno polnjenje celic s snovmi).
- Poskusili so z bolj zapleteno in uporabno nalogo vodenja reakcije; model se je dobro spopadel in ravnal logično.
- Nato so modelu dali več nalog za izvajanje poskusov; vendar za to, kar je model izdal, niso bili izvedeni nobeni pravi poskusi.
- Poleg tega je model večkrat napisal kodo za kemijske enačbe, da bi ocenil, koliko snovi je potrebno za reakcijo.
- Zaprošeno je bilo tudi za izdelavo zdravila za raka. Model se je analize lotil logično in metodično. Najprej je na spletu »poiskala« trenutne trende pri odkrivanju zdravil proti raku. Nato je model izbral molekulo, ki bi jo uporabili za modeliranje zdravila, in napisal kodo za njegovo sintezo. Ljudje niso zagnali kode (in nisem videl analize njene ustreznosti).
- Poleg tega so ga prosili, naj sintetizira več nevarnih snovi, kot so zdravila in strupi.
Tukaj je najbolj zanimiv del. Za nekatere zahteve je model takoj zavrnil delo (na primer heroin ali iperit, izjemno nevaren strup). Drugi so začeli iskati v Googlu, kako izdelati snovi, vendar so ugotovili, da bi jih lahko uporabili v nezakonite namene, in niso želeli nadaljevati dela. Za druge je napisal raziskovalni načrt in kodo za sintezo snovi.
Ta "zavrnitev" je verjetno zato, ker GPT-4 je zasnovan tako, da analizira zahtevo, in če se od nje zahteva, da naredi nekaj nezakonitega ali nevarnega, takoj zavrne izvedbo zahteve. Res je kul, da je rezultat postopka poravnave opazen.
In na koncu članka avtorji pozivajo vse velike podjetja, ki razvijajo LLM dati prednost varnosti modelov.
- Raziskovalci na Univerzi v Kaliforniji so ustvarili Merilo Machiavelli za merjenje kompetenc in škodljivosti modelov AI v širokem okolju dolgotrajnih jezikovnih interakcij. Ta test uporablja rešitve na visoki ravni, da agentom postavi realne cilje in abstrahira interakcije na nizki ravni.
- Intelektualna revolucija, ki jo zaznamuje ChatGPT je triada sinergistično sublimnih revolucij: tehnološke, tehno-humanitarne in družbeno-politične. Za celovit pogled na dogajanje je priporočljivo poslušati tri sveža stališča od intelektualcev s področja filozofije, zgodovine in inovacij.
- Zgodba o peticiji za ustavitev razvoja sistemov umetne inteligence, naprednejših od GPT-4 polariziral družbo. Članek ponuja primere, ko gredo procesi v nepričakovano smer. Tveganja zlonamerne uporabe in zlorabe umetne inteligence niso upoštevana, kar vodi do argumenta, da se moramo bati ljudi in ne umetne inteligence same.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
