Све велике технолошке компаније које развијају ЛЛМ треба да дају приоритет безбедности модела
Укратко
Истраживачи су створили систем који комбинује велики језички модели за аутономно пројектовање, планирање и извођење научних експеримената, демонстрирајући своје истраживачке способности у три различита случаја.
Модел је написао код за хемијске једначине да би разумео колико је супстанце потребно за реакцију.
чланак „Појавне аутономне научно-истраживачке могућности великих језичких модела“ разматра идеју стварања система који комбинује неколико великих језичких модела за аутономно пројектовање, планирање и извођење научних експеримената. Она демонстрира истраживачке способности агенса у три различита случаја, од којих је најтежи успешна имплементација катализованих реакција.
Главна теза овог чланка је:
- Истраживачи су пронашли библиотеку која вам омогућава да напишете код у Пајтону и затим пренесете команде за извршење у посебан апарат за спровођење експеримената (са мешањем супстанци);
- Истраживачи су користили GPT-4 за претрагу на Интернету и библиотечку документацију, као и могућност покретања Питхон кода (за извођење експеримената);
- Постоји планер највишег нивоа (такође GPT-4), који анализира првобитни захтев и прави „план истраживања“.
- GPT-4 обавља добар посао обављајући једноставне нехемијске задатке као што је стварање одређених облика на хемијској табли (исправно пуњење ћелија супстанцама).
- Покушали су са сложенијим и примењенијим задатком спровођења реакције; модел се добро снашао и поступио логично.
- Затим су моделу дали неколико задатака за извођење експеримената; међутим, за оно што је модел дао, нису спроведени прави експерименти.
- Штавише, модел је написао код за хемијске једначине неколико пута да би проценио колико је супстанце потребно за реакцију.
- Такође је затражено да се створи лек за рак. Модел је приступио анализи логички и методички. Прво, „тражио“ је на мрежи тренутне трендове у откривању лекова против рака. Затим је модел изабрао молекул који ће се користити за моделирање лека и написао код за његову синтезу. Људи нису покренули код (и нисам видео анализу његове адекватности).
- Поред тога, затражено је да синтетише неколико опасних супстанци попут лекова и отрова.
Ево најзанимљивијег дела. За неке захтеве, модел је одмах одбио да ради (на пример, хероин или иперит, изузетно опасан отровни гас). Други су почели да гуглају како да направе те супстанце, али су схватили да се могу користити у недозвољене сврхе и одбили су да наставе са радом. За друге је написао план истраживања и шифру за синтезу супстанце.
Ово „одбијање“ је вероватно зато што GPT-4 је дизајниран да анализира захтев, а ако се од њега тражи да уради нешто незаконито или опасно, одмах одбија да изврши захтев. Заиста је супер што је резултат поступка поравнања приметан.
И на крају чланка, аутори позивају све велике компаније које развијају ЛЛМ да дају приоритет безбедности модела.
- Истраживачи са Универзитета у Калифорнији су направили Макијавелијев бенцхмарк да се измери компетентност и штетност АИ модела у широком окружењу дуготрајних језичких интеракција. Овај тест користи решења високог нивоа да би агентима дао реалне циљеве и апстраховао интеракције ниског нивоа.
- Интелектуална револуција обележена од ChatGPT је тријада синергистички узвишених револуција: технолошке, техно-хуманитарне и друштвено-политичке. Да бисте свеобухватно сагледали шта се дешава, препоручује се да слушате три свеже тачке гледишта од интелектуалаца из области филозофије, историје и иновација.
- Прича о петицији да се заустави развој АИ система напреднијих од GPT-4 је поларизовано друштво. Чланак даје примере када процеси иду у неочекиваном правцу. Ризици злонамерне употребе АИ и злоупотребе се не разматрају, што доводи до аргумента да се требамо плашити људи, а не саме вештачке интелигенције.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
