Гванако се појављује као потенцијални отворени извор ChatGPT Такмичар
Укратко
Гуанацо, чет-бот отвореног кода који су развили истраживачи са Универзитета у Вашингтону, тежи да се такмичи са њим ChatGPT док је за обуку потребно мање времена и новца.
Нова студија је, међутим, довела у питање ефикасност модела попут Алпаке.
Истраживачи са Универзитета у Вашингтону открили су Гуанацо, цхатбот отвореног кода који има за циљ да парира перформансама ChatGPT уз значајно смањење времена и ресурса потребних за обуку. Име је добио по јужноамеричком рођаку llamaс, Гванако је изграђен на LLaMA језички модел и укључује нову методу финог подешавања под називом КЛоРА.
Креатори Гуанаца тврде да постиже упоредиве перформансе са ChatGPT али се може обучити за само један дан. Овај изузетан подвиг је омогућио КЛоРА, техника финог подешавања језичког модела која значајно смањује количину ГПУ меморије потребне за обуку. Док ChatGPT захтева огромних 780 ГБ ГПУ меморије за модел са 65 милијарди параметара, најједноставнија верзија Гуанаца захтева само 5 ГБ.
Са овим импресивним повећањем ефикасности, Гуанацо и слични модели отвореног кода доводе у питање идеју да је скупа обука неопходна за најсавременијим језичким моделима. Појава Гванака, Алпаца, и други модели тај воз уз делић цене довео је до спекулација о будућности скупих модела као што су GPT.
Међутим, не слажу се сви са овим оптимистичним погледом на моделе отвореног кода. Недавна студија коју је спровео Универзитет у Калифорнији је бацио сумњу о могућностима модела као што су алпаке и покренула питања о њиховом правом потенцијалу. У почетку су истраживачи дошли до сличног закључка као и креатори Гуанаца: када су правилно обучени, модели отвореног кода могу се такмичити GPT у способностима. Даљи тестови су открили значајно ограничење. Ови „Доли“ модели, како их понекад називају, вешти су у имитирању решења проблема на које су наишли током тренинга. Међутим, они се боре да добро обављају задатке којима нису били експлицитно изложени, заостају за напреднијим моделима.
Ово откриће сугерише да је милиона уложених у обуку GPT а слични модели можда нису били узалудни. Док Гванако и његове колеге показују обећавајуће резултате, још увек постоје области у којима се одликују софистициранији модели. Вреди напоменути да је истраживање које је спровео Универзитет у Калифорнији доводи у питање преовлађујућу идеју да модели отвореног кода могу у потпуности заменити скупе моделе као што су GPT.
Како се поље обраде природног језика развија, биће занимљиво гледати како се Гуанацо и други модели отвореног кода фер од устаљених мерила као што су ChatGPT. Висока стопа иновација и континуирано истраживање ће, без сумње, утицати на будућност језичких модела и одредити који модели ће постати избор за одређене апликације.
- Долли 2.0, први комерцијално доступан 12Б Цхат-ЛЛМ отвореног кода, објављено је би Датабрицкс. Ово је значајан напредак за индустрију машинског учења, омогућавајући предузећима да креирају ефикасне језичке моделе без улагања у скупе ГПУ кластере. Датабрицкс је ангажовао 5,000 запослених да креирају свој модел језика отвореног кода, који је укључивао ЕлеутхерАИ-јев језик Питхиа-12Б под лиценцом МИТ-а. Долли 2.0, као и припадајући код, доступан је под МИТ лиценцом. Долли 2.0 има потенцијал да промени индустрију и представља значајан корак напред за машинско учење.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
