Извршни директор Граменера Ананд С упозорава на ризике у слепо поверењу ЛЛМ, залаже се за моделску писменост
Укратко
У разговору са Metaverse Post – Ананд С, извршни директор компаније Граменер, истакао је потенцијалне замке претераног ослањања на ЛЛМ.
Са стотинама АИ и МЛ алата који засићују тржиште, потенцијал иновације је неограничен. Појављују се бројни стартупи како би се ухватили у коштац са изазовима индустрије, док константан прилив побољшаних модела великих језика сваке недеље појачава трансформативну моћ генеративна АИ. Ова технолошка конвергенција преобликује индустрије са неограниченим могућностима.
Међутим, објављивање и широка употреба моћних језичких модела попут Близанаца покреће важна етичка и практична разматрања и тражи од нас да размотримо питање – Можемо ли ми као људи слепо веровати таквим моделима?
У разговору са Metaverse Post — Ананд С, извршни директор америчке Б2Б СааС компаније Граменер нагласио потенцијалне замке претераног ослањања на ЛЛМ као што су ChatGPT, упозоравајући да ће се овај тренд вероватно задржати са моделима у настајању као што су Близанци.
„Чак и са правим подацима о обуци, човек може да погреши када изађе ван своје области стручности. Да ли велики језички модел стога екстраполира или се присећа онога што је научио? Постоји огромна разлика и вреди је тестирати. Ми градимо самопоуздање кроз интуицију уз поновљене интеракције са људима“, рекао је Ананд. „Знамо да треба да испитамо да бисмо истражили странца и на тај начин би вероватно требало да комуницирамо и са великим језичким моделима.
На пример, у случају Варгхесе против компаније Соутхерн Аирлинес са ограниченом одговорношћу, адвокат је цитирао измишљени ChatGPT-генерисани случајеви, који доводе до тога да судија кажњава адвоката, наглашавајући ризике некритичке употребе. Ананд истиче потребу за опрезом и пажњом када се користе такви језички модели.
Поред тога, ова област захтева снажан механизам повратних информација. ChatGPT подстиче повратне информације корисника путем једноставног дугмета палац горе/палац доле, заједно са уносом текста. Овај приступ прикупља драгоцене увиде у то шта добро функционише, а шта не. Овај систем повратних информација ће вероватно постати чешћи са употребом велики језички модели, помажући да се побољша њихов учинак.
„Није баш економично надгледати сваки појединачни резултат ЛЛМ-а, али могућност да означите потенцијалне грешке је моћна полуга“, рекао је Ананд Metaverse Post.
„Оно што је занимљиво је да су велики језички модели сами по себи прилично добри у процени других великих језичких модела. Дакле, уместо да користимо човека искључиво за праћење резултата, можемо да користимо комбинацију ЛЛМ-а и људи, при чему ће ЛЛМ на крају преузети највећи део људске улоге како се развијају“, додао је он.
Модел писмености је пут напред
У домену ЛЛМ-а, појављује се кључни принцип – што је више интеракције, то је дубље разумевање. Овај једноставан концепт наглашава везу између ангажовања корисника и разумевања ЛЛМ могућности, што на крају доводи до веће употребе.
„Такође се ради о разумевању за шта је добар ЛЛМ. На пример, не бих користио ДАЛЛ-Е за генерисање логотипа јер не генерише текст баш добро. Али одлично ради на генерисању идеја за логотип и дизајна логотипа. Ово је пример писмености модела који је настао поновљеном употребом и стога ми даје defiпотребне области поверења у оквиру којих могу ефикасније да користим модел“, рекао је Ананд.
У потрази за уравнотеженом интеграцијом језичких модела попут Близанци у нашем технолошком пејзажу, Ананд предлаже неколико стратегија. Прво, он се залаже за свакодневне интеракције са великим језичким моделима, негујући навику која се временом гради. Исто тако, обезбеђивање универзалног приступа овим алатима је од кључног значаја, уз позив за више подстицања у личној употреби. Ананд примећује постојећи тренд блокирања организација ChatGPT на радним лаптоповима, наглашавајући потребу за комуникацијом подршке.
Он предлаже имплементацију организационих механизама за обезбеђивање приступа и подстицање експериментисања са језичким моделима (ЛЛМ) у окружењу.
„На крају крајева, када се људи упознају, разумеће чему да верују, када да га користе и како да га користе. Повећана употреба и подстицање веће употребе су најважнија стратегија и образовне иницијативе које свако може да примени“, рекао је Ананд Metaverse Post.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
više чланака
Кумар је искусан технички новинар са специјализацијом у динамичким пресецима АИ/МЛ, маркетиншке технологије и нових поља као што су крипто, блокчејн и NFTс. Са више од 3 године искуства у индустрији, Кумар је успоставио доказане резултате у креирању убедљивих наратива, вођењу проницљивих интервјуа и пружању свеобухватних увида. Кумарова експертиза лежи у производњи садржаја високог утицаја, укључујући чланке, извештаје и истраживачке публикације за истакнуте индустријске платформе. Са јединственим скупом вештина који комбинује техничко знање и приповедање, Кумар се истиче у комуникацији сложених технолошких концепата различитој публици на јасан и привлачан начин.
