Izvršni direktor družbe Gramener Anand S svari pred tveganji pri slepem zaupanju magistrskim študijem in zagovornikom modelne pismenosti
Na kratko
V pogovoru s Metaverse Post – Anand S, izvršni direktor podjetja Gramener, je izpostavil morebitne pasti pretirane odvisnosti od LLM.
S stotinami orodij AI in ML, ki nasičujejo trg, je potencial inovacij neomejen. Pojavljajo se številna zagonska podjetja, ki se spopadajo z izzivi industrije, medtem ko stalen dotok izboljšanih modelov velikih jezikov vsak teden povečuje transformativno moč generativni AI. Ta tehnološka konvergenca preoblikuje industrije z brezmejnimi možnostmi.
Vendar pa objava in široka uporaba močnih jezikovnih modelov, kot je Gemini, sproža pomembna etična in praktična razmišljanja ter nas poziva k premisleku o vprašanju – ali lahko kot ljudje slepo zaupamo takim modelom?
V pogovoru s Metaverse Post — Anand S, izvršni direktor podjetja B2B SaaS s sedežem v ZDA Gramener poudaril morebitne pasti pretirane odvisnosti od LLM, kot je npr ChatGPT, ki opozarja, da se bo ta trend verjetno ohranil pri nastajajočih modelih, kot je Gemini.
»Tudi s pravimi podatki o usposabljanju lahko človek naredi napako, ko gre izven svojega strokovnega področja. Ali torej velik jezikovni model ekstrapolira ali se spominja tega, kar se je naučil? Razlika je velika in vredno jo je preizkusiti. Zaupanje gradimo s pomočjo intuicije s ponavljajočimi se interakcijami z ljudmi,« je dejal Anand. "Vemo, da moramo sondirati, da raziščemo tujca, in tako bi verjetno morali komunicirati tudi z velikimi jezikovnimi modeli."
Na primer, v omejeni zadevi Varghese proti družbi Southern Airlines je odvetnik navedel izmišljeno ChatGPT-generirani primeri, ki vodijo do tega, da sodnik kaznuje odvetnika, s poudarkom na tveganjih nekritične uporabe. Anand poudarja potrebo po previdnosti in natančnem pregledu pri uporabi takih jezikovnih modelov.
Poleg tega področje zahteva močan povratni mehanizem. ChatGPT spodbuja povratne informacije uporabnikov s preprostim gumbom »palec gor/palec dol«, skupaj z vnosom besedila. Ta pristop zbira dragocene vpoglede v to, kaj deluje dobro in kaj ne. Ta sistem povratnih informacij bo verjetno postal pogostejši z uporabo veliki jezikovni modeli, kar pomaga izboljšati njihovo uspešnost.
»Spremljanje vsakega posameznega rezultata LLM-ja ni zelo ekonomično, vendar je možnost označevanja morebitnih napak močan vzvod,« je povedal Anand Metaverse Post.
»Zanimivo je, da so veliki jezikovni modeli sami po sebi precej dobri pri ocenjevanju drugih velikih jezikovnih modelov. Torej, namesto da bi za spremljanje rezultatov uporabljali izključno človeka, lahko uporabimo kombinacijo LLM-jev in ljudi, pri čemer LLM-ji sčasoma prevzamejo večji del človeške vloge, ko se razvijajo,« je dodal.
Vzorčna pismenost je pot naprej
Na področju LLM se pojavi ključno načelo – več interakcije, globlje je razumevanje. Ta preprost koncept poudarja razmerje med angažiranostjo uporabnikov in razumevanjem zmožnosti LLM, kar na koncu spodbuja večjo uporabo.
»Gre tudi za razumevanje, za kaj je določen LLM dober. Na primer, DALL-E ne bi uporabil za ustvarjanje logotipov, ker ne ustvarja dobro besedila. Odlično pa se znajde pri ustvarjanju idej za logotipe in oblikovanja logotipov. To je primer modelne pismenosti, ki je nastal pri večkratni uporabi in mi zato daje defiNašel sem področja zaupanja, znotraj katerih lahko učinkoviteje uporabljam model,« je dejal Anand.
V prizadevanju za uravnoteženo integracijo jezikovnih modelov, kot je Gemini v našo tehnološko krajino, Anand predlaga več strategij. Prvič, zagovarja vsakodnevne interakcije z velikimi jezikovnimi modeli, s čimer spodbuja navado, ki se gradi sčasoma. Prav tako je ključnega pomena zagotavljanje univerzalnega dostopa do teh orodij, s pozivom k večji spodbudi osebne uporabe. Anand opaža obstoječi trend blokiranja organizacij ChatGPT na službenih prenosnih računalnikih, kar poudarja potrebo po podporni komunikaciji.
Predlaga izvajanje organizacijskih mehanizmov za zagotavljanje dostopa in spodbujanje eksperimentiranja z jezikovnimi modeli (LLM) v okolju.
»Navsezadnje bodo ljudje razumeli, čemu zaupati, kdaj to uporabiti in kako to uporabiti, ko se bodo seznanili. Povečana uporaba in spodbujanje povečane uporabe sta najpomembnejši strategiji in izobraževalni pobudi, ki jo lahko kdorkoli uporabi,« je povedal Anand Metaverse Post.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
več člankov
Kumar je izkušen tehnični novinar, specializiran za dinamična presečišča AI/ML, marketinške tehnologije in nastajajočih področij, kot so kripto, blockchain in NFTs. Z več kot 3 leti izkušenj v panogi je Kumar pridobil dokazane rezultate pri oblikovanju privlačnih pripovedi, vodenju pronicljivih intervjujev in zagotavljanju celovitih vpogledov. Kumarjevo strokovno znanje je v izdelavi odmevnih vsebin, vključno s članki, poročili in raziskovalnimi publikacijami za pomembne industrijske platforme. Z edinstvenim naborom spretnosti, ki združuje tehnično znanje in pripovedovanje zgodb, se Kumar odlikuje pri sporočanju zapletenih tehnoloških konceptov različnim občinstvom na jasen in privlačen način.
