Grameneri tegevjuht Anand S hoiatab riskide eest pimesi usaldades LLM-e, mudelkirjaoskuse pooldajaid
Põgusalt
Vestluses Metaverse Post – Anand S, Grameneri tegevjuht, tõi esile LLM-idele liigse sõltuvuse võimalikud lõkse.
Kuna sadu AI- ja ML-tööriistu küllastavad turgu, on innovatsioonipotentsiaal piiramatu. Tööstusharu väljakutsetega toimetulemiseks kerkib esile arvukalt idufirmasid, samal ajal kui iganädalane täiustatud suurte keelemudelite pidev sissevool võimendab ettevõtte transformatiivset jõudu. generatiivne AI. See tehnoloogiline lähenemine kujundab ümber piiramatute võimalustega tööstusharusid.
Kuid võimsate keelemudelite, nagu Kaksikud, avaldamine ja laialdane kasutamine tõstatab olulisi eetilisi ja praktilisi kaalutlusi ning palub meil mõelda küsimusele – kas me saame inimestena selliseid mudeleid pimesi usaldada?
Vestluses Metaverse Post — Anand S, USA-s asuva B2B SaaS-i ettevõtte tegevjuht Gramener rõhutas potentsiaalseid lõkse, mis tulenevad liigsest sõltuvusest LLM-idest nagu ChatGPT, hoiatades, et see suundumus jääb tõenäoliselt püsima ka selliste tärkavate mudelite puhul nagu Kaksikud.
"Isegi õigete treeningandmete korral võib inimene oma pädevusalast välja minnes teha vigu. Kas suur keelemudel on seetõttu ekstrapoleeriv või meenutab õpitut? Erinevused on suured ja seda tasub katsetada. Me kasvatame enesekindlust intuitsioonide kaudu korduvate inimestega suhtlemise kaudu, ”ütles Anand. "Me teame, et peame võõra inimese uurimiseks uurima ja nii peaksime tõenäoliselt suhtlema ka suurte keelemudelitega."
Näiteks kohtuasjas Varghese versus Southern Airlines Company Limited tsiteeris advokaat väljamõeldud ChatGPT- genereeritud kohtuasjad, mille tulemusel kohtunik karistab advokaati, rõhutades kriitikavaba kasutamise riske. Anand rõhutab selliste keelemudelite kasutamisel ettevaatlikkuse ja kontrolli vajadust.
Lisaks sellele nõuab valdkond tugevat tagasisidemehhanismi. ChatGPT julgustab kasutajaid tagasisidet andma lihtsa Meeldib/Ei meeldi nupu ja tekstisisestuse kaudu. See lähenemisviis kogub väärtuslikku teavet selle kohta, mis toimib hästi ja mis mitte. Tõenäoliselt muutub see tagasisidesüsteem üha tavalisemaks suured keelemudelid, mis aitab parandada nende jõudlust.
"Ei ole väga ökonoomne jälgida LLM-i iga väljundit, kuid võimalike vigade märkimine on võimas hoob," ütles Anand. Metaverse Post.
"Huvitav on see, et suured keelemudelid ise suudavad teisi suuri keelemudeleid hinnata. Nii et selle asemel, et kasutada väljundi jälgimiseks ainult inimest, saame kasutada LLM-ide ja inimeste kombinatsiooni, kusjuures LLM-id võtavad lõpuks arenedes üle suurema osa inimese rollist, ”lisas ta.
Mudelioskus on tee edasi
LLM-ide vallas kerkib esile võtmepõhimõte – mida rohkem suhtlemist, seda sügavam on arusaam. See sirgjooneline kontseptsioon rõhutab seost kasutaja kaasamise ja LLM-i võimalustest arusaamise vahel, suurendades lõpuks nende kasutamist.
„See on ka mõistmine, milleks konkreetne LLM on kasulik. Näiteks ma ei kasutaks DALL-E-d logode loomiseks, kuna see ei loo teksti kuigi hästi. Kuid see teeb suurepärast tööd logoideede ja logokujunduste loomisel. See on näide näidiskirjaoskusest, mis ilmneb korduval kasutamisel ja annab seetõttu mulle defiotsisin usaldusvaldkondi, mille raames saan mudelit tõhusamalt kasutada,“ ütles Anand.
Püüdes tasakaalustatud integratsiooni keelemudelid nagu Kaksikud Anand pakub välja mitmeid strateegiaid. Esiteks toetab ta igapäevast suhtlemist suurte keelemudelitega, edendades harjumust, mis aja jooksul kujuneb. Samuti on ülioluline tagada nendele tööriistadele universaalne juurdepääs, mis nõuab isikliku kasutamise julgustamist. Anand märgib olemasolevat trendi, et organisatsioonid blokeerivad ChatGPT töö sülearvutitel, rõhutades toetava suhtluse vajadust.
Ta teeb ettepaneku rakendada organisatsioonilisi mehhanisme, et pakkuda keskkonnas juurdepääsu keelemudelitele (LLM) ja julgustada nendega eksperimenteerimist.
"Lõppkokkuvõttes saavad inimesed tuttavaks, mida nad usaldavad, millal ja kuidas seda kasutada. Suurem kasutamine ja kasutamise suurendamine on kõige olulisem strateegia ja haridusalgatused, mida igaüks saab rakendada, ”rääkis Anand. Metaverse Post.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
Veel artikleid
Kumar on kogenud tehnikaajakirjanik, kes on spetsialiseerunud AI/ML dünaamilistele ristumiskohtadele, turundustehnoloogiale ja sellistele arenevatele valdkondadele nagu krüpto, plokiahel ja NFTs. Üle 3-aastase tööstusharu kogemusega Kumar on loonud tõestatud kogemusi mõjuvate narratiivide koostamisel, läbinägelike intervjuude läbiviimisel ja põhjaliku ülevaate andmisel. Kumari teadmised seisnevad silmapaistvatele tööstusplatvormidele suure mõjuga sisu, sealhulgas artiklite, aruannete ja teaduspublikatsioonide loomisel. Unikaalse oskuste kogumiga, mis ühendab tehnilised teadmised ja jutuvestmise, suudab Kumar suurepäraselt edastada keerulisi tehnoloogilisi kontseptsioone erinevatele sihtrühmadele selgel ja kaasahaaraval viisil.
