„Gramener“ generalinis direktorius Anand S perspėja apie riziką aklai pasitikint LLM, modelio raštingumo šalininkais
Trumpai
Pokalbyje su Metaverse Post – Anand S, „Gramener“ generalinis direktorius, pabrėžė galimas per didelio pasitikėjimo LLM problemas.
Rinką prisotinus šimtams AI ir ML įrankių, inovacijų potencialas yra neribotas. Atsiranda daugybė naujų įmonių, kurios spręstų pramonės iššūkius, o nuolatinis patobulintų didelių kalbų modelių antplūdis kiekvieną savaitę sustiprina transformuojamąją galią. generatyvinis AI. Ši technologinė konvergencija keičia pramonės šakas su neribotomis galimybėmis.
Tačiau galingų kalbos modelių, tokių kaip Dvyniai, išleidimas ir platus naudojimas kelia svarbių etinių ir praktinių sumetimų ir verčia mus apsvarstyti klausimą – ar galime, kaip žmonės, aklai pasitikėti tokiais modeliais?
Pokalbyje su Metaverse Post – Anand S, JAV įsikūrusios B2B SaaS įmonės generalinis direktorius „Gramener“ pabrėžė galimas pernelyg didelio pasitikėjimo LLM problemas ChatGPT, perspėdamas, kad ši tendencija greičiausiai išliks ir besivystantiems modeliams, tokiems kaip Dvyniai.
„Net ir turėdamas tinkamus mokymo duomenis, žmogus gali padaryti klaidų, išeidamas už savo kompetencijos ribų. Ar dėl to didelis kalbos modelis ekstrapoliuoja, ar atsimena iš to, ko išmoko? Yra didžiulis skirtumas ir verta išbandyti. Mes kuriame pasitikėjimą per intuicijas, nuolat bendraudami su žmonėmis“, – sakė Anandas. "Mes žinome, kad turime ištirti nepažįstamąjį, todėl tikriausiai taip pat turėtume bendrauti su dideliais kalbos modeliais."
Pavyzdžiui, Varghese ir Southern Airlines bendrovės ribotos atsakomybės byloje advokatas citavo išgalvotus ChatGPT- sugeneruotos bylos, dėl kurių teisėjas nubaudė advokatą, pabrėždamas nekritiško naudojimo riziką. Anandas pabrėžia, kad naudojant tokius kalbos modelius reikia būti atsargiems ir atidžiai išnagrinėti.
Be to, šioje srityje reikia tvirto grįžtamojo ryšio mechanizmo. ChatGPT skatina naudotojų atsiliepimus naudojant paprastą mygtuką „Patinka“ / „Nepatinka“ ir teksto įvestis. Šis metodas surenka vertingų įžvalgų apie tai, kas veikia gerai, o kas ne. Tikėtina, kad ši grįžtamojo ryšio sistema taps labiau paplitusi naudojant didelių kalbų modeliai, padedantys pagerinti jų našumą.
„Nelabai ekonomiška stebėti kiekvieną LLM išvestį, bet galimybė pažymėti galimas klaidas yra galingas svertas“, – sakė Anandas. Metaverse Post.
„Įdomu tai, kad patys dideli kalbų modeliai gana gerai įvertina kitus didelius kalbos modelius. Taigi, užuot naudoję žmogų tik rezultatams stebėti, galime naudoti LLM ir žmonių derinį, o LLM galiausiai perima didžiąją dalį žmogaus vaidmens, kai jie vystosi“, – pridūrė jis.
Modelio raštingumas yra kelias į priekį
LLM srityje išryškėja pagrindinis principas – kuo daugiau sąveikos, tuo gilesnis supratimas. Ši paprasta koncepcija pabrėžia ryšį tarp vartotojų įsitraukimo ir LLM galimybių supratimo, o tai galiausiai skatina didesnį naudojimą.
„Taip pat svarbu suprasti, kam naudingas konkretus LLM. Pavyzdžiui, logotipams generuoti nenaudočiau DALL-E, nes jis nelabai gerai generuoja tekstą. Tačiau tai puikiai atlieka logotipų idėjų ir logotipų dizaino generavimą. Tai pavyzdinio raštingumo pavyzdys, kuris atsiranda pakartotinai naudojant ir todėl man suteikia defiNeturiu pasitikėjimo sričių, kuriose galiu efektyviau naudoti modelį“, – sakė Anandas.
Siekdami subalansuotos kalbos modelių, pvz., integracijos Dvyniai į mūsų technologinį kraštovaizdį, Anand siūlo keletą strategijų. Pirma, jis pasisako už kasdienį bendravimą su dideliais kalbos modeliais, ugdydamas įprotį, kuris ilgainiui formuojasi. Taip pat labai svarbu užtikrinti visuotinę prieigą prie šių priemonių, todėl reikia labiau skatinti asmeninį naudojimą. Anandas atkreipia dėmesį į esamą organizacijų blokavimo tendenciją ChatGPT darbiniuose nešiojamuosiuose kompiuteriuose, pabrėždami, kad reikia palaikyti ryšį.
Jis siūlo įgyvendinti organizacinius mechanizmus, kurie suteiktų prieigą ir paskatintų eksperimentuoti su kalbos modeliais (LLM) aplinkoje.
„Galų gale, kai žmonės susipažįsta, jie supras, kuo pasitikėti, kada ir kaip juo naudotis. Didesnis naudojimas ir skatinimas padidinti naudojimą yra svarbiausia strategija ir švietimo iniciatyvos, kurias gali panaudoti kiekvienas“, – sakė Anandas. Metaverse Post.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
Daugiau straipsnių
Kumaras yra patyręs technologijų žurnalistas, kurio specializacija yra dinamiškos AI/ML sankirtos, rinkodaros technologijos ir naujos sritys, tokios kaip kriptovaliutos, blokų grandinės ir NFTs. Turėdamas daugiau nei 3 metų patirtį šioje pramonėje, Kumaras sukūrė įtikinamus pasakojimus, veda įžvalgius interviu ir pateikia išsamias įžvalgas. „Kumar“ patirtis yra susijusi su didelio poveikio turinio kūrimu, įskaitant straipsnius, ataskaitas ir mokslinių tyrimų publikacijas žinomoms pramonės platformoms. Turėdamas unikalų įgūdžių rinkinį, kuriame derinamos techninės žinios ir pasakojimas, Kumaras puikiai perteikia sudėtingas technologines koncepcijas įvairioms auditorijoms aiškiai ir patraukliai.
