Generálny riaditeľ spoločnosti Gramener Anand S varuje pred rizikami pri slepo dôverujúcich LLM, zástancovia modelovej gramotnosti
Stručne
V rozhovore s používateľom Metaverse Post – Anand S, generálny riaditeľ spoločnosti Gramener zdôraznil potenciálne úskalia nadmerného spoliehania sa na LLM.
So stovkami nástrojov AI a ML, ktoré saturujú trh, je inovačný potenciál neobmedzený. Vzniká množstvo startupov, aby sa popasovali s výzvami v tomto odvetví, pričom neustály prílev vylepšených veľkých jazykových modelov každý týždeň zosilňuje transformačnú silu generatívna AI. Táto technologická konvergencia pretvára odvetvia s neobmedzenými možnosťami.
Uvoľnenie a rozšírené používanie výkonných jazykových modelov ako Gemini však vyvoláva dôležité etické a praktické úvahy a žiada nás, aby sme zvážili otázku – Môžeme ako ľudia slepo dôverovať takýmto modelom?
V rozhovore s používateľom Metaverse Post — Anand S, generálny riaditeľ spoločnosti B2B SaaS so sídlom v USA Gramener zdôraznila potenciálne úskalia nadmerného spoliehania sa na LLM ako napr ChatGPTs upozornením, že tento trend bude pravdepodobne pretrvávať aj pri nových modeloch, ako sú Gemini.
„Dokonca aj so správnymi tréningovými údajmi môže človek robiť chyby, keď ide mimo oblasť svojej odbornosti. Robí preto veľký jazykový model extrapoláciu, alebo sa spamätáva z toho, čo sa naučil? Je v tom obrovský rozdiel a oplatí sa to vyskúšať. Budujeme dôveru prostredníctvom intuície s opakovanými interakciami s ľuďmi,“ povedal Anand. "Vieme, že musíme sondovať, aby sme vyšetrili cudzinca, a tak by sme pravdepodobne mali interagovať aj s veľkými jazykovými modelmi."
Napríklad vo veci s ručením obmedzeným Varghese versus Southern Airlines, právnik uviedol fiktívnu vec ChatGPT-vytvorené prípady, ktoré vedú k tomu, že sudca potrestal právnika, pričom zdôraznil riziká nekritického použitia. Anand zdôrazňuje potrebu opatrnosti a kontroly pri využívaní takýchto jazykových modelov.
Okrem toho táto oblasť vyžaduje robustný mechanizmus spätnej väzby. ChatGPT podporuje spätnú väzbu od používateľov pomocou jednoduchého tlačidla palec hore/palec dole spolu so zadávaním textu. Tento prístup zhromažďuje cenné poznatky o tom, čo funguje dobre a čo nie. Tento systém spätnej väzby sa pravdepodobne stane bežnejším s používaním veľké jazykové modelypomáha zlepšovať ich výkon.
"Nie je veľmi ekonomické monitorovať každý jeden výstup LLM, ale schopnosť upozorniť na potenciálne chyby je mocná páka," povedal Anand. Metaverse Post.
„Zaujímavé je, že samotné veľké jazykové modely sú celkom dobré pri hodnotení iných veľkých jazykových modelov. Takže namiesto toho, aby sme na monitorovanie výstupu používali výlučne človeka, môžeme použiť kombináciu LLM a ľudí, pričom LLM nakoniec prevezmú veľkú časť ľudskej úlohy, keď sa vyvíjajú,“ dodal.
Modelová gramotnosť je cesta vpred
V oblasti LLM sa objavuje kľúčový princíp – čím viac interakcie, tým hlbšie porozumenie. Tento priamočiary koncept podčiarkuje vzťah medzi zapojením používateľov a pochopením schopností LLM, čo v konečnom dôsledku vedie k zvýšenému využitiu.
„Je to aj o pochopení toho, na čo je konkrétny LLM dobrý. Napríklad DALL-E by som nepoužil na generovanie log, pretože negeneruje príliš dobre text. Ale robí skvelú prácu pri vytváraní nápadov na logo a návrhov loga. Toto je príklad modelovej gramotnosti, ktorá sa objavuje opakovaným používaním, a preto mi dáva defiMám oblasti dôvery, v rámci ktorých môžem model využívať efektívnejšie,“ povedal Anand.
V snahe o vyváženú integráciu jazykových modelov ako Blíženci do nášho technologického prostredia, Anand navrhuje niekoľko stratégií. Po prvé, obhajuje každodenné interakcie s veľkými jazykovými modelmi, čím podporuje zvyk, ktorý sa časom vytvára. Rovnako dôležité je zabezpečiť univerzálny prístup k týmto nástrojom s výzvou na väčšiu podporu pri osobnom používaní. Anand si všíma existujúci trend blokovania organizácií ChatGPT na pracovných notebookoch, čo podčiarkuje potrebu podpornej komunikácie.
Navrhuje implementáciu organizačných mechanizmov na poskytnutie prístupu a podporu experimentovania s jazykovými modelmi (LLM) v rámci prostredia.
„V konečnom dôsledku, keď sa ľudia zoznámia, pochopia, čomu majú dôverovať, kedy to použiť a ako to použiť. Zvýšené používanie a podpora zvýšeného používania sú najdôležitejšou stratégiou a vzdelávacími iniciatívami, ktoré môže ktokoľvek použiť,“ povedal Anand Metaverse Post.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
