Generální ředitel Gramener Anand S varuje před riziky slepě důvěřujících LLM, zastánci modelové gramotnosti
Stručně
V rozhovoru s Metaverse Post – Anand S, generální ředitel společnosti Gramener, zdůraznil potenciální úskalí nadměrného spoléhání se na LLM.
Se stovkami nástrojů AI a ML, které saturují trh, je inovační potenciál neomezený. Vzniká řada startupů, aby se vypořádaly s průmyslovými výzvami, zatímco neustálý příliv vylepšených velkých jazykových modelů každý týden zesiluje transformační sílu generativní AI. Tato technologická konvergence přetváří průmyslová odvětví s neomezenými možnostmi.
Vydání a rozšířené používání mocných jazykových modelů, jako je Gemini, však vyvolává důležité etické a praktické úvahy a žádá nás, abychom zvážili otázku – Můžeme jako lidé slepě věřit takovým modelům?
V rozhovoru s Metaverse Post — Anand S, generální ředitel společnosti B2B SaaS se sídlem v USA Gramener zdůraznil potenciální úskalí nadměrného spoléhání se na LLM jako např ChatGPTs upozorněním, že tento trend bude pravděpodobně přetrvávat u nově vznikajících modelů, jako jsou Gemini.
„I se správnými tréninkovými daty může člověk dělat chyby, když jde mimo oblast své odbornosti. Je tedy velký jazykový model extrapolován, nebo si vzpomíná z toho, co se naučil? Je v tom obrovský rozdíl a stojí za to ho vyzkoušet. Budujeme důvěru prostřednictvím intuice s opakovanými interakcemi s lidmi,“ řekl Anand. "Víme, že potřebujeme sondovat, abychom prozkoumali cizince, a tak bychom pravděpodobně měli také komunikovat s velkými jazykovými modely."
Například v případu Varghese versus Southern Airlines společnost s ručením omezeným, právník citoval smyšlený ChatGPT-generované případy, které vedou k tomu, že soudce trestá právníka, zdůrazňující rizika nekritického použití. Anand zdůrazňuje potřebu opatrnosti a kontroly při využívání takových jazykových modelů.
Kromě toho tato oblast vyžaduje robustní mechanismus zpětné vazby. ChatGPT podporuje zpětnou vazbu od uživatelů pomocí jednoduchého tlačítka palce nahoru/dolů ve spojení se zadáváním textu. Tento přístup shromažďuje cenné poznatky o tom, co funguje dobře a co ne. Tento systém zpětné vazby se pravděpodobně stane běžnějším s používáním velké jazykové modely, což pomáhá zlepšit jejich výkon.
„Není příliš ekonomické monitorovat každý jednotlivý výstup LLM, ale schopnost odhalit potenciální chyby je mocná páka,“ řekl Anand. Metaverse Post.
„Zajímavé je, že velké jazykové modely samy o sobě jsou docela dobré při posuzování jiných velkých jazykových modelů. Takže místo toho, abychom používali výhradně člověka pro monitorování výstupu, můžeme použít kombinaci LLM a lidí, přičemž LLM nakonec převezmou většinu lidské role, jak se vyvíjejí,“ dodal.
Modelová gramotnost je cesta vpřed
V oblasti LLM se objevuje klíčový princip – čím více interakce, tím hlubší porozumění. Tento přímočarý koncept podtrhuje vztah mezi zapojením uživatelů a pochopením schopností LLM, což v konečném důsledku vede ke zvýšenému využití.
„Je to také o pochopení toho, k čemu je konkrétní LLM dobrý. Například DALL-E bych nepoužil ke generování log, protože negeneruje příliš dobře text. Ale dělá skvělou práci při generování nápadů na logo a návrhů loga. Toto je příklad modelové gramotnosti, která vzniká opakovaným používáním, a proto mi dává defiVytvořil jsem oblasti důvěry, ve kterých mohu model používat efektivněji,“ řekl Anand.
Ve snaze o vyváženou integraci jazykových modelů jako Blíženci do našeho technologického prostředí, Anand navrhuje několik strategií. Zaprvé obhajuje každodenní interakci s velkými jazykovými modely, čímž podporuje návyk, který se časem buduje. Stejně tak je zásadní zajistit univerzální přístup k těmto nástrojům s výzvou k větší podpoře při osobním používání. Anand si všímá stávajícího trendu blokování organizací ChatGPT na pracovních noteboocích, což podtrhuje potřebu podpůrné komunikace.
Navrhuje implementaci organizačních mechanismů, které umožní přístup a povzbudí experimentování s jazykovými modely (LLM) v prostředí.
„Nakonec, když se lidé seznámí, pochopí, čemu věřit, kdy to použít a jak to použít. Zvýšené používání a podpora zvýšeného používání jsou nejdůležitější strategie a vzdělávací iniciativy, které může kdokoli použít,“ řekl Anand Metaverse Post.
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
Další články
Kumar je zkušený technický novinář se specializací na dynamické průniky AI/ML, marketingové technologie a nově vznikající obory, jako jsou kryptoměny, blockchain a NFTs. S více než 3 lety zkušeností v oboru si Kumar vytvořil prokazatelné výsledky ve vytváření působivých příběhů, vedení zasvěcených rozhovorů a poskytování komplexních poznatků. Kumarova odbornost spočívá ve vytváření vysoce působivého obsahu, včetně článků, zpráv a výzkumných publikací pro prominentní průmyslové platformy. Díky jedinečné sadě dovedností, které kombinují technické znalosti a vyprávění příběhů, Kumar vyniká v komunikaci složitých technologických konceptů pro různé publikum jasným a poutavým způsobem.
