Grameners administrerende direktør Anand S advarer om risici ved blindt at stole på LLM'er, fortalere for modelkompetence
Kort sagt
I en samtale med Metaverse Post – Anand S, CEO for Gramener fremhævede de potentielle faldgruber ved overdreven afhængighed af LLM'er.
Med hundredvis af AI- og ML-værktøjer, der mætter markedet, er innovationspotentialet ubegrænset. Adskillige startups dukker op for at tackle industriens udfordringer, mens en konstant tilstrømning af forbedrede store sprogmodeller hver uge forstærker den transformative kraft i generativ AI. Denne teknologiske konvergens omformer industrier med ubegrænsede muligheder.
Udgivelsen og den udbredte brug af kraftfulde sprogmodeller som Gemini rejser imidlertid vigtige etiske og praktiske overvejelser og beder os overveje et spørgsmål - Kan vi som mennesker blindt stole på sådanne modeller?
I en samtale med Metaverse Post — Anand S, administrerende direktør for det amerikanske B2B SaaS-selskab Gramener understregede de potentielle faldgruber ved overdreven afhængighed af LLM'er som ChatGPT, og advarer om, at denne tendens sandsynligvis vil fortsætte med nye modeller såsom Gemini.
"Selv med de rigtige træningsdata kan et menneske begå fejl, når det går uden for deres ekspertiseområde. Er en stor sprogmodel derfor ekstrapolerende, eller erindrer den fra det, den har lært? Der er en kæmpe forskel, og det er værd at teste. Vi opbygger tillid gennem intuitioner med gentagne interaktioner med mennesker,” sagde Anand. "Vi ved, at vi skal sondere for at efterforske en fremmed, og det er sådan, vi sandsynligvis også bør interagere med store sprogmodeller."
For eksempel, i Varghese versus Southern Airlines Company Limited-sagen citerede en advokat fiktive ChatGPT-genererede sager, der førte til, at en dommer straffede advokaten og understregede risikoen for ukritisk brug. Anand fremhæver behovet for forsigtighed og kontrol, når man bruger sådanne sprogmodeller.
Udover dette kræver feltet en robust feedback-mekanisme. ChatGPT opmuntrer brugerfeedback gennem en simpel tommelfinger op/tommel ned-knap, kombineret med tekstinput. Denne tilgang samler værdifuld indsigt i, hvad der fungerer godt, og hvad der ikke gør. Dette feedbacksystem vil sandsynligvis blive mere almindeligt med brugen af store sprogmodeller, hjælper med at forbedre deres præstationer.
"Det er ikke særlig økonomisk at overvåge hver enkelt output af en LLM, men at kunne markere potentielle fejl er en kraftfuld håndtag," fortalte Anand Metaverse Post.
»Det interessante er, at store sprogmodeller i sig selv er ret gode til at vurdere andre store sprogmodeller. Så i stedet for udelukkende at bruge et menneske til at overvåge outputtet, kan vi bruge en kombination af LLM'er og mennesker, hvor LLM'er til sidst overtager hovedparten af den menneskelige rolle, efterhånden som de udvikler sig," tilføjede han.
Modelkompetence er vejen frem
Inden for LLM'er opstår et nøgleprincip - jo mere interaktion, jo dybere forståelse. Dette ligefremme koncept understreger forholdet mellem brugerengagement og forståelse af LLM-kapaciteter, hvilket i sidste ende driver øget udnyttelse.
”Det handler også om at forstå, hvad en bestemt LLM er god for. For eksempel ville jeg ikke bruge DALL-E til at generere logoer, fordi det ikke genererer tekst særlig godt. Men det gør et godt stykke arbejde med at generere logoideer og logodesigns. Dette er et eksempel på modelkompetencer, der er opstået ved gentagen brug og derfor giver mig defihar tillidsområder, hvor jeg kan bruge modellen mere effektivt,” sagde Anand.
I jagten på en afbalanceret integration af sprogmodeller som Gemini ind i vores teknologiske landskab, foreslår Anand flere strategier. For det første går han ind for daglige interaktioner med store sprogmodeller, der fremmer en vane, der opbygges over tid. Ligeledes er det afgørende at sikre universel adgang til disse værktøjer, med en opfordring til mere opmuntring til personlig brug. Anand bemærker den eksisterende tendens til, at organisationer blokerer ChatGPT på bærbare arbejdscomputere, hvilket understreger behovet for understøttende kommunikation.
Han foreslår implementering af organisatoriske mekanismer for at give adgang og tilskynde til eksperimentering med sprogmodeller (LLM'er) i et miljø.
"I sidste ende er det, når folk bliver fortrolige, at de vil forstå, hvad de skal stole på, hvornår de skal bruge det, og hvordan de skal bruge det. Øget brug og tilskyndelse til øget brug er de vigtigste strategi- og uddannelsesinitiativer, som nogen kan anvende,” fortalte Anand Metaverse Post.
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
Flere artikler
Kumar er en erfaren teknisk journalist med speciale i de dynamiske skæringspunkter mellem AI/ML, marketingteknologi og nye områder som krypto, blockchain og NFTs. Med over 3 års erfaring i branchen har Kumar etableret en dokumenteret track record i at skabe overbevisende fortællinger, udføre indsigtsfulde interviews og levere omfattende indsigt. Kumars ekspertise ligger i at producere indhold med stor gennemslagskraft, herunder artikler, rapporter og forskningspublikationer til fremtrædende industriplatforme. Med et unikt færdighedssæt, der kombinerer teknisk viden og historiefortælling, udmærker Kumar sig ved at kommunikere komplekse teknologiske koncepter til forskellige målgrupper på en klar og engagerende måde.
