Grameners vd Anand S varnar för risker med att blint lita på LLM:er, förespråkar modellkompetens
I korthet
I en konversation med Metaverse Post – Anand S, VD för Gramener lyfte fram de potentiella fallgroparna med överdrivet beroende av LLM.
Med hundratals AI- och ML-verktyg som mättar marknaden är innovationspotentialen obegränsad. Många nystartade företag växer fram för att ta itu med industriutmaningar, medan ett konstant tillflöde av förbättrade stora språkmodeller varje vecka förstärker den transformativa kraften hos generativ AI. Denna tekniska konvergens omformar industrier med gränslösa möjligheter.
Utgivningen och den utbredda användningen av kraftfulla språkmodeller som Gemini väcker dock viktiga etiska och praktiska överväganden och ber oss överväga en fråga – Kan vi som människor lita blint på sådana modeller?
I en konversation med Metaverse Post — Anand S, VD för USA-baserade B2B SaaS-företag Gramener betonade de potentiella fallgroparna med överdrivet beroende av LLMs liknande ChatGPT, och varnar för att denna trend sannolikt kommer att fortsätta med nya modeller som Gemini.
"Även med rätt träningsdata kan en människa göra fel när han går utanför sitt expertområde. Extrapolerar därför en stor språkmodell, eller minns den från vad den har lärt sig? Det är en enorm skillnad, och det är värt att testa. Vi bygger förtroende genom intuitioner med upprepade interaktioner med människor, säger Anand. "Vi vet att vi behöver undersöka för att undersöka en främling och det är så vi förmodligen också borde interagera med stora språkmodeller."
Till exempel, i fallet Varghese kontra Southern Airlines Company Limited, citerade en advokat fiktiv ChatGPT-genererade fall, vilket leder till att en domare straffar advokaten och betonar riskerna med okritisk användning. Anand framhåller behovet av försiktighet och granskning när man använder sådana språkmodeller.
Utöver detta kräver fältet en robust återkopplingsmekanism. ChatGPT uppmuntrar användarfeedback genom en enkel tummen upp/tummen ned-knapp, tillsammans med textinmatning. Detta tillvägagångssätt samlar värdefulla insikter om vad som fungerar bra och vad som inte gör det. Detta återkopplingssystem kommer sannolikt att bli vanligare med användningen av stora språkmodeller, hjälpa till att förbättra deras prestanda.
"Det är inte särskilt ekonomiskt att övervaka varje enskild utdata från en LLM, men att kunna flagga bort potentiella fel är en kraftfull spak," sa Anand Metaverse Post.
"Det som är intressant är att stora språkmodeller i sig är ganska bra på att bedöma andra stora språkmodeller. Så istället för att enbart använda en människa för att övervaka resultatet, kan vi använda en kombination av LLM och människor, där LLM så småningom tar över huvuddelen av den mänskliga rollen när de utvecklas, tillade han.
Modellkunnighet är vägen framåt
Inom LLM:s sfär framträder en nyckelprincip – ju mer interaktion, desto djupare förståelse. Detta enkla koncept understryker förhållandet mellan användarengagemang och förståelse av LLM-funktioner, vilket i slutändan driver ökat utnyttjande.
"Det handlar också om att förstå vad en viss LLM är bra för. Jag skulle till exempel inte använda DALL-E för att generera logotyper eftersom det inte genererar text särskilt bra. Men det gör ett bra jobb med att generera logotypidéer och logotypdesigner. Det här är ett exempel på modellkunskap som har kommit fram genom upprepad användning och därför ger mig defiDet finns förtroendeområden inom vilka jag kan använda modellen mer effektivt, säger Anand.
I strävan efter en balanserad integration av språkmodeller som tvillingarna in i vårt tekniska landskap föreslår Anand flera strategier. För det första förespråkar han dagliga interaktioner med stora språkmodeller, vilket främjar en vana som byggs upp över tiden. Likaså är det avgörande att säkerställa universell tillgång till dessa verktyg, med ett krav på mer uppmuntran i personlig användning. Anand noterar den befintliga trenden med att organisationer blockerar ChatGPT på bärbara arbetsdatorer, vilket understryker behovet av stödjande kommunikation.
Han föreslår implementering av organisatoriska mekanismer för att ge tillgång till och uppmuntra experiment med språkmodeller (LLM) i en miljö.
"I slutändan är det när människor blir bekanta som de kommer att förstå vad de ska lita på, när de ska använda det och hur de ska använda det. Ökad användning och uppmuntran till ökad användning är de viktigaste strategi- och utbildningsinitiativen som alla kan använda, säger Anand Metaverse Post.
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
fler artiklar
Kumar är en erfaren teknisk journalist med specialisering på de dynamiska skärningspunkterna mellan AI/ML, marknadsföringsteknologi och framväxande områden som krypto, blockchain och NFTs. Med över 3 års erfarenhet i branschen har Kumar etablerat en bevisad meritlista i att skapa övertygande berättelser, genomföra insiktsfulla intervjuer och leverera omfattande insikter. Kumars expertis ligger i att producera innehåll med hög effekt, inklusive artiklar, rapporter och forskningspublikationer för framstående industriplattformar. Med en unik kompetens som kombinerar teknisk kunskap och berättande, utmärker Kumar sig på att kommunicera komplexa tekniska koncept till olika publik på ett tydligt och engagerande sätt.
