A Gramener vezérigazgatója, Anand S figyelmeztet a vakon bízó LLM-ekben, a modell-műveltség szószólóiban rejlő kockázatokra
Röviden
Beszélgetés vele Metaverse Post – Anand S, a Gramener vezérigazgatója kiemelte az LLM-ekre való túlzott támaszkodás lehetséges buktatóit.
Az AI és ML eszközök százai telítik a piacot, az innovációs potenciál határtalan. Számos startup jelenik meg, hogy megbirkózzanak az iparági kihívásokkal, miközben a továbbfejlesztett nagy nyelvi modellek hetente folyamatos beáramlása felerősíti az ágazat átalakító erejét. generatív AI. Ez a technológiai konvergencia határtalan lehetőségeket kínáló iparágakat formál át.
Azonban az olyan erőteljes nyelvi modellek, mint az Ikrek, megjelenése és széles körben elterjedése fontos etikai és gyakorlati megfontolásokat vet fel, és arra kér bennünket, hogy fontoljuk meg a kérdést: Vajon megbízhatunk-e emberekként ezekben a modellekben?
Beszélgetés vele Metaverse Post – Anand S, az egyesült államokbeli székhelyű B2B SaaS vállalat vezérigazgatója Gramener hangsúlyozta az LLM-ekre való túlzott támaszkodás lehetséges buktatóit ChatGPT, figyelmeztetve arra, hogy ez a tendencia valószínűleg fennmarad az olyan feltörekvő modelleknél, mint a Gemini.
„Még a megfelelő képzési adatok birtokában is előfordulhat, hogy az ember hibázik, amikor kilép a szakterületén. Egy nagy nyelvi modell tehát extrapolál, vagy a tanultakra emlékezik? Óriási a különbség, érdemes kipróbálni. Önbizalmat építünk az intuíciókon keresztül az emberekkel való ismételt interakciók révén” – mondta Anand. „Tudjuk, hogy szondáznunk kell, hogy egy idegent nyomozhassunk, és valószínűleg így kellene kölcsönhatásba lépnünk a nagy nyelvi modellekkel is.”
Például a Varghese kontra Southern Airlines társasági korlátozott ügyben egy ügyvéd kitalált ChatGPT-generált ügyek, amelyek az ügyvédet megbüntető bíróhoz vezetnek, hangsúlyozva a kritikátlan használat kockázatait. Anand kiemeli, hogy az ilyen nyelvi modellek alkalmazásakor óvatosságra és körültekintésre van szükség.
Ezen túlmenően a terület robusztus visszacsatolási mechanizmust igényel. ChatGPT ösztönzi a felhasználók visszajelzését egy egyszerű „tetszik/nem tetszik” gombon keresztül, amelyet szövegbevitellel párosítanak. Ez a megközelítés értékes betekintést gyűjt arról, hogy mi működik jól és mi nem. Ez a visszacsatolási rendszer valószínűleg elterjedtebb lesz a használatával nagy nyelvi modellek, elősegítve teljesítményük javítását.
„Nem túl gazdaságos egy LLM minden egyes kimenetét figyelni, de a potenciális hibák kijelzése egy erős kar” – mondta Anand. Metaverse Post.
„Az az érdekes, hogy a nagy nyelvi modellek maguk is elég jók más nagy nyelvi modellek értékelésére. Tehát ahelyett, hogy kizárólag embert használnánk a kimenet megfigyelésére, használhatjuk az LLM-ek és az emberek kombinációját, és az LLM-ek végül átveszik az emberi szerep nagy részét, ahogy fejlődnek” – tette hozzá.
A modell-műveltség az út előre
Az LLM-ek területén egy kulcsfontosságú elv jelenik meg: minél több interakció, annál mélyebb a megértés. Ez az egyszerű koncepció aláhúzza a kapcsolatot a felhasználói elkötelezettség és az LLM-képességek megértése között, ami végső soron a fokozott kihasználtságot eredményezi.
„Ez arról is szól, hogy megértsük, mire jó egy adott LLM. Például nem használnám a DALL-E-t logók generálására, mert nem hoz létre jól szöveget. De remek munkát végez logóötletek és logótervek generálásakor. Ez egy példa a modell-műveltségre, amely az ismételt használat során jön létre, és ezért ez ad nekem defiolyan bizalmi területeket, amelyeken belül hatékonyabban tudom használni a modellt” – mondta Anand.
Az olyan nyelvi modellek kiegyensúlyozott integrációjára való törekvésben, mint pl Gemini Anand számos stratégiát javasol. Először is támogatja a nagy nyelvi modellekkel való napi interakciót, elősegítve az idővel kialakuló szokást. Ugyanígy kulcsfontosságú az ezekhez az eszközökhöz való univerzális hozzáférés biztosítása, a személyes használat további ösztönzése érdekében. Anand megjegyzi a szervezetek blokkolásának jelenlegi tendenciáját ChatGPT munkahelyi laptopokon, hangsúlyozva a támogató kommunikáció szükségességét.
Szervezeti mechanizmusok bevezetését javasolja, hogy hozzáférést biztosítsanak a nyelvi modellekhez, és ösztönözzék a kísérletezést egy környezetben.
„Végül, amikor az emberek megismerik, megértik, hogy miben bízhatnak, mikor és hogyan kell használni. A megnövekedett használat és a fokozott használat ösztönzése a legfontosabb stratégia és oktatási kezdeményezés, amelyet bárki alkalmazhat” – mondta Anand. Metaverse Post.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
További cikkek
Kumar tapasztalt műszaki újságíró, aki az AI/ML dinamikus metszéspontjaira, a marketingtechnológiára és az olyan feltörekvő területekre szakosodott, mint a kriptográfia, blokklánc és NFTs. Az iparágban szerzett több mint 3 éves tapasztalatával Kumar bevált eredményeket hozott fel lenyűgöző narratívák készítése, éleslátó interjúk készítése és átfogó betekintések nyújtása terén. A Kumar szakértelme abban rejlik, hogy nagy hatású tartalmakat készít, ideértve cikkeket, jelentéseket és kutatási publikációkat prominens iparági platformok számára. A technikai tudást és a történetmesélést ötvöző egyedülálló készségkészletével Kumar kiválóan kommunikál összetett technológiai koncepciókkal a különböző közönségekkel, világos és vonzó módon.
