آناند اس، مدیر عامل Gramener نسبت به خطرات در اعتماد کورکورانه به LLM ها، حامیان سواد مدل هشدار می دهد.
به طور خلاصه
در گفتگو با Metaverse Post – آناند اس، مدیر عامل Gramener، مشکلات احتمالی اتکای بیش از حد به LLM را برجسته کرد.
با صدها ابزار هوش مصنوعی و ML که بازار را اشباع کرده است، پتانسیل نوآوری نامحدود است. استارت‌آپ‌های متعددی برای مقابله با چالش‌های صنعت در حال ظهور هستند، در حالی که هجوم مداوم مدل‌های زبان بزرگ پیشرفته در هر هفته، قدرت تحول‌آفرین را تقویت می‌کند. هوش مصنوعی مولد. این همگرایی تکنولوژیکی در حال تغییر شکل صنایع با امکانات بی حد و حصر است.
با این حال، انتشار و استفاده گسترده از مدل‌های زبانی قدرتمندی مانند جمینی ملاحظات اخلاقی و عملی مهمی را مطرح می‌کند و از ما می‌خواهد یک سوال را در نظر بگیریم - آیا ما به عنوان انسان می‌توانیم کورکورانه به چنین مدل‌هایی اعتماد کنیم؟
در گفتگو با Metaverse Post - آناند اس، مدیر عامل شرکت B2B SaaS مستقر در ایالات متحده گرامنر بر مشکلات بالقوه اتکای بیش از حد به LLMهایی مانند ChatGPT، هشدار می دهد که این روند احتمالاً با مدل های نوظهور مانند Gemini ادامه خواهد داشت.
"حتی با داده های آموزشی مناسب، یک انسان ممکن است در خارج از حوزه تخصصی خود مرتکب خطا شود. بنابراین آیا یک مدل زبان بزرگ برون یابی است یا از آموخته های خود به یاد می آورد؟ تفاوت زیادی وجود دارد و ارزش آزمایش را دارد. ما اعتماد به نفس را از طریق شهود با تعاملات مکرر با مردم ایجاد می کنیم. ما می دانیم که برای تحقیق در مورد یک غریبه باید تحقیق کنیم و احتمالاً باید با مدل های بزرگ زبان نیز تعامل داشته باشیم.
به عنوان مثال، در پرونده محدود شرکت هواپیمایی Varghese vs Southern Airlines، یک وکیل به داستان های تخیلی اشاره کرد ChatGPT- پرونده های ایجاد شده، منجر به جریمه قاضی وکیل، با تاکید بر خطرات استفاده غیرقابل انتقاد می شود. آناند نیاز به احتیاط و موشکافی را هنگام استفاده از چنین مدل های زبانی برجسته می کند.
علاوه بر این، این میدان خواستار یک مکانیسم بازخورد قوی است. ChatGPT بازخورد کاربر را از طریق یک دکمه ساده به سمت بالا/شست پایین همراه با ورودی متن تشویق می کند. این رویکرد بینش های ارزشمندی را در مورد اینکه چه چیزی خوب کار می کند و چه چیزی خوب نیست جمع آوری می کند. این سیستم بازخورد احتمالاً با استفاده از مدل های زبان بزرگ، به بهبود عملکرد آنها کمک می کند.
آناند گفت: نظارت بر تک تک خروجی های یک LLM چندان مقرون به صرفه نیست، اما توانایی شناسایی خطاهای احتمالی یک اهرم قدرتمند است. Metaverse Post.
جالب اینجاست که خود مدل‌های زبان بزرگ در ارزیابی سایر مدل‌های زبانی بسیار خوب هستند. بنابراین به‌جای استفاده از انسان منحصراً برای نظارت بر خروجی، می‌توانیم از ترکیبی از LLM و انسان استفاده کنیم و LLMها در نهایت با تکامل آنها بخش عمده‌ای از نقش انسان را بر عهده می‌گیرند.»
سواد مدل راه رو به جلو است
در حوزه LLM، یک اصل کلیدی ظاهر می شود - هر چه تعامل بیشتر باشد، درک عمیق تر. این مفهوم ساده بر رابطه بین تعامل کاربر و درک قابلیت‌های LLM تاکید می‌کند و در نهایت باعث افزایش استفاده می‌شود.
"همچنین در مورد درک اینکه یک LLM خاص برای چه چیزی خوب است. به عنوان مثال، من از DALL-E برای تولید آرم استفاده نمی‌کنم زیرا متن را به خوبی تولید نمی‌کند. اما در تولید ایده های لوگو و طرح های لوگو کار بسیار خوبی انجام می دهد. این نمونه ای از سواد مدل است که با استفاده مکرر به وجود آمده است و بنابراین به من می دهد defiآناند گفت: زمینه‌های اعتمادی وجود دارد که بتوانم از این مدل به طور مؤثرتری استفاده کنم.
در تلاش برای یکپارچگی متعادل از مدل های زبانی مانند برج جوزا در چشم انداز تکنولوژیکی ما، آناند چندین استراتژی را پیشنهاد می کند. اولاً، او از تعاملات روزانه با مدل‌های زبانی بزرگ حمایت می‌کند و عادتی را تقویت می‌کند که در طول زمان ایجاد می‌شود. به همین ترتیب، تضمین دسترسی جهانی به این ابزارها، با درخواست تشویق بیشتر در استفاده شخصی، بسیار مهم است. آناند به روند موجود مسدودسازی سازمان ها اشاره می کند ChatGPT روی لپ‌تاپ‌های کاری، که بر نیاز به ارتباطات حمایتی تاکید می‌کند.
او اجرای مکانیسم‌های سازمانی را برای دسترسی و تشویق آزمایش با مدل‌های زبانی (LLM) در یک محیط پیشنهاد می‌کند.
"در نهایت، زمانی است که مردم آشنا می شوند که می فهمند به چه چیزی اعتماد کنند، چه زمانی از آن استفاده کنند و چگونه از آن استفاده کنند. آناند گفت: افزایش استفاده و تشویق افزایش استفاده، مهمترین استراتژی و ابتکارات آموزشی است که هر کسی می تواند به کار گیرد. Metaverse Post.
رفع مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTs. کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
مقالات بیشتر
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTs. کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
