راس اندرسون از فروپاشی مدل هوش مصنوعی به عنوان یک مشکل رو به رشد در محتوای آنلاین صحبت می کند
به طور خلاصه
راس اندرسون در مورد خطرات بالقوه مرتبط با زوال فکری نسل های آینده مدل های زبانی بزرگ هشدار می دهد.LLM)که به ابزار اولیه ویرایش و ایجاد متون جدید تبدیل شده اند.
با درک و کاهش خطرات مرتبط با آن می توان از فروپاشی مدل جلوگیری کرد هوش مصنوعی مولد.
تنها در شش ماه، هوش مصنوعی مولد پیشرفت های چشمگیری داشته است و توجه جهان را به خود جلب کرده است. ChatGPT، نمونه بارز این فناوری است که به سرعت محبوبیت و استفاده گسترده ای پیدا کرد. با این حال، کارشناس مشهور راس اندرسون در مورد این هشدار می دهد خطرات احتمالی مرتبط با افول فکری نسل های آینده مدل ها.
راس اندرسون یک پیشگام در مهندسی ایمنی و یک مرجع پیشرو در یافتن آسیب‌پذیری‌ها در سیستم‌ها و الگوریتم‌های امنیتی است. او به‌عنوان عضو آکادمی سلطنتی مهندسی و استاد دانشگاه کمبریج، مشارکت گسترده‌ای در زمینه امنیت اطلاعات، شکل‌دهی مدل‌های تهدید در بخش‌های مختلف داشته است.
اکنون، اندرسون زنگ خطر را در مورد یک تهدید جهانی برای بشریت به صدا در می آورد-فروپاشی مدل های زبان بزرگ (LLM). تا همین اواخر، بیشتر متن های موجود در اینترنت توسط انسان تولید می شد. LLM ها اکنون به ابزار اصلی برای ویرایش و ایجاد متون جدید تبدیل شده اند و جایگزین محتوای تولید شده توسط انسان شده اند.
این تغییر سؤالات مهمی را ایجاد می کند: این روند به کجا منتهی خواهد شد و وقتی LLM ها بر اینترنت مسلط شوند چه اتفاقی خواهد افتاد؟ مفاهیم فراتر از متن به تنهایی است. به عنوان مثال، اگر الف مدل موزیکال با ساخته‌های موتزارت آموزش داده می‌شود، نسل‌های بعدی ممکن است فاقد درخشش اصلی باشند و نتایج ضعیف‌تری به دست آورند، قابل مقایسه با یک موزیکال «سالیری». با هر نسل بعدی، خطر کاهش کیفیت و هوش افزایش می یابد.
این مفهوم ممکن است شما را به یاد فیلم "چندگانه"، با بازی مایکل کیتون، که در آن شبیه سازی منجر به کاهش هوش و افزایش حماقت هر یک از کلون های بعدی می شود.
همین پدیده می تواند در مورد LLM ها نیز رخ دهد. آموزش یک مدل با محتوای تولید شده توسط مدل منجر به نقص های غیرقابل برگشت و کاهش کیفیت متن در طول نسل ها می شود. توزیع اصلی محتوا تحریف می شود و در نتیجه هجوم اطلاعات بی معنی به وجود می آید. توزیع های گاوسی همگرا می شوند و در موارد شدید، متن ممکن است بی معنی شود. حتی ممکن است نسل‌های بعدی واقعیت را بر اساس اشتباهاتی که پیشینیان مرتکب شده‌اند، اشتباه درک کنند. این پدیده به "فروپاشی مدل" معروف است.
پیامدهای فروپاشی مدل قابل توجه است:
✔️ اینترنت به طور فزاینده ای پر از محتوای بی معنی می شود.
✔️ افرادی که این محتوا را مصرف می کنند ممکن است ناخواسته از آگاهی کمتری برخوردار شوند و توانایی های فکری خود را از دست بدهند.
خوشبختانه امیدی هست. اندرسون پیشنهاد می‌کند که می‌توان از فروپاشی مدل جلوگیری کرد و در میان نگرانی‌ها نوری از خوش‌بینی ارائه می‌دهد. برای کسب اطلاعات بیشتر در مورد راه حل های بالقوه و نحوه جلوگیری از کاهش کیفیت اطلاعات آنلاین، ما شما را تشویق می کنیم که بیشتر کاوش کنید.
در حالی که هوش مصنوعی مولد نویدبخش است، ضروری است که هوشیار باقی بمانیم و به چالش هایی که ارائه می دهد رسیدگی کنیم. با درک و کاهش خطرات مرتبط با فروپاشی مدل، می‌توانیم در جهت بهره‌برداری از مزایای این فناوری و در عین حال حفظ یکپارچگی اطلاعات در اینترنت تلاش کنیم.
درباره هوش مصنوعی بیشتر بخوانید:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
