ممکن است 31، 2023

زوال عقل هوش مصنوعی: چالش های محتوای تولید شده توسط مدل و تأثیر آن بر سیستم های هوش مصنوعی

تاریخ انتشار: 31 مه 2023 ساعت 12:00 بروزرسانی: 31 مه 2023 ساعت 10:11 ق.ظ.

ویرایش و بررسی شده: 31 مه 2023، ساعت 12:00 بعد از ظهر

به طور خلاصه

محققان پدیده زوال عقل مدل را کشف کرده اند که به نقص های برگشت ناپذیری اشاره دارد که در مدل ها هنگام ناپدید شدن دنباله های توزیع محتوای اصلی رخ می دهد.

برای حفظ مزایای مدل های آموزشی بر روی داده های اینترنتی، باید راه حل هایی برای کاهش از دست دادن احتمالی توزیع محتوای اصلی پیدا کرد.

پیشرفت های سریع در فناوری هوش مصنوعی دستاوردهای باورنکردنی را در پردازش زبان طبیعی و تولید تصویر به ارمغان آورده است. مدل های زبان بزرگ (LLM) مانند GPT-2, GPT-3 (.5) و GPT-4 عملکرد قابل توجهی را در تکالیف مختلف زبان نشان داده اند، در حالی که مدل هایی مانند ChatGPT این قابلیت های زبانی را به عموم مردم معرفی کرده اند. با این حال، همانطور که LLM ها رایج تر می شوند، و به طور قابل توجهی به زبان آنلاین موجود کمک می کنند، محققان موضوع نگران کننده ای را کشف کردند که به نام "مدل زوال عقل"

زوال عقل هوش مصنوعی: چالش های محتوای تولید شده توسط مدل و تأثیر آن بر سیستم های هوش مصنوعی — Metaverse Post (mpost.io)

توصیه می شود: OpenAI: هوش مصنوعی می تواند به طور بالقوه آسیب زیادی به مردم وارد کند، اما تلاش برای متوقف کردن پیشرفت یک گزینه نیست

در مقاله‌ای اخیر، محققان پدیده زوال عقل مدل را روشن کردند که به نقص‌های غیرقابل برگشتی اشاره دارد که در مدل‌ها هنگام ناپدید شدن دنباله‌های توزیع محتوای اصلی رخ می‌دهد. این مطالعه نشان می دهد که استفاده از محتوای تولید شده توسط مدل در طول آموزش می تواند منجر به این شود کاهش شناختی در مدل های حاصل. این اثر در رمزگذارهای خودکار متغیر (VAEs)، مدل‌های مخلوط گاوسی (GMM) و LLM مشاهده شده است. یافته‌ها بر لزوم پرداختن به این موضوع برای حفظ فواید تاکید می‌کنند مدل های آموزشی بر روی داده های در مقیاس بزرگ به دست آمده از اینترنت.

محققان درک نظری از زوال عقل مدل ارائه می دهند و شیوع آن را در انواع مختلف نشان می دهند مدل های تولیدی. آنها استدلال می کنند که این پدیده باید جدی گرفته شود تا از اثربخشی مداوم مدل های آموزشی در سطح گسترده اطمینان حاصل شود داده های وب. از آنجایی که LLM ها به طور فزاینده ای به زبان و محتوای موجود آنلاین کمک می کنند، ارزش داده ها نیز افزایش می یابد جمع آوری شده از تعاملات واقعی انسانی با سیستم ها حتی حیاتی تر می شود.

مقدمه ای از stable diffusion، تکنیکی که ایجاد تصویر را متحول کرد متن توصیفی، بیشتر نمونه ای از تأثیر LLM در تولید محتوا است. با این حال، این مطالعه نشان می دهد که استفاده از محتوای تولید شده توسط مدل می تواند باعث از بین رفتن توزیع محتوای انتهایی شود و به طور بالقوه تنوع و غنای داده های اصلی را از بین ببرد.

در حالی که داده های در مقیاس بزرگ استخراج شده از وب، بینش های ارزشمندی را در مورد تعاملات انسانی با سیستم ها ارائه می دهد، حضور محتوای تولید شده توسط LLM چالش های جدیدی را معرفی می کند. محققان بر نیاز به پرداختن به زوال عقل مدل و یافتن راه‌حل‌هایی تأکید می‌کنند که مزایای مدل‌های آموزشی بر روی داده‌های اینترنتی را حفظ کند و در عین حال از دست دادن بالقوه توزیع محتوای اصلی را کاهش دهد.

همانطور که حوزه هوش مصنوعی همچنان در حال توسعه است، برای محققان، توسعه‌دهندگان و سیاست‌گذاران بسیار مهم است که از محدودیت‌ها و چالش‌های مرتبط با مدل‌های آموزشی در مورد محتوای تولید شده توسط مدل آگاه باشند. با درک و پرداختن به مسائلی مانند زوال عقل مدل، می‌توانیم از استفاده مسئولانه و مؤثر از فناوری هوش مصنوعی در آینده اطمینان حاصل کنیم.

درباره هوش مصنوعی بیشتر بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف