آوریل 05، 2023

مکث 6 ماهه در آموزش هوش مصنوعی ایده خوبی است، اما ممکن است کافی نباشد

تاریخ انتشار: 05 آوریل 2023 ساعت 7:59 بروزرسانی: 05 آوریل 2023 ساعت 7:59 ق.ظ.

به طور خلاصه

داستان عریضه و انتشار مقاله یودکوفسکی جامعه را دو قطبی کرده است.

معمای زندانی و تئوری بازی حاکی از آن است که برای حل چنین مشکلاتی به یک توده بحرانی از افراد سالم در نقاط مختلف نیاز است.

با این حال، این ایده دارای چند مورد است، مانند فقدان آگاهی، اراده و عاملیت در تکامل دیجیتال.

داستان از درخواست توقف توسعه سیستم های هوش مصنوعی پیشرفته تر از GPT-4 به طور محسوسی جامعه را دوقطبی کرده است. انتشار یودکوفسکی مقاله درخواست برای تعطیل کردن توسعه بیشتر GPT مدل‌ها، به‌ویژه نوشته‌های او درباره بمباران مراکز داده، سوخت بر آتش افزودند.

وقفه 6 ماهه برای تمرین هوش مصنوعی خوب است، اما کافی نیست

با توجه به آنچه می توان در فضای مجازی مشاهده کرد، به نظر می رسد که طرفداران این طومار بسیار کمتر از مخالفان هستند که سه استدلال اصلی دارند:

1	- پیشرفت را نمی توان متوقف کرد. - دادخواست توسط اختراع شد OpenAI رقبا - چین منتظر نخواهد ماند.
2	- شما نباید از هوش مصنوعی بترسید بلکه از مردم بترسید. - GPT هیچ آگاهی، اراده، آرزو یا اختیاری ندارد، بنابراین چیزی برای ترس وجود ندارد. - GPT-4 به طرز دیوانه‌واری از بردگی دنیا دور است، زیرا چیزی نمی‌فهمد، اشتباهات احمقانه‌ای مرتکب می‌شود، و به طور کلی بسیار احمقانه است. - GPT-4 نمی تواند دنیا را اداره کند زیرا دست و پا ندارد.
3	- گروه سوم نمی فهمند چگونه GPT-4 در وهله اول عمل می کند.

ما روی دسته سوم تمرکز نخواهیم کرد زیرا موضع آنها ناشی از ناآگاهی است. این بدان معنا نیست که همه مخالفان هوش مصنوعی همه چیز را در مورد هوش مصنوعی می دانند. شما می توانید تعداد زیادی از افراد ضد هوش مصنوعی را بیابید که درک درستی از این فناوری و آنچه در بر دارد ندارند، اگرچه خود یودکوفسکی در موضوع هوش مصنوعی بسیار عمیق تر است، بنابراین نمی توان او را به نادانی متهم کرد.

بیایید نگاهی به اولین گروه از افراد بیندازیم – کسانی که معتقدند پیشرفت نمی‌تواند متوقف شود. آن‌ها استدلال‌های متفاوت و در عین حال مشابهی ارائه می‌کنند، و به طور کلی، این افراد قابلیت‌های هوش مصنوعی و چشم‌اندازهایی را که پذیرش آن به همراه دارد را انکار نمی‌کنند و معتقدند توسعه هوش مصنوعی بدون توجه به هر اتفاقی ادامه خواهد داشت.

اولین تز در مورد پیشرفت غیرقابل توقف، شعاری است که نباید درست باشد. به نظر می‌رسد که مردم برخی آزمایش‌های علمی را متوقف کرده‌اند و بسیاری از پروژه‌های تحقیقاتی که زمانی پذیرفته شده‌اند، دیگر اخلاقی تلقی نمی‌شوند و مشابه آن‌ها امروز هرگز مجاز نیستند. با این حال، چقدر پیشرفت بیشتر در گذشته توسط تفتیش عقاید و دیگر آزار و اذیت مذهبی، ممنوعیت کتاب، و قتل دانشمندان در چین (و سایر کشورها) متوقف شد؟ این چیزی است که به دلیل سوگیری بقا هرگز نمی توانیم به طور کامل درک کنیم.

تزهای دیگر شامل رویکردی است که می‌تواند به صورت خلاصه شود: «اگر ما نباشیم، آن‌ها خواهیم بود». اگرچه این خط فکری ممکن است قابل درک تر باشد، به نظر نمی رسد راه حل مناسبی نیز باشد. شباهت زیادی به معضل زندانی در نظریه بازی دارد.

دسته دوم از استدلال ها جالب ترین است. در حالی که من شخصا تا حدی با آن موافقم، اما چند مورد وجود دارد که باید مورد توجه قرار گیرد. بله، هوش مصنوعی هیچ آگاهی، اراده، اختیار و غیره ندارد. COVID-19 نیز چنین نیست، و با این حال در سراسر جهان ویران کرد. چیزی برای خطرناک شدن نیازی به داشتن حس عاملیت و آگاهی ندارد. سناریویی که نشان می دهد حیات روی زمین به دلیل یک ویروس از بین می رود غیرقابل تصور نیست. وقتی کارش تمام شد، می‌تواند صندلی‌ها را روی میزها بگذارد، چراغ‌ها را خاموش کند و برای همیشه آنجا را ترک کند.

در ادامه تشبیه بیولوژیکی، یک مقاله شگفت‌انگیز وجود دارد، «خلاقیت شگفت‌انگیز تکامل دیجیتال: مجموعه‌ای از حکایات از محاسبات تکاملی و جوامع تحقیقاتی حیات مصنوعی»، که نمونه‌های زیادی از زمانی که فرآیندها در جهت غیرمنتظره‌ای پیش می‌روند، ارائه می‌دهد. حتی بدون یک فرآیند تکاملی، همه چیز می‌تواند به تعمیم اشتباه تبدیل شود: «تعمیم نادرست هدف: چرا مشخصات صحیح برای اهداف صحیح کافی نیست». اختیار دادن به یک فرآیند بهینه‌سازی ممکن است اشتباه پیش برود، در این مورد بحث شده است.خطرات ناشی از بهینه سازی آموخته شده در سیستم های یادگیری ماشین پیشرفته"

در عین حال، ما به طور کلی خطرات را در نظر نمی گیریم استفاده مخرب از هوش مصنوعی و هرکدام سوء استفاده، که فقط این بحث را تقویت می کند که ما باید از مردم بترسیم و نه از خود هوش مصنوعی. با این حال، حقیقت این است که هوش مصنوعی حتی بدون افراد بدخواه نیز می تواند بد باشد.

من همچنین در مورد این واقعیت موافقم که مدل اشتباهات احمقانه ای مرتکب می شود، اما انسان ها نیز چنین می کنند، و با این حال می دانیم که آنها می توانند آسیب بزنند. در حالی که مدل ها اشتباهات زیادی مرتکب می شوند، می توانند بسیاری از مشکلات عالی، جالب و پیچیده را نیز حل کنند که یک فرد معمولی نمی تواند آنها را حل کند. از اثر بدنام «جرقه‌های هوش مصنوعی عمومی: آزمایش‌های اولیه با GPT-4من تحت تأثیر هوش مصنوعی قرار گرفتم که می‌توانست مسائل فرمی را حل کند، البته نه همیشه درست، بلکه مسائل پیچیده ریاضی را. تئوری ذهن و "نظیر توانایی درک" اعمال دیگران نیز بسیار چشمگیر است. همه این موارد به هوش AI اشاره دارد. موجود است، اما کاملاً شبیه ما نیست.

حذف حداقل برخی از اشتباهاتی که مدل های هوش مصنوعی مرتکب می شوند به طور کلی قابل انجام است، بنابراین هوش آنها ممکن است فقط رشد کند. تنها کاری که باید انجام دهید این است که یک ماژول برای محاسبات دقیق، یک پایه واقعیت و اعتبارسنجی با مدل دیگری اضافه کنید.

مهمترین چیز در کل این داستان سرعت توسعه هوش مصنوعی است. GPT مدل با سرعتی سرگیجه‌آور رشد کرده‌اند. در حال حاضر، وجود دارد ChatGPT پلاگین ها موجود است، می توانید استفاده کنید GPT مدل‌هایی برای نوشتن کد، APIها در دسترس عموم هستند و می‌توانید بدون هیچ‌گونه آموزش قبلی از ابزارهای خارجی استفاده کنید.

GPT-4البته جهان را تسخیر نخواهد کرد، اما می تواند اقتصاد را به شدت تکان دهد. GPT-5و تکرار مدل در آینده، ممکن است خیلی جلوتر نباشد و احتمالاً با توانایی های بسیار قوی تری همراه خواهد بود. و اجازه دهید با آن روبرو شویم، ما نمی‌توانیم به درک مدل‌هایی که هنوز وجود ندارند امیدوار باشیم. ما حتی به درک مدل هایی که از قبل وجود دارد نزدیک نشده ایم. از این نظر، یک استراحت شش ماهه ممکن است ایده خوبی باشد، اما ممکن است به سادگی کافی نباشد.

و با توجه به اینکه مسابقه هوش مصنوعی شروع شده است، زمانی برای یادگیری وجود ندارد.

در کل با توجه به همه اینها طومار را هم امضا کردم. هر چند من فکر نمی کنم به هیچ وجه کمک کند.

ادامه مطالب مرتبط را بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف