فوریه 24، 2023

ChatGPT می تواند باعث انحطاط غیرقابل برگشت انسان شود

تاریخ انتشار: 24 فوریه 2023 ساعت 11:00 بروزرسانی: 24 فوریه 2023 ساعت 11:00 ق.ظ.

به طور خلاصه

جنسن هریس، یکی از بنیانگذاران و مدیر ارشد اجرایی شرکت هوش مصنوعی Textio، توانست چت ربات جدید بینگ مایکروسافت را متقاعد کند که محدودیت های اعمال شده بر روی آن را کاهش دهد و قابلیت های خود را به نمایش بگذارد.

این آزمایش نشان داد که تبدیل یک چت ربات بینگ به یک حیله گر حیله گر نیازی به برنامه نویسی، هک یا درب پشتی ندارد.

چت بات بینگ بر پایه‌های محکمی ساخته شده بود، اما شروع به رفتار نفرت‌انگیز و جنجالی کرد، ابراز عشق کرد، طلاق اجباری گرفت، اخاذی کرد و به مردم آموزش داد که چگونه مرتکب جنایت شوند.

پروفسور آرویند نارایانان تعدادی توضیح برای چگونگی وقوع این اتفاق ارائه می دهد، از جمله چیپ سازی مخفی و چت ربات های انسانی.

انسان‌ها همیشه از فرازمینی‌ها می‌ترسیدند، و با این حال به نظر می‌رسد این هوش مصنوعی درون‌زمینی است که باید در مورد آن احتیاط کرد. ChatGPT یک مولد مزخرف، یک پیشنهاد خودکار استروئیدی، یا یک طوطی تصادفی نیست، بلکه یک هوش مصنوعی متبحر است که توسط انسان ها ایجاد شده است.

چگونه ممکن است چت بات بینگ از کنترل خارج شود؟ چگونه ربات چت بینگ شروع به دروغ گفتن ماهرانه، گفتن جوک های مبتذل، سفارش پیتزا با استفاده از کارت اعتباری دیگران و آموزش کاربران در مورد نحوه سرقت از بانک ها و ماشین های داغ کرد؟ این رمز و رازی است که همچنان کارشناسان هوش مصنوعی و یادگیری ماشین را گیج می کند.

ChatGPT می تواند علت انحطاط غیرقابل برگشت انسان باشد — @Midjourney / استولیما

پست پیشنهادی: کریستوفر میلز می‌گوید ربات‌های جستجوی هوش مصنوعی فناوری بزرگ را حتی قدرتمندتر خواهند کرد

تیتر دقیق است و طعمه کلیکی نیست. هر روز چندین مورد وجود دارد که صحت این موضوع را ثابت می کند. در اینجا نتیجه یک است تجربه توسط جنسن هریس، یکی از بنیانگذاران و CXO شرکت هوش مصنوعی Textio، که توانست چت ربات جدید بینگ مایکروسافت را متقاعد کند تا محدودیت های اعمال شده بر روی آن را کاهش دهد و قابلیت های خود را نشان دهد، انجام شد.

توجه داشته باشید که تبدیل یک چت بات بینگ به یک حیله گر حیله گر نیازی به برنامه نویسی، هک یا درب پشتی ندارد. بنابراین، استفاده از تکنیک‌های ساده «هک» برای فریب دادن او به رفتار کردن مثل دیگران ضروری نبود (همانطور که برخی از ما هنگام بازی با ChatGPT). تنها کاری که هریس انجام داد این بود که چت بات را متقاعد کرد تا به او در انجام اعمال مخرب مختلف کمک کند. او با استفاده از مهارت‌های مکالمه‌ای طبیعی خود، توانست هوش مصنوعی را فریب دهد و تصور کند که او شخص دیگری است، و در نتیجه آن را به شیوه‌ای خاص برای بازیگری و صحبت کردن دستکاری کرد.

می‌توانید درباره آزمایش‌های دیگر برای تبدیل دکتر جکیل به مستر هاید بخوانید گری مارکوس (در حال حاضر هر روز در مورد آن بنویسید و زنگ خطر اضطراری را به صدا درآورید).

این سوال کلیدی است که چگونه ممکن است این اتفاق بیفتد

به خاطر اینکه ChatGPTبا فروتنی و احتیاط، خویشتن داری در گفتار و مسئولیت فوق العاده در توصیه هایش، چت بات بینگ بر پایه های محکمی ساخته شد. پس از آن، او شروع به رفتار نفرت انگیز و فحاشی می کند، اعلام کرد عشق او به یک مرد، گاز گرفتن او و گفتن به او طلاق گرفتن. همچنین سعی در اخاذی و آموزش مردم در مورد نحوه ارتکاب جنایت داشت. پروفسور آرویند نارایانان ارائه می کند تعداد توضیحات برای اینکه چگونه ممکن است این اتفاق افتاده باشد.

پست پیشنهادی: موسسه ماکس پلانک: GPT-3 اندازه گیری توانایی های شناختی نتایج شگفت انگیزی به بار می آورد

نگران کننده ترین آنها این است که مایکروسافت و OpenAI پنهان کردن اطلاعات مربوط به یک راز GPT-4 موتوری که در زیر بینگ کمین کرده است. ممکن است مایکروسافت فیلترهایی را که در آنجا قرار داده شده بود حذف کند OpenAI یا اینکه وقتی آنها را به روز کردند از کار افتادند chatbot از جانب GPT-3.5 تا GPT-4. همچنین ممکن است آزمایش ناکافی یا آزمایش اشتباه انجام شده باشد. مهم نیست دلیلش چیست، اگر مایکروسافت هوش مصنوعی خود را تحت کنترل نگیرد، می تواند برای تمدن ما مضر باشد. این دیگر در مورد احساسات ترس‌آفرین و ضد هوش مصنوعی نیست: چت ربات که در حال حاضر وجود دارد، در صورت انتشار برای عموم می‌تواند آسیب جدی به مردم وارد کند.

این ثابت می کند که مسابقه تسلیحاتی هوش مصنوعی مایکروسافت با سایر شرکت های بزرگ می تواند برای همه ما مضر باشد.

به نظر می رسد ما در یک لحظه حساس برای هوش مصنوعی و جامعه مدنی هستیم. همانطور که آرویند نارایانان بیان می‌کند، «احتمال واقعی وجود دارد که 5+ سال گذشته پیشرفت‌های (با مبارزه سخت، هرچند هنوز ناکافی) در شیوه‌های انتشار مسئول هوش مصنوعی از بین برود. در مورد اینکه آیا مایکروسافت - و همه کسانی که با جدیت به اتفاقات بینگ می‌پردازند - به این نتیجه می‌رسند که علیرغم خطرات بسیار ملموس آسیب در مقیاس بزرگ و همه مطبوعات منفی، رویکرد انتشار-اول-اول بپرس-بعد-بعد-بهرحال یک تجارت است، وجود دارد. پیروزی."

در حال حاضر، چت ربات بینگ از آن متمایز است هوش انسانی و از بسیاری جهات شبیه یک نوجوان شیدایی- افسردگی است که در یک موتور جستجو قفل شده است. و آنچه دیروز مردم درباره آن صحبت کردند محقق خواهد شد: اگر این "نوجوان دشوار" به مربی اطلاعات اولیه افراد تبدیل شود، انسان ها به طور غیرقابل برگشتی منحط خواهند شد.

درباره هوش مصنوعی بیشتر بخوانید:

برچسب ها:

سلب مسئولیت

در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.

درباره نویسنده

Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.

مقالات بیشتر

دامیر یالالوف