OpenAI: هوش مصنوعی می تواند به طور بالقوه آسیب زیادی به مردم وارد کند، اما تلاش برای متوقف کردن پیشرفت یک گزینه نیست
به طور خلاصه
OpenAIسند "برنامه ریزی برای AGI و فراتر از آن" معرفی تدریجی و آهسته مدل های پیچیده تر و "هوشمند"، سازماندهی ممیزی مستقل از سیستم های بزرگ و محدود کردن منابع محاسباتی را پیشنهاد می کند.
OpenAI می خواهد هوش مصنوعی به طور یکسان برای همه باز باشد و سازگارتر و سازگارتر ایجاد کند مدل های قابل مدیریت برای کاهش تعصب و رفتار نامطلوب.
OpenAI اخیراً سندی با عنوان "برنامه ریزی برای AGI و فراتر از آن" منتشر شده است. این ایده‌های گسترده‌ای را بیان می‌کند که اقدامات شرکت را با نزدیک‌تر شدن جهان به توسعه AGI (هوش عمومی مصنوعی) هدایت می‌کند.
OpenAI با معتقد است در حالی که هوش مصنوعی پتانسیل آسیب رساندن به افراد را دارد، تلاش برای توقف پیشرفت یک گزینه نیست. در نتیجه، ما باید یاد بگیریم که چگونه این پیشرفت را حفظ کنیم تا به طور قابل توجهی بدتر نشود.
سند را می توان یافت اینجا کلیک نمایید. بیایید چند عنصر مهم از آن را برجسته کنیم:
- OpenAI می‌خواهد AGI به مردم کمک کند تا در تمام جنبه‌های زندگی خود، چه از نظر اقتصادی و چه از لحاظ علمی، پیشرفت کنند.
به جای ایجاد هوش مصنوعی بزرگ و فوق العاده جالب و انتشار فوری آن در جهان، OpenAI به تدریج مدل های پیچیده تر و "هوشمند" را معرفی خواهد کرد. فرض بر این است که افزایش تدریجی قابلیت‌های هوش مصنوعی جهان را شوکه نخواهد کرد، و به انسان‌ها زمان می‌دهد تا سازگار شوند، اقتصاد را تطبیق دهند و رویه‌هایی برای تعامل با هوش مصنوعی ایجاد کنند. - OpenAI از همه سازمان ها دعوت می کند تا به طور رسمی اصل فوق الذکر را بپذیرند (به تدریج هوش مصنوعی قدرتمند را گسترش دهند). آلتمن همچنین توصیه می‌کند که مقدار منابع محاسباتی را که ممکن است برای آموزش مدل‌ها استفاده شود و ممیزی‌های بی‌طرفانه سیستم‌های اصلی را قبل از در دسترس قرار گرفتن در دسترس عموم، تنظیم کنید. به جای شرکت در مسابقاتی مانند "چه کسی اولین کسی است که یک مدل سردتر و بزرگتر عرضه می کند؟" OpenAI از شرکت ها می خواهد همکاری برای بهبود ایمنی هوش مصنوعی
- OpenAI بر این باور است که بسیار مهم است که دولت ها در مورد دوره های آموزشی که از مقیاس خاصی فراتر می رود مطلع شوند. این یک مفهوم جذاب است و ما می خواهیم در مورد آن بیشتر بدانیم برنامه OpenAI در این زمینه دارد. این پیشنهاد در ابتدا برای من چندان عالی به نظر نمی رسد.
- OpenAI سعی خواهد کرد مدل هایی را توسعه دهد که قابل اطمینان تر و قابل کنترل تر باشند و به احتمال زیاد سوگیری و رفتار نامطلوب در هوش مصنوعی را محدود کنند. رویکرد اتخاذ شده توسط OpenAI در این حالت این است که مدل را به شکلی بسیار محدود در دسترس عموم قرار دهیم و در عین حال به کاربران امکان شخصی سازی آن را نیز بدهیم. از آنجایی که مصرف‌کنندگان نمی‌توانند چیزی را در آنجا «شخصی‌سازی» کنند، مطمئن نیستم که چگونه این به کل مدل کمک می‌کند که سوگیری کمتری داشته باشد. مگر اینکه شرکت را از مسئولیت اقدامات مدل مبرا کند.
به طور کلی، سند به روش صحیح اشاره می کند. با این حال، یک تضاد جزئی بین "ما فوراً مدل های جالب را به مردم نشان نمی دهیم، اما در مورد آنها با دولت ها صحبت خواهیم کرد" و «مردم باید بدانند در مورد پیشرفت هوش مصنوعی.” به طور خلاصه، ما منتظر توضیحات دقیق از طرف هستیم OpenAI در تمام موضوعات
درباره هوش مصنوعی بیشتر بخوانید:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
مقالات بیشتر
Damir رهبر تیم، مدیر محصول و سردبیر در است Metaverse Post، موضوعاتی مانند AI/ML، AGI، LLMs، Metaverse و Web3- زمینه های مرتبط مقالات او هر ماه مخاطبان زیادی از بیش از یک میلیون کاربر را جذب می کند. به نظر می رسد او یک متخصص با 10 سال تجربه در سئو و بازاریابی دیجیتال است. دمیر در Mashable, Wired, ذکر شده است. Cointelegraph، نیویورکر، Inside.com، Entrepreneur، BeInCrypto، و انتشارات دیگر. او بین امارات متحده عربی، ترکیه، روسیه و کشورهای مستقل مشترک المنافع به عنوان یک عشایر دیجیتال سفر می کند. دمیر مدرک لیسانس خود را در فیزیک گرفت که به اعتقاد او مهارت های تفکر انتقادی لازم برای موفقیت در چشم انداز دائماً در حال تغییر اینترنت را به او داده است.
