OpenAI تیمی متشکل از 50+ متخصص را برای تقویت جمع آوری می کند GPT-4ایمنی
به طور خلاصه
OpenAI تیمی متشکل از 50 کارشناس را استخدام کرده است تا اطمینان حاصل شود که جدیدترین آن است مدل زبان, GPT-4، برای استفاده بی خطر است.
این تیم شامل محققان و مهندسان متخصص در ایمنی هوش مصنوعی، اخلاق و سیاست است.
هدف پیشگیری است GPT-4 از تولید محتوای مضر یا مغرضانه و اطمینان از همسویی آن با ارزش های انسانی.
OpenAI بیش از 50 کارشناس از حوزه های مختلف را برای ساخت استخدام کرده است GPT-4 امن تر. کارشناسان با آزمایش خصمانه مدل کار کرده اند تا خطرات و آسیب پذیری های بالقوه را شناسایی کنند. آنها متخصصان حوزه های مختلفی هستند: خطرات بلند مدت همسویی هوش مصنوعی، امنیت سایبری، بیوریسک و امنیت بین المللی. یافته های آنها کمک کرده است OpenAI ارزیابی رفتار مدل در مناطق پرخطری که نیاز به تخصص خاص دارند.
در حالی که جدیدترین مدل زبان خطراتی مشابه با مدل‌های زبان کوچک‌تر دارد، قابلیت‌های اضافی آن GPT-4 منجر به تهدیدات جدید شود. به این ترتیب، جذب کارشناسان بوده است در تضمین ایمنی فناوری بسیار مهم است.
OpenAI مجموعه دیگری از یادگیری تقویتی مرتبط با ایمنی را از دستورالعمل‌های آموزشی ترجیحات انسانی (RLHF) و مدل‌های پاداش مبتنی بر قانون (RBRMs) برای بهبود ایمنی پیاده‌سازی کرده است. GPT-4 مدل. RBRM ها صفر شات هستند GPT-4 طبقه بندی کننده هایی که به عنوان یک سیگنال پاداش اضافی برای GPT-4 مدل سیاست در طول تنظیم دقیق RLHF. هدف آنها ایجاد انگیزه برای رفتار مناسب است، مانند امتناع از تولید محتوای مضر یا عدم رد درخواست های بی ضرر.
برای اطمینان از ایمنی GPT-4 مدل ها، OpenAI در آگوست 2022 شروع به جذب کارشناسان خارجی برای انجام تمرین‌های "تیم قرمز"، از جمله تست استرس، تست مرزی، و تست رقیب کرد. آنها به نسخه های اولیه دسترسی داشتند GPT-4 مدل و خطرات اولیه را شناسایی کرد که انگیزه تحقیقات بیشتر ایمنی را فراهم کرد.
بازخورد کارشناسان منجر به کاهش‌های فنی و اقدامات اجرایی سیاست برای کاهش خطرات شد. با این حال، تهدیدات زیادی باقی مانده است و ارزیابی بیشتر مورد نیاز است.
صحبت در مورد کارمندان در OpenAI, ChatGPT در ابتدا بود توسعه با کمک افراد در برخی از فقیرترین مناطق جهان از طریق OpenAIشراکت با شرکتی به نام سما، که میلیون ها کارگر از مناطق فقیر را استخدام می کند. برخی از کارشناسان اخلاق هوش مصنوعی انتقاد کرده اند OpenAIتصمیم به برون سپاری آموزش آن ChatGPT مدل به سما، این شرکت را به استثمار نیروی کار ارزان قیمت متهم کرد.
ادامه مطلب:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
مقالات بیشتر
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
