OpenAI از جدیدترین رویکرد خود برای تضمین ایمنی هوش مصنوعی رونمایی می کند
به طور خلاصه
OpenAI به دنبال نگرانی های اخیر در مورد ایمنی و حفظ حریم خصوصی و تحقیقات، یک پست وبلاگ منتشر کرده است که در آن رویکرد بهبود یافته خود را برای ایمنی تشریح می کند.
این شرکت متعهد می شود که آزمایش های دقیق انجام دهد، کارشناسان خارجی را برای بازخورد درگیر کند و با دولت ها برای تعیین بهترین ها همکاری کند. رویکردی برای مقررات هوش مصنوعی.
پس از مواجه شدن با نگرانی در مورد ایمنی و حریم خصوصی و پیگیری تحقیقات اخیر در برخی از کشورهای اروپایی، OpenAI است منتشر شد یک پست وبلاگی که رویکرد بهبودیافته این شرکت به ایمنی را تشریح می کند.
OpenAI متعهد می شود که آزمایش های دقیق انجام دهد، کارشناسان خارجی را برای بازخورد قبل از انتشار هر سیستم جدیدی درگیر کند و با دولت ها برای تعیین بهترین رویکرد برای مقررات هوش مصنوعی همکاری کند.
پیش از این، این شرکت بیش از شش ماه روی ایمنی و تراز آخرین مدل خود کار کرده است. GPT-4، قبل از انتشار عمومی. برای اطمینان از ایمنی جدیدترین مدل زبان خود، GPT-4, OpenAI استخدام شده تیمی متشکل از 50 متخصص: متخصصان ایمنی هوش مصنوعی، اخلاق و سیاست، از جمله محققان و مهندسان.
ما معتقدیم که جامعه باید زمان لازم را برای به روز رسانی و سازگاری با هوش مصنوعی داشته باشد و هرکسی که تحت تأثیر این فناوری قرار می گیرد باید در مورد چگونگی توسعه بیشتر هوش مصنوعی صحبت کند.
OpenAI نوشت.
OpenAIتمرکز بر ایمنی و حریم خصوصی کودکان
ایتالیا ممنوع شد ChatGPT، به نقل از OpenAIعدم تأیید سن کاربران خود، علیرغم طراحی برای افراد 13 ساله و بالاتر، یکی از دلایل آن است. تمرکز اصلی تلاش‌های ایمنی این شرکت به محافظت از کودکان با اجرای گزینه‌های تأیید سن تغییر کرده است. OpenAI اکنون در حال کاوش است، به ویژه از آنجایی که ابزارهای هوش مصنوعی برای افراد 18 سال به بالا یا 13 سال و بالاتر با تأیید والدین در نظر گرفته شده است.
این شرکت تولید محتوای نفرت‌انگیز، آزاردهنده، خشونت‌آمیز یا بزرگسالان را به شدت ممنوع می‌کند GPT-4 در حال حاضر 82 درصد احتمال کمتری برای پاسخ به درخواست‌های محتوای غیرمجاز در مقایسه با GPT-35.
OpenAI یک سیستم قوی برای نظارت بر سوء استفاده ایجاد کرده است و امیدوار است که ایجاد کند GPT-4 در طول زمان برای افراد بیشتری در دسترس است. این شرکت با توسعه دهندگان در زمینه کاهش ایمنی مناسب، مانند آکادمی غیرانتفاعی Khan، کار می کند و در حال کار بر روی ویژگی هایی است که استانداردهای سخت گیرانه تری را برای خروجی های مدل فراهم کند.
بهبود حریم خصوصی یکی دیگر از جنبه های ایمنی است OpenAI به ویژه پس از اخیر تمرکز می کند نقض اطلاعات. مدل‌های زبان بزرگ شرکت هوش مصنوعی بر روی حجم عظیمی از متن آموزش دیده‌اند که شامل محتوای در دسترس برای عموم، محتوای دارای مجوز، و محتوای تولید شده توسط بازبین‌های انسانی است. از داده ها استفاده می کند تا مدل های هوش مصنوعی برای مردم مفیدتر باشد.
OpenAI اقداماتی را برای محافظت از حریم خصوصی افراد با حذف اطلاعات شخصی از داده‌های آموزشی خود، تنظیم دقیق مدل‌ها برای رد درخواست‌های اطلاعات شخصی، و حذف اطلاعات شخصی از سیستم‌های خود در صورت درخواست انجام می‌دهد. این شانس مدل‌های هوش مصنوعی را کاهش می‌دهد که پاسخ‌هایی شامل اطلاعات شخصی ایجاد کنند.
OpenAIرویکرد پرداختن به نگرانی های ایمنی هوش مصنوعی، تحقیق در مورد کاهش موثر است و تکنیک های هم ترازی و آزمایش آنها در برابر سوء استفاده در دنیای واقعی. همچنین متعهد می شود که در ایجاد و استقرار مدل های توانمندتر و افزایش اقدامات احتیاطی بیشتر محتاط باشد. حاکمیت مؤثر توسعه و استقرار هوش مصنوعی برای اطمینان از ایمنی ضروری است که به نوآوری فنی و سازمانی نیاز دارد.
ادامه مطلب:
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
مقالات بیشتر
Agne روزنامه نگاری است که آخرین روندها و تحولات در متاورس، هوش مصنوعی و Web3 صنایع برای Metaverse Post. اشتیاق او به داستان نویسی باعث شده است که مصاحبه های متعددی با متخصصان این حوزه ها انجام دهد و همیشه به دنبال کشف داستان های هیجان انگیز و جذاب است. اگنه دارای مدرک لیسانس در ادبیات است و پیشینه گسترده ای در نوشتن در مورد طیف گسترده ای از موضوعات از جمله سفر، هنر و فرهنگ دارد. او همچنین به عنوان سردبیر برای سازمان حقوق حیوانات داوطلب شده است، جایی که به افزایش آگاهی در مورد مسائل رفاهی حیوانات کمک کرد. با او تماس بگیرید [ایمیل محافظت شده].
