استنفورد ادعا می‌کند که مدل‌های AI تولید کننده تصویر بر روی تصاویر واضح کودکان آموزش می‌بینند
به طور خلاصه
ابزارهای محبوب AI تولید متن به تصویر از جمله Stable Diffusion، در حال آموزش روی هزاران تصویر سوء استفاده جنسی از کودکان هستند.
متن به تصویر محبوب هوش مصنوعی مولد ابزار، از جمله Stable Diffusion از جانب Stability AI بر اساس گزارش تحقیقی از رصدخانه اینترنتی استانفورد، بر روی هزاران تصویر سوء استفاده جنسی از کودکان آموزش می بینند.
این گزارش می افزاید که این تصاویر تولید محتوای صریح واقع گرایانه شامل کودکان جعلی و تبدیل نوجوانان لباس پوشیده به تصاویر برهنه را تسهیل می کند و از شرکت هایی که در پشت چنین ابزارهایی هستند خواستار اقدام فوری می شود.
تحقیقات رصدخانه اینترنت استنفورد بر این موضوع متمرکز بود پایگاه داده LAION، مخزن عظیمی از تصاویر و زیرنویس های آنلاین که توسط پیشرو استفاده می شود سازندگان تصویر هوش مصنوعی پسندیدن Stable Diffusion، برای آموزش مدل های هوش مصنوعی.
قبل از بررسی ابزارهای هوش مصنوعی تولید کننده تصویر، محققان بر این عقیده بودند که ابزارهای هوش مصنوعی با ترکیب اطلاعات هرزه‌نگاری بزرگسالان و عکس‌های خوش‌خیم کودکان، تصاویری توهین‌آمیز از کودکان تولید می‌کنند. با این حال، یافته‌های رصدخانه با بیش از 3,200 تصویر از سوء استفاده جنسی مشکوک به کودکان در مجموعه داده LAION، پیچ و تاب نگران‌کننده‌ای را نشان می‌دهد.
در حالی که LAION به سرعت با حذف موقت مجموعه داده های خود به گزارش پاسخ داد، پیامدهای این تصاویر بسیار گسترده است. اگرچه آنها کسری از شاخص وسیع 5.8 میلیارد عکس LAION را تشکیل می دهند، گروه استنفورد ادعا می کند که احتمالاً بر توانایی آنها تأثیر می گذارد. ابزارهای هوش مصنوعی برای تولید خروجی های مضر
یک بازیگر مهم در توسعه پایگاه داده LAION است Stability AI، یک استارت آپ مستقر در لندن که مسئول شکل دادن به مجموعه داده است. این گزارش نشان می دهد که نسخه قدیمی آنها Stable Diffusion مدلی که سال گذشته معرفی شد همچنان در کاربردهای مختلف به عنوان منبع اولیه برای تولید تصاویر صریح وجود دارد.
هر چند Stability AI ادعا می کند که فقط نسخه های فیلتر شده را میزبانی می کند و اقداماتی را برای کاهش سوء استفاده انجام داده است، چالش در فراگیر بودن مدل قدیمی تر است.
استقرار هوش مصنوعی مولد نیاز به اعتبارسنجی دقیق دارد
به گفته دیوید تیل، فن‌شناس ارشد رصدخانه اینترنت استانفورد، هسته اصلی این موضوع به استقرار سریع بسیاری از پروژه‌های هوش مصنوعی مولد در بازار بازمی‌گردد.
تیل اشاره می کند که این پروژه ها اغلب به دلیل رقابت شدید در این زمینه، بدون توجه دقیق لازم در مرحله توسعه، به طور گسترده در دسترس قرار می گرفتند.
محققان دانشگاه استنفورد از اقدامات جدی برای رسیدگی موثر به این موضوع حمایت می کنند. توصیه‌ها شامل حذف یا تمیز کردن مجموعه‌های آموزشی برگرفته از LAION-5B و ساخت نسخه قدیمی‌تر از Stable Diffusion کمتر در دسترس است.
با این حال، پیچیدگی پاکسازی عطف به ماسبق داده‌ها چالش قابل‌توجهی ایجاد می‌کند، و باعث می‌شود که در طول توسعه برنامه‌های مربوط به ایمنی کودک، با کارشناسان ایمنی کودک همکاری شود. پایگاه داده های هوش مصنوعی.
از آنجایی که مدارس و سازمان‌های مجری قانون در سراسر جهان نسبت به پیامدهای بالقوه این یافته‌ها هشدار می‌دهند، کانون توجه اکنون بر روی صنعت هوش مصنوعی برای رسیدگی فوری و رفع نقص های مضر در فناوری خود.
سلب مسئولیت
در خط با دستورالعمل های پروژه اعتماد، لطفاً توجه داشته باشید که اطلاعات ارائه شده در این صفحه به عنوان مشاوره حقوقی، مالیاتی، سرمایه گذاری، مالی یا هر شکل دیگری در نظر گرفته نشده است و نباید تفسیر شود. مهم است که فقط در موردی سرمایه گذاری کنید که توانایی از دست دادن آن را دارید و در صورت شک و تردید به دنبال مشاوره مالی مستقل باشید. برای کسب اطلاعات بیشتر، پیشنهاد می کنیم به شرایط و ضوابط و همچنین صفحات راهنمایی و پشتیبانی ارائه شده توسط صادرکننده یا تبلیغ کننده مراجعه کنید. MetaversePost متعهد به گزارش دقیق و بی طرفانه است، اما شرایط بازار بدون اطلاع قبلی ممکن است تغییر کند.
درباره نویسنده
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
مقالات بیشتر
کومار یک روزنامه‌نگار باتجربه فناوری با تخصص در تقاطع‌های پویا AI/ML، فناوری بازاریابی، و زمینه‌های نوظهور مانند رمزنگاری، بلاک چین و NFTس کومار با بیش از 3 سال تجربه در این صنعت، سابقه اثبات شده ای در ساخت روایت های قانع کننده، انجام مصاحبه های روشنگرانه و ارائه بینش های جامع ایجاد کرده است. تخصص کومار در تولید محتوای با تاثیر بالا، از جمله مقالات، گزارش‌ها و انتشارات تحقیقاتی برای پلتفرم‌های صنعتی برجسته است. کومار با مجموعه ای از مهارت های منحصر به فرد که دانش فنی و داستان سرایی را با هم ترکیب می کند، در انتقال مفاهیم پیچیده فناوری به مخاطبان مختلف به شیوه ای واضح و جذاب برتری می یابد.
