يتم تدريب نماذج الذكاء الاصطناعي المولدة للصور على صور الأطفال الواضحة، وفقًا لما تقوله جامعة ستانفورد
في سطور
أدوات الذكاء الاصطناعي التوليدية الشهيرة لتحويل النص إلى صورة، بما في ذلك Stable Diffusion، يتم تدريبهم على الآلاف من صور الاعتداء الجنسي على الأطفال.
شعبية تحويل النص إلى صورة الذكاء الاصطناعي التوليدي أدوات ، بما في ذلك Stable Diffusion تبدأ من Stability AI يتم تدريبهم على الآلاف من صور الاعتداء الجنسي على الأطفال، وفقًا لتقرير بحثي صادر عن مرصد ستانفورد للإنترنت.
وأضاف التقرير أن هذه الصور تسهل إنشاء محتوى واقعي صريح يتضمن أطفالًا مزيفين وتحويل المراهقين الذين يرتدون ملابس إلى صور عارية، مما يحث الشركات التي تقف وراء هذه الأدوات على اتخاذ إجراءات فورية.
ركز تحقيق مرصد ستانفورد للإنترنت على قاعدة بيانات لايون، وهو مستودع ضخم للصور والتسميات التوضيحية عبر الإنترنت التي يستخدمها القادة صانعو الصور بالذكاء الاصطناعي مثل Stable Diffusionلتدريب نماذج الذكاء الاصطناعي.
قبل التحقق من أدوات الذكاء الاصطناعي المولدة للصور، رأى الباحثون أن أدوات الذكاء الاصطناعي تنتج صورًا مسيئة للأطفال من خلال الجمع بين معلومات من المواد الإباحية للبالغين والصور الحميدة للأطفال. ومع ذلك، فإن نتائج المرصد تمثل تطورًا مثيرًا للقلق، حيث تم تحديد أكثر من 3,200 صورة للاعتداء الجنسي على الأطفال ضمن مجموعة بيانات LAION.
وبينما استجابت LAION سريعًا للتقرير عن طريق إزالة مجموعات البيانات الخاصة بها مؤقتًا، فإن الآثار المترتبة على هذه الصور بعيدة المدى. على الرغم من أنها تشكل جزءًا صغيرًا من مؤشر LAION الضخم الذي يبلغ 5.8 مليار صورة، إلا أن مجموعة ستانفورد تؤكد أنها من المحتمل أن تؤثر على قدرة أدوات منظمة العفو الدولية لتوليد مخرجات ضارة.
أحد اللاعبين المهمين في تطوير قاعدة بيانات LAION هو Stability AI، وهي شركة ناشئة مقرها لندن مسؤولة عن تشكيل مجموعة البيانات. يسلط التقرير الضوء على أن الإصدار الأقدم من Stable Diffusion النموذج، الذي تم تقديمه العام الماضي، لا يزال موجودًا في العديد من التطبيقات، باعتباره المصدر الأساسي لإنشاء صور واضحة.
بالرغم ان Stability AI تدعي أنها تستضيف فقط الإصدارات التي تمت تصفيتها واتخذت خطوات للتخفيف من سوء الاستخدام، فإن التحدي يكمن في انتشار النموذج الأقدم.
يتطلب نشر الذكاء الاصطناعي التوليدي التحقق الصارم من الصحة
يعود جوهر المشكلة إلى الانتشار السريع للعديد من مشاريع الذكاء الاصطناعي التوليدية في السوق، وفقًا لديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت.
ويشير ثيل إلى أن هذه المشاريع غالبًا ما كانت متاحة على نطاق واسع بسبب المنافسة الشديدة في هذا المجال، دون الاهتمام الدقيق اللازم خلال مرحلة التطوير.
يدعو باحثو جامعة ستانفورد إلى اتخاذ تدابير جذرية لمعالجة هذه القضية بشكل فعال. تتضمن التوصيات حذف أو تنظيف مجموعات التدريب المشتقة من LAION-5B وعمل نسخة قديمة من Stable Diffusion أقل سهولة في الوصول إليها.
ومع ذلك، فإن التعقيد المتمثل في تنظيف البيانات بأثر رجعي يشكل تحديًا كبيرًا، مما يدفع إلى الدعوة للتعاون مع خبراء سلامة الأطفال أثناء تطوير البرنامج. قواعد بيانات الذكاء الاصطناعي.
وبينما تعرب المدارس ووكالات إنفاذ القانون في جميع أنحاء العالم عن قلقها بشأن العواقب المحتملة لهذه النتائج، فإن الأضواء تسلط الآن على صناعة الذكاء الاصطناعي لمعالجة وتصحيح العيوب الضارة في التكنولوجيا الخاصة بهم بشكل عاجل.
إخلاء المسئولية
تتماشى مع المبادئ التوجيهية لمشروع الثقةيرجى ملاحظة أن المعلومات المقدمة في هذه الصفحة ليس المقصود منها ولا ينبغي تفسيرها على أنها نصيحة قانونية أو ضريبية أو استثمارية أو مالية أو أي شكل آخر من أشكال المشورة. من المهم أن تستثمر فقط ما يمكنك تحمل خسارته وأن تطلب مشورة مالية مستقلة إذا كانت لديك أي شكوك. لمزيد من المعلومات، نقترح الرجوع إلى الشروط والأحكام بالإضافة إلى صفحات المساعدة والدعم المقدمة من جهة الإصدار أو المعلن. MetaversePost تلتزم بتقارير دقيقة وغير متحيزة، ولكن ظروف السوق عرضة للتغيير دون إشعار.
نبذة عن الكاتب
كومار هو صحفي تقني ذو خبرة ومتخصص في التقاطعات الديناميكية للذكاء الاصطناعي/التعلم الآلي، وتكنولوجيا التسويق، والمجالات الناشئة مثل العملات المشفرة، وسلسلة الكتل، NFTس. مع أكثر من 3 سنوات من الخبرة في الصناعة، أنشأ كومار سجلاً حافلًا في صياغة روايات مقنعة، وإجراء مقابلات ثاقبة، وتقديم رؤى شاملة. تكمن خبرة كومار في إنتاج محتوى عالي التأثير، بما في ذلك المقالات والتقارير والمنشورات البحثية لمنصات الصناعة البارزة. بفضل مجموعة المهارات الفريدة التي تجمع بين المعرفة التقنية وسرد القصص، يتفوق كومار في توصيل المفاهيم التكنولوجية المعقدة إلى جماهير متنوعة بطريقة واضحة وجذابة.
المزيد من المقالات
كومار هو صحفي تقني ذو خبرة ومتخصص في التقاطعات الديناميكية للذكاء الاصطناعي/التعلم الآلي، وتكنولوجيا التسويق، والمجالات الناشئة مثل العملات المشفرة، وسلسلة الكتل، NFTس. مع أكثر من 3 سنوات من الخبرة في الصناعة، أنشأ كومار سجلاً حافلًا في صياغة روايات مقنعة، وإجراء مقابلات ثاقبة، وتقديم رؤى شاملة. تكمن خبرة كومار في إنتاج محتوى عالي التأثير، بما في ذلك المقالات والتقارير والمنشورات البحثية لمنصات الصناعة البارزة. بفضل مجموعة المهارات الفريدة التي تجمع بين المعرفة التقنية وسرد القصص، يتفوق كومار في توصيل المفاهيم التكنولوجية المعقدة إلى جماهير متنوعة بطريقة واضحة وجذابة.
