Stanford กล่าวอ้างว่าโมเดล AI การสร้างรูปภาพกำลังได้รับการฝึกอบรมเกี่ยวกับรูปภาพเด็กที่ชัดเจน
ในบทสรุป
เครื่องมือ AI ที่สร้างข้อความเป็นรูปภาพยอดนิยม ได้แก่ Stable Diffusionกำลังได้รับการฝึกอบรมเกี่ยวกับภาพการล่วงละเมิดทางเพศเด็กหลายพันภาพ
ข้อความเป็นรูปภาพยอดนิยม AI กำเนิด เครื่องมือรวมถึง Stable Diffusion ราคาเริ่มต้นที่ Stability AI ได้รับการฝึกอบรมเกี่ยวกับภาพการล่วงละเมิดทางเพศเด็กหลายพันภาพ ตามรายงานการวิจัยจาก Stanford Internet Observatory
รายงานเสริมว่ารูปภาพเหล่านี้อำนวยความสะดวกในการสร้างเนื้อหาโจ่งแจ้งที่สมจริงซึ่งเกี่ยวข้องกับเด็กปลอม และการเปลี่ยนวัยรุ่นที่สวมเสื้อผ้าให้กลายเป็นภาพเปลือย กระตุ้นให้บริษัทที่อยู่เบื้องหลังเครื่องมือดังกล่าวดำเนินการทันที
การสืบสวนของ Stanford Internet Observatory มุ่งเน้นไปที่ ฐานข้อมูล LIONพื้นที่เก็บข้อมูลขนาดใหญ่ของรูปภาพและคำบรรยายออนไลน์ที่ผู้นำใช้ ผู้สร้างภาพ AI กดไลก์ Stable Diffusionเพื่อฝึกโมเดล AI
ก่อนที่จะตรวจสอบเครื่องมือ AI ที่สร้างภาพ นักวิจัยมีความเห็นว่าเครื่องมือ AI สร้างภาพที่ไม่เหมาะสมของเด็กโดยการรวมข้อมูลจากสื่อลามกสำหรับผู้ใหญ่และภาพถ่ายที่ไม่เป็นอันตรายของเด็ก อย่างไรก็ตาม การค้นพบของ Observatory นำเสนอสิ่งที่น่ากังวล โดยพบรูปภาพที่ต้องสงสัยล่วงละเมิดทางเพศเด็กมากกว่า 3,200 ภาพภายในชุดข้อมูล LAION
แม้ว่า LAION จะตอบกลับรายงานอย่างรวดเร็วด้วยการลบชุดข้อมูลออกชั่วคราว แต่ความหมายของรูปภาพเหล่านี้ยังกว้างขวาง แม้ว่าสิ่งเหล่านี้จะเป็นเพียงเศษเสี้ยวของดัชนีรูปภาพจำนวนมหาศาลของ LAION ที่มีจำนวน 5.8 พันล้านภาพ แต่กลุ่ม Stanford ยืนยันว่าสิ่งเหล่านี้น่าจะมีอิทธิพลต่อความสามารถของ เครื่องมือ AI เพื่อสร้างผลลัพธ์ที่เป็นอันตราย
ผู้เล่นสำคัญในการพัฒนาฐานข้อมูล LAION คือ Stability AIซึ่งเป็นสตาร์ทอัพในลอนดอนที่มีหน้าที่รับผิดชอบในการกำหนดรูปแบบชุดข้อมูล รายงานเน้นย้ำว่ารุ่นเก่าของพวกเขา Stable Diffusion โมเดลที่เปิดตัวเมื่อปีที่แล้วยังคงมีอยู่ในแอปพลิเคชันต่างๆ ซึ่งเป็นแหล่งข้อมูลหลักในการสร้างภาพที่ชัดเจน
แม้ว่า Stability AI อ้างว่าโฮสต์เฉพาะเวอร์ชันที่กรองแล้ว และได้ดำเนินการตามขั้นตอนเพื่อลดการใช้งานในทางที่ผิด ความท้าทายอยู่ที่ความแพร่หลายของเวอร์ชันเก่า
การปรับใช้ Generative AI จำเป็นต้องมีการตรวจสอบความถูกต้องอย่างเข้มงวด
แก่นของปัญหามีต้นกำเนิดมาจากการนำโครงการ AI สร้างสรรค์จำนวนมากออกสู่ตลาดอย่างรวดเร็ว ตามที่ David Thiel หัวหน้านักเทคโนโลยีของ Stanford Internet Observatory กล่าว
Thiel ชี้ให้เห็นว่าโครงการเหล่านี้มักเข้าถึงได้อย่างกว้างขวางเนื่องจากมีการแข่งขันที่รุนแรงในภาคสนาม โดยไม่ได้รับความสนใจอย่างเข้มงวดในระหว่างขั้นตอนการพัฒนา
นักวิจัยของสแตนฟอร์ดสนับสนุนการใช้มาตรการที่รุนแรงเพื่อแก้ไขปัญหาอย่างมีประสิทธิภาพ คำแนะนำรวมถึงการลบหรือล้างชุดการฝึกอบรมที่ได้มาจาก LAION-5B และการสร้างเวอร์ชันเก่าของ Stable Diffusion เข้าถึงได้น้อยลง
อย่างไรก็ตาม ความซับซ้อนของการล้างข้อมูลย้อนหลังถือเป็นความท้าทายอย่างมาก ทำให้เกิดการเรียกร้องให้ร่วมมือกับผู้เชี่ยวชาญด้านความปลอดภัยของเด็กในระหว่างการพัฒนา ฐานข้อมูลเอไอ.
ในขณะที่โรงเรียนและหน่วยงานบังคับใช้กฎหมายทั่วโลกแสดงความตื่นตระหนกเกี่ยวกับผลที่ตามมาที่อาจเกิดขึ้นจากการค้นพบเหล่านี้ จุดสนใจจึงอยู่ที่ อุตสาหกรรม AI เพื่อแก้ไขและแก้ไขข้อบกพร่องที่เป็นอันตรายภายในเทคโนโลยีอย่างเร่งด่วน
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Kumar เป็นนักข่าวเทคโนโลยีที่มีประสบการณ์ โดยมีความเชี่ยวชาญเฉพาะด้านในการผสมผสานแบบไดนามิกของ AI/ML เทคโนโลยีการตลาด และสาขาเกิดใหม่ เช่น คริปโต บล็อกเชน และ NFTส. ด้วยประสบการณ์กว่า 3 ปีในอุตสาหกรรมนี้ Kumar ได้สร้างผลงานที่ได้รับการพิสูจน์แล้วในด้านการสร้างสรรค์เรื่องราวที่น่าสนใจ การสัมภาษณ์เชิงลึก และการนำเสนอข้อมูลเชิงลึกที่ครอบคลุม ความเชี่ยวชาญของ Kumar อยู่ที่การผลิตเนื้อหาที่มีผลกระทบสูง รวมถึงบทความ รายงาน และสิ่งพิมพ์วิจัยสำหรับแพลตฟอร์มอุตสาหกรรมที่โดดเด่น ด้วยชุดทักษะเฉพาะตัวที่ผสมผสานความรู้ทางเทคนิคและการเล่าเรื่อง Kumar มีความเป็นเลิศในการสื่อสารแนวคิดทางเทคโนโลยีที่ซับซ้อนไปยังผู้ชมที่หลากหลายในลักษณะที่ชัดเจนและมีส่วนร่วม
บทความอื่น ๆ
Kumar เป็นนักข่าวเทคโนโลยีที่มีประสบการณ์ โดยมีความเชี่ยวชาญเฉพาะด้านในการผสมผสานแบบไดนามิกของ AI/ML เทคโนโลยีการตลาด และสาขาเกิดใหม่ เช่น คริปโต บล็อกเชน และ NFTส. ด้วยประสบการณ์กว่า 3 ปีในอุตสาหกรรมนี้ Kumar ได้สร้างผลงานที่ได้รับการพิสูจน์แล้วในด้านการสร้างสรรค์เรื่องราวที่น่าสนใจ การสัมภาษณ์เชิงลึก และการนำเสนอข้อมูลเชิงลึกที่ครอบคลุม ความเชี่ยวชาญของ Kumar อยู่ที่การผลิตเนื้อหาที่มีผลกระทบสูง รวมถึงบทความ รายงาน และสิ่งพิมพ์วิจัยสำหรับแพลตฟอร์มอุตสาหกรรมที่โดดเด่น ด้วยชุดทักษะเฉพาะตัวที่ผสมผสานความรู้ทางเทคนิคและการเล่าเรื่อง Kumar มีความเป็นเลิศในการสื่อสารแนวคิดทางเทคโนโลยีที่ซับซ้อนไปยังผู้ชมที่หลากหลายในลักษณะที่ชัดเจนและมีส่วนร่วม
