OpenAI เปิดตัวแนวทางล่าสุดในการรับรองความปลอดภัยของ AI
ในบทสรุป
OpenAI ได้เผยแพร่บล็อกโพสต์โดยสรุปวิธีการปรับปรุงด้านความปลอดภัยตามข้อกังวลล่าสุดเกี่ยวกับความปลอดภัยและความเป็นส่วนตัวและการสืบสวน
บริษัทให้คำมั่นว่าจะดำเนินการทดสอบอย่างเข้มงวด ว่าจ้างผู้เชี่ยวชาญจากภายนอกเพื่อขอความคิดเห็น และทำงานร่วมกับรัฐบาลเพื่อตัดสินสิ่งที่ดีที่สุด แนวทางสำหรับกฎระเบียบ AI.
หลังจากเผชิญกับความกังวลเกี่ยวกับความปลอดภัยและความเป็นส่วนตัวและต่อไปนี้ การสืบสวนล่าสุด ในยุโรปบางประเทศ OpenAI มี การเผยแพร่ บล็อกโพสต์สรุปแนวทางการปรับปรุงด้านความปลอดภัยของบริษัท
OpenAI ให้คำมั่นว่าจะดำเนินการทดสอบอย่างเข้มงวด ว่าจ้างผู้เชี่ยวชาญจากภายนอกเพื่อขอความคิดเห็นก่อนที่จะปล่อยระบบใหม่ และทำงานร่วมกับรัฐบาลเพื่อกำหนดแนวทางที่ดีที่สุดสำหรับกฎระเบียบด้าน AI
ก่อนหน้านี้ บริษัทใช้เวลากว่าหกเดือนในการทำงานด้านความปลอดภัยและการจัดวางโมเดลใหม่ล่าสุด GPT-4ก่อนที่จะเผยแพร่สู่สาธารณะ เพื่อให้มั่นใจถึงความปลอดภัยของโมเดลภาษาใหม่ล่าสุด GPT-4, OpenAI ที่จ้าง ทีมผู้เชี่ยวชาญกว่า 50 คน: ผู้เชี่ยวชาญด้านความปลอดภัย จริยธรรม และนโยบายของ AI รวมถึงนักวิจัยและวิศวกร
“สิ่งสำคัญอย่างยิ่งคือ เราเชื่อว่าสังคมต้องมีเวลาในการอัปเดตและปรับตัวให้เข้ากับ AI ที่มีความสามารถมากขึ้น และทุกคนที่ได้รับผลกระทบจากเทคโนโลยีนี้ควรมีส่วนสำคัญในการพัฒนา AI ต่อไป”
OpenAI เขียน
OpenAIมุ่งเน้นไปที่ความปลอดภัยและความเป็นส่วนตัวของเด็ก
อิตาลีสั่งห้าม ChatGPT, อ้าง OpenAIความล้มเหลวในการตรวจสอบอายุของผู้ใช้ แม้ว่าจะถูกออกแบบสำหรับบุคคลที่มีอายุตั้งแต่ 13 ปีขึ้นไป ซึ่งเป็นหนึ่งในสาเหตุ จุดเน้นที่สำคัญของความพยายามด้านความปลอดภัยของบริษัทได้เปลี่ยนไปที่การปกป้องเด็กโดยการใช้ตัวเลือกการตรวจสอบอายุ ซึ่ง OpenAI ขณะนี้กำลังสำรวจ โดยเฉพาะอย่างยิ่งเนื่องจากเครื่องมือ AI มีไว้สำหรับบุคคลที่มีอายุ 18 ปีขึ้นไปหรือ 13 ปีขึ้นไปโดยต้องได้รับอนุญาตจากผู้ปกครอง
บริษัทห้ามอย่างเคร่งครัดไม่ให้สร้างเนื้อหาที่แสดงความเกลียดชัง คุกคาม รุนแรง หรือสำหรับผู้ใหญ่ และ GPT-4 มีโอกาสตอบสนองต่อคำขอเนื้อหาที่ไม่ได้รับอนุญาตลดลงถึง 82% เมื่อเทียบกับ GPT-3. 5
OpenAI ได้สร้างระบบที่แข็งแกร่งในการตรวจสอบการละเมิดและหวังว่าจะทำ GPT-4 เข้าถึงผู้คนได้มากขึ้นเมื่อเวลาผ่านไป บริษัททำงานร่วมกับนักพัฒนาในการบรรเทาความปลอดภัยที่ปรับให้เหมาะสม เช่น Khan Academy ที่ไม่แสวงหาผลกำไร และกำลังดำเนินการเกี่ยวกับฟีเจอร์เพื่อให้มีมาตรฐานที่เข้มงวดมากขึ้นสำหรับเอาท์พุตโมเดล
การปรับปรุงความเป็นส่วนตัวเป็นอีกแง่มุมหนึ่งด้านความปลอดภัย OpenAI กำลังเน้นโดยเฉพาะหลังจากล่าสุด การละเมิดข้อมูล. โมเดลภาษาขนาดใหญ่ของบริษัท AI ได้รับการฝึกอบรมเกี่ยวกับข้อความจำนวนมหาศาล ซึ่งรวมถึงเนื้อหาที่เปิดเผยต่อสาธารณะ เนื้อหาที่ได้รับอนุญาต และเนื้อหาที่สร้างโดยผู้ตรวจสอบที่เป็นมนุษย์ ใช้ข้อมูลเพื่อทำให้โมเดล AI เป็นประโยชน์กับผู้คนมากขึ้น
OpenAI กำลังดำเนินการเพื่อปกป้องความเป็นส่วนตัวของบุคคลโดยการลบข้อมูลส่วนบุคคลออกจากข้อมูลการฝึกอบรม ปรับแต่งแบบจำลองเพื่อปฏิเสธคำขอข้อมูลส่วนบุคคล และลบข้อมูลส่วนบุคคลออกจากระบบเมื่อมีการร้องขอ ซึ่งจะช่วยลดโอกาสที่โมเดล AI จะสร้างคำตอบที่มีข้อมูลส่วนบุคคล
OpenAIแนวทางของ การจัดการข้อกังวลด้านความปลอดภัยของ AI คือการวิจัยการลดผลกระทบที่มีประสิทธิภาพ และเทคนิคการจัดตำแหน่งและทดสอบกับการละเมิดในโลกแห่งความเป็นจริง นอกจากนี้ยังให้คำมั่นว่าจะเพิ่มความระมัดระวังมากขึ้นในการสร้างและใช้งานโมเดลที่มีความสามารถมากขึ้น และจะเพิ่มมาตรการป้องกันด้านความปลอดภัย การกำกับดูแลการพัฒนาและการปรับใช้ AI ที่มีประสิทธิภาพเป็นสิ่งสำคัญเพื่อให้มั่นใจถึงความปลอดภัย ซึ่งต้องอาศัยนวัตกรรมด้านเทคนิคและสถาบัน
อ่านเพิ่มเติม:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Agne เป็นนักข่าวที่รายงานข่าวเกี่ยวกับแนวโน้มล่าสุดและการพัฒนาใน metaverse, AI และ Web3 อุตสาหกรรมสำหรับ Metaverse Post. ความหลงใหลในการเล่าเรื่องของเธอทำให้เธอต้องสัมภาษณ์ผู้เชี่ยวชาญในสาขาเหล่านี้หลายครั้ง โดยพยายามค้นหาเรื่องราวที่น่าตื่นเต้นและมีส่วนร่วมอยู่เสมอ แอกเน่สำเร็จการศึกษาระดับปริญญาตรีสาขาวรรณคดีและมีพื้นฐานกว้างขวางในการเขียนเกี่ยวกับหัวข้อต่างๆ มากมาย รวมถึงการท่องเที่ยว ศิลปะ และวัฒนธรรม เธอยังได้อาสาเป็นบรรณาธิการให้กับองค์กรสิทธิสัตว์ ซึ่งเธอช่วยสร้างความตระหนักรู้เกี่ยวกับปัญหาสวัสดิภาพสัตว์ ติดต่อเธอได้ที่ [ป้องกันอีเมล].
บทความอื่น ๆ
Agne เป็นนักข่าวที่รายงานข่าวเกี่ยวกับแนวโน้มล่าสุดและการพัฒนาใน metaverse, AI และ Web3 อุตสาหกรรมสำหรับ Metaverse Post. ความหลงใหลในการเล่าเรื่องของเธอทำให้เธอต้องสัมภาษณ์ผู้เชี่ยวชาญในสาขาเหล่านี้หลายครั้ง โดยพยายามค้นหาเรื่องราวที่น่าตื่นเต้นและมีส่วนร่วมอยู่เสมอ แอกเน่สำเร็จการศึกษาระดับปริญญาตรีสาขาวรรณคดีและมีพื้นฐานกว้างขวางในการเขียนเกี่ยวกับหัวข้อต่างๆ มากมาย รวมถึงการท่องเที่ยว ศิลปะ และวัฒนธรรม เธอยังได้อาสาเป็นบรรณาธิการให้กับองค์กรสิทธิสัตว์ ซึ่งเธอช่วยสร้างความตระหนักรู้เกี่ยวกับปัญหาสวัสดิภาพสัตว์ ติดต่อเธอได้ที่ [ป้องกันอีเมล].
