OpenAI: AI อาจทำอันตรายต่อผู้คนได้มากมาย แต่การพยายามหยุดความก้าวหน้าไม่ใช่ทางเลือก
ในบทสรุป
OpenAIเอกสารของ "การวางแผนสำหรับ AGI และอื่น ๆ " แนะนำการแนะนำโมเดลที่ซับซ้อนและ "ฉลาด" อย่างค่อยเป็นค่อยไป จัดระเบียบการตรวจสอบอิสระของระบบขนาดใหญ่ และการจำกัดทรัพยากรคอมพิวเตอร์
OpenAI ต้องการให้ AI เปิดกว้างสำหรับทุกคนอย่างเท่าเทียมและสร้างความสอดคล้องกันมากขึ้นและ โมเดลที่จัดการได้ เพื่อลดอคติและพฤติกรรมที่ไม่พึงปรารถนา
OpenAI เพิ่งเผยแพร่เอกสารชื่อ “การวางแผนสำหรับ AGI และอื่น ๆ” สรุปแนวคิดกว้างๆ ที่ชี้แนะแนวทางการดำเนินการของบริษัทในขณะที่โลกขยับเข้าใกล้การพัฒนาของ AGI (ปัญญาประดิษฐ์ทั่วไป)
OpenAI ด้วยเชื่อว่าในขณะที่ AI มีศักยภาพในการก่อให้เกิดอันตรายอย่างมากต่อผู้คน แต่การพยายามหยุดความก้าวหน้าไม่ใช่ทางเลือก ดังนั้นเราจึงต้องเรียนรู้วิธีที่จะรักษาการปรับปรุงนี้ไว้ไม่ให้ด้อยลงอย่างมาก
เอกสารสามารถพบได้ โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม. เรามาเน้นองค์ประกอบที่สำคัญบางประการจากมัน:
- OpenAI ต้องการให้ AGI ช่วยให้ผู้คนประสบความสำเร็จในทุกด้านของชีวิต ทั้งในด้านเศรษฐกิจและวิทยาศาสตร์
แทนที่จะสร้าง AI ขนาดใหญ่สุดเจ๋งแล้วปล่อยออกสู่โลกทันที OpenAI จะแนะนำโมเดลที่ซับซ้อนและ "ฉลาด" มากขึ้นอย่างค่อยเป็นค่อยไป สมมติฐานคือการเพิ่มความสามารถของ AI อย่างค่อยเป็นค่อยไปจะไม่ทำให้โลกตกใจ ทำให้มนุษย์มีเวลาปรับตัว ปรับตัวทางเศรษฐกิจ และสร้างขั้นตอนสำหรับการโต้ตอบกับ AI - OpenAI เชิญชวนให้ทุกองค์กรนำหลักการข้างต้นมาใช้อย่างเป็นทางการ (ค่อยๆ เผยแพร่ AI ที่ทรงพลัง) นอกจากนี้ Altman ยังแนะนำให้จำกัดจำนวนทรัพยากรการประมวลผลที่อาจใช้ในการฝึกโมเดลและตั้งค่าการตรวจสอบที่เป็นกลางของระบบหลักก่อนที่จะเผยแพร่ต่อสาธารณชนทั่วไป แทนที่จะมีส่วนร่วมในการแข่งขันเช่น "ใครจะเป็นคนแรกที่เปิดตัวโมเดลที่เย็นกว่าและใหญ่กว่า" OpenAI ขอให้องค์กรต่างๆ ทำงานด้วยกัน เพื่อปรับปรุงความปลอดภัยของ AI
- OpenAI เชื่อว่าเป็นเรื่องสำคัญที่รัฐบาลจะได้รับแจ้งเกี่ยวกับการฝึกซ้อมที่เกินขนาดที่กำหนด นี่เป็นแนวคิดที่น่าสนใจ และเราต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับ แผน OpenAI มีในเรื่องนี้. ข้อเสนอนี้ดูไม่ค่อยดีนักสำหรับฉันในตอนแรก
- OpenAI จะพยายามพัฒนาโมเดลที่เชื่อถือได้และควบคุมได้มากขึ้น ซึ่งน่าจะจำกัดอคติและพฤติกรรมที่ไม่เอื้ออำนวยใน AI ได้มากที่สุด แนวทางดำเนินการโดย OpenAI ในกรณีนี้คือการทำให้โมเดลพร้อมใช้งานสำหรับบุคคลทั่วไปในรูปแบบที่มีข้อจำกัดมาก ในขณะเดียวกันก็ให้ผู้ใช้มีตัวเลือกในการปรับแต่งให้เป็นแบบส่วนตัว เนื่องจากผู้บริโภคไม่สามารถ "ปรับแต่ง" อะไรที่นั่นได้ ฉันไม่แน่ใจว่าสิ่งนี้จะช่วยให้โมเดลโดยรวมมีอคติน้อยลงได้อย่างไร เว้นแต่จะยกเลิกความรับผิดของบริษัทต่อการกระทำของนางแบบ
โดยรวมแล้วเอกสารชี้ไปในทางที่ถูกต้อง อย่างไรก็ตาม มีความขัดแย้งเล็กน้อยระหว่าง “เราจะไม่แสดงโมเดลเจ๋งๆ ต่อสาธารณะในทันที แต่เราจะพูดถึงพวกเขาต่อรัฐ” และ “คนควรรู้ เกี่ยวกับความก้าวหน้าของ AI” ในระยะสั้น เราจะรอการชี้แจงโดยละเอียดจาก OpenAI ในทุกหัวข้อ
อ่านเพิ่มเติมเกี่ยวกับ AI:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
