ผู้เชี่ยวชาญด้านเทคโนโลยีลงนามในจดหมายเปิดผนึกเรียกร้องให้หยุดการฝึกอบรมระบบ AI ขั้นสูงกว่าชั่วคราว GPT-4
ในบทสรุป
ผู้ลงนามมากกว่า 1100 คนได้ลงนามในจดหมายเปิดผนึกเพื่อเรียกร้องให้หยุดการทดลอง AI ยักษ์ชั่วคราว
ผู้ลงนาม ได้แก่ Elon Musk, Steve Wozniak และ Emad Mostaque เป็นต้น
จดหมายเปิดผนึกทำให้เกิดความกังวลเกี่ยวกับอคติด้านข้อมูลโดย AI งานอัตโนมัติ และความเสี่ยงของ AI ต่ออารยธรรมมนุษย์
ผู้ลงนามมากกว่า 1,100 รายรวมถึงผู้เชี่ยวชาญด้านเทคโนโลยีชั้นนำได้ลงนามใน จดหมายเปิดผนึก เรียกร้องให้หยุดการฝึกอบรมระบบ AI ขั้นสูงกว่าชั่วคราวเป็นเวลา XNUMX เดือน GPT-4.
จดหมายฉบับนี้เขียนขึ้นโดย Future of Life Institute ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่ทำงานเพื่อลดความเสี่ยงจากภัยพิบัติทั่วโลกและความเสี่ยงที่มีอยู่ที่มนุษยชาติต้องเผชิญ โดยเฉพาะอย่างยิ่งความเสี่ยงที่มีอยู่จากปัญญาประดิษฐ์ขั้นสูง
โดยอ้างถึงหลักการของ Asilomar AI ที่ได้รับการรับรองอย่างกว้างขวาง ซึ่งระบุว่า “AI ขั้นสูงสามารถเป็นตัวแทนของการเปลี่ยนแปลงอย่างลึกซึ้งในประวัติศาสตร์ของสิ่งมีชีวิตบนโลก และควรได้รับการวางแผนและจัดการด้วยการดูแลและทรัพยากรที่เหมาะสม” จดหมายระบุว่าระดับของการวางแผนและ การจัดการไม่ได้เกิดขึ้น
จดหมายกล่าวต่อไปว่าห้องปฏิบัติการ AI อยู่ในการแข่งขันที่ "อยู่เหนือการควบคุม" เพื่อพัฒนาปัญญาประดิษฐ์ที่ทรงพลังมากขึ้น ซึ่งไม่มีใครสามารถเข้าใจ คาดการณ์ หรือควบคุมได้อย่างน่าเชื่อถือ เช่นเดียวกับระบบ AI ร่วมสมัย GPT-4 สามารถ แข่งขันกับมนุษย์ ในงานทั่วไป จดหมายดังกล่าวแสดงความกังวลเกี่ยวกับอคติของข้อมูลโดย AI ระบบอัตโนมัติของงาน และความเสี่ยงในการสูญเสียการควบคุมอารยธรรมของมนุษย์
“เราขอเรียกร้องให้ห้องปฏิบัติการ AI ทั้งหมดหยุดการฝึกอบรมระบบ AI ที่มีประสิทธิภาพมากกว่าทันทีเป็นเวลาอย่างน้อย 6 เดือน GPT-4. การหยุดชั่วคราวนี้ควรเป็นแบบสาธารณะและสามารถตรวจสอบได้ และรวมถึงผู้แสดงหลักทั้งหมดด้วย หากไม่สามารถประกาศใช้การหยุดชั่วคราวดังกล่าวได้อย่างรวดเร็ว รัฐบาลควรเข้ามาดำเนินการและระงับการชำระหนี้ชั่วคราว”
จดหมายระบุ
จดหมายขอร้องให้ห้องปฏิบัติการ AI และผู้เชี่ยวชาญด้านเทคโนโลยีใช้ช่วงเวลาที่หยุดชั่วคราวเพื่อพัฒนาและใช้โปรโตคอลด้านความปลอดภัยสำหรับการออกแบบและพัฒนา AI ขั้นสูงที่ได้รับการตรวจสอบและควบคุมอย่างเข้มงวดโดยผู้เชี่ยวชาญภายนอกที่เป็นอิสระ
อย่างไรก็ตาม เจฟฟ์ จาร์วิส นักข่าวชาวอเมริกันวิจารณ์จดหมายดังกล่าวว่า คำพูด ว่าเป็น "ตัวอย่างสำคัญของความตื่นตระหนกทางศีลธรรม"
ผู้นำด้านเทคโนโลยีและแมชชีนเลิร์นนิงบางคนได้ลงนามในจดหมายร่วมกับนักวิทยาศาสตร์การวิจัย DeepMind และอาจารย์มหาวิทยาลัยหลายคนจากทั่วโลก ได้แก่:
- Yoshua Bengio, University of Montréal, Turing Laureate สำหรับการพัฒนาการเรียนรู้เชิงลึก, หัวหน้าสถาบัน Montreal สำหรับอัลกอริทึมการเรียนรู้
- Stuart Russell, Berkeley, ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์, ผู้อำนวยการ Center for Intelligent Systems และผู้เขียนร่วมของตำราเรียนมาตรฐาน “Artificial Intelligence: a Modern Approach”
- Elon Musk ซีอีโอของ SpaceX, Tesla และ Twitter
- เอแมด มอสตาค ซีอีโอ Stability AI
- ยาน ทาลลินน์ ผู้ร่วมก่อตั้ง Skype ศูนย์การศึกษาความเสี่ยงที่มีอยู่ สถาบัน Future of Life
- Gary Marcus, New York University, นักวิจัย AI, ศาสตราจารย์เกียรติคุณ
- Marc Rotenberg, Center for AI and Digital Policy (CAIDP), ประธาน
ใน จดหมายล่าสุดRotenberg เขียนว่า CAIDP จะต้องยื่นเรื่องร้องเรียนต่อ Federal Trade Commission โดยเรียกร้องให้มีการสอบสวน Open AI และ ChatGPTรวมถึงการห้ามเผยแพร่ผลิตภัณฑ์ในเชิงพาณิชย์ต่อไปจนกว่าจะมีการกำหนดมาตรการป้องกัน
OpenAI ซีอีโอแซม อัลท์แมนมี ที่ยอมรับ ว่า “เรายังต้องการเวลาเพียงพอสำหรับสถาบันของเราในการพิจารณาว่าจะทำอย่างไร” และสังคมนั้นก็อยู่ไม่ไกลจากเครื่องมือสร้าง AI ที่ “น่ากลัว”
“เรากำลังขอให้ FTC “กดปุ่มหยุดชั่วคราว” เพื่อที่สถาบันของเรา กฎหมายของเรา และสังคมของเราจะได้ตามทัน เราจำเป็นต้องยืนยันสิทธิ์เหนือเทคโนโลยีที่เราสร้างขึ้นก่อนที่เราจะสูญเสียการควบคุม” จดหมายของ CAIDP ระบุ
ที่อื่น ๆ สมาชิกสภานิติบัญญัติของสหภาพยุโรป มีเป้าหมายที่จะลงนามในข้อตกลงกับประเทศในสหภาพยุโรปภายในสิ้นปีนี้เพื่อบังคับใช้กฎของ AI แม้ว่าอาจเกิดปัญหาคอขวดเนื่องจากการถกเถียงกันว่าควรจะควบคุม AI อย่างไรที่ทวีความรุนแรงขึ้น
อ่านเพิ่มเติม:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
ซินดี้เป็นนักข่าวที่ Metaverse Postครอบคลุมหัวข้อที่เกี่ยวข้องกับ web3, NFT, metaverse และ AI โดยเน้นไปที่การสัมภาษณ์กับ Web3 ผู้เล่นในอุตสาหกรรม เธอได้พูดคุยกับผู้บริหารระดับ C มากกว่า 30 คนและเพิ่มขึ้นเรื่อยๆ เพื่อนำข้อมูลเชิงลึกอันมีค่ามาสู่ผู้อ่าน Cindy มีพื้นเพมาจากสิงคโปร์ ปัจจุบันประจำอยู่ที่เมืองทบิลิซี รัฐจอร์เจีย เธอสำเร็จการศึกษาระดับปริญญาตรีสาขาการสื่อสารและสื่อศึกษาจากมหาวิทยาลัยเซาท์ออสเตรเลีย และมีประสบการณ์ด้านสื่อสารมวลชนและการเขียนมาหลายทศวรรษ ติดต่อเธอได้ทาง [ป้องกันอีเมล] ด้วยการแถลงข่าว ประกาศ และโอกาสในการสัมภาษณ์
บทความอื่น ๆ
ซินดี้เป็นนักข่าวที่ Metaverse Postครอบคลุมหัวข้อที่เกี่ยวข้องกับ web3, NFT, metaverse และ AI โดยเน้นไปที่การสัมภาษณ์กับ Web3 ผู้เล่นในอุตสาหกรรม เธอได้พูดคุยกับผู้บริหารระดับ C มากกว่า 30 คนและเพิ่มขึ้นเรื่อยๆ เพื่อนำข้อมูลเชิงลึกอันมีค่ามาสู่ผู้อ่าน Cindy มีพื้นเพมาจากสิงคโปร์ ปัจจุบันประจำอยู่ที่เมืองทบิลิซี รัฐจอร์เจีย เธอสำเร็จการศึกษาระดับปริญญาตรีสาขาการสื่อสารและสื่อศึกษาจากมหาวิทยาลัยเซาท์ออสเตรเลีย และมีประสบการณ์ด้านสื่อสารมวลชนและการเขียนมาหลายทศวรรษ ติดต่อเธอได้ทาง [ป้องกันอีเมล] ด้วยการแถลงข่าว ประกาศ และโอกาสในการสัมภาษณ์
