บริษัท AI ควรใช้เงินทุน 30% เพื่อการวิจัยและพัฒนาด้านความปลอดภัยและจริยธรรม
ความเสียหายที่เกิดจากอคติและข้อมูลอันเป็นเท็จนั้นปรากฏชัดอยู่แล้ว มีข้อบ่งชี้ว่าอาจเกิดอันตรายอื่นๆ ขึ้นด้วย จำเป็นอย่างยิ่งที่จะต้องลดความเสี่ยงในปัจจุบันและคาดการณ์ความเสี่ยงที่กำลังจะเกิดขึ้น
เราไม่รู้ว่าจะมั่นใจได้อย่างไรว่าระบบอัตโนมัติขั้นสูงหรือ AGI นั้นปลอดภัย หรือจะทดสอบได้อย่างไรว่าระบบเหล่านั้นพร้อมใช้งานในขณะนี้หรือไม่ นอกจากนี้ รัฐบาลยังขาดสถาบันที่จำเป็นในการหยุดการละเมิดและจัดให้มีแนวปฏิบัติที่ปลอดภัย แม้ว่าพวกเขาจะทำเช่นนั้นก็ตาม ผู้เขียนสนับสนุนการพัฒนาการกำกับดูแลของรัฐบาลที่มีประสิทธิภาพและเปลี่ยนทิศทางความพยายามด้านการวิจัยและพัฒนาไปสู่ความปลอดภัยและจริยธรรม
การควบคุมและความซื่อสัตย์ (ระบบที่ซับซ้อนมากขึ้นสามารถเอาชนะการทดสอบอย่างชาญฉลาดโดยการสร้างคำตอบที่ผิดแต่น่าเชื่อถือ) ความคงทน (ในเงื่อนไขใหม่ที่มีการเปลี่ยนแปลงการแจกแจงหรือข้อมูลที่ขัดแย้งกัน) ความสามารถในการตีความ (การทำความเข้าใจงาน) การประเมินความเสี่ยง (ความสามารถใหม่เกิดขึ้นที่ยากต่อการคาดเดา) และการเกิดขึ้นของความท้าทายใหม่ๆ (โหมดความล้มเหลวที่ไม่เคยเกิดขึ้นมาก่อน) คือความท้าทายด้านการวิจัยและพัฒนาบางส่วนที่ไม่สามารถแก้ไขได้ พัฒนาระบบ AI ที่ทรงพลังยิ่งขึ้น.
ผู้เขียนแนะนำว่าความปลอดภัยและจริยธรรมควรได้รับเงินทุนอย่างน้อยหนึ่งในสามสำหรับการวิจัยและพัฒนา AI
มาตรฐานจำเป็นต้องได้รับการบังคับใช้ที่เกี่ยวข้องกับทั้งสถาบันระดับชาติและธรรมาภิบาลระดับโลก AI ยังขาดสิ่งเหล่านี้ แต่อุตสาหกรรมยา การเงิน และนิวเคลียร์ยังขาดอยู่ ขณะนี้มีแรงจูงใจสำหรับประเทศและธุรกิจในการประหยัดโดยแลกกับความมั่นคง บริษัทต่างๆ สามารถทำกำไรจากความก้าวหน้าของ AI ขณะเดียวกันก็ออกจากสังคมเพื่อรับผลที่ตามมา เช่นเดียวกับอุตสาหกรรมที่ทิ้งขยะลงแม่น้ำ
ความรู้ด้านเทคนิคที่แข็งแกร่งและความสามารถในการดำเนินการอย่างรวดเร็วเป็นข้อกำหนดสำหรับสถาบันระดับชาติ ในเวทีระดับโลก ความร่วมมือและข้อตกลงถือเป็นสิ่งสำคัญ ต้องหลีกเลี่ยงอุปสรรคทางราชการต่อแบบจำลองขนาดเล็กและคาดเดาได้ เพื่อปกป้องการวิจัยทางวิชาการและการใช้งานที่มีความเสี่ยงต่ำ โมเดล Frontier ซึ่งเป็นกลุ่มระบบที่มีศักยภาพมากที่สุดซึ่งได้รับการฝึกฝนเกี่ยวกับซูเปอร์คอมพิวเตอร์มูลค่าหลายพันล้านดอลลาร์ ควรได้รับความสนใจมากที่สุด
รัฐบาลจะต้องเปิดกว้างมากขึ้นเกี่ยวกับการพัฒนาเพื่อให้กฎระเบียบต่างๆ มีประสิทธิผล หน่วยงานกำกับดูแลควรควบคุมการลงทะเบียนโมเดล ปกป้องผู้ให้ข้อมูลภายใน กำหนดการรายงานเหตุการณ์ และจับตาดูการพัฒนาโมเดลและการใช้ซูเปอร์คอมพิวเตอร์
หน่วยงานกำกับดูแลยังต้องมีสิทธิ์เข้าถึงระบบเหล่านี้ก่อนที่จะปล่อยสู่การผลิตเพื่อที่จะประเมิน อาจเป็นอันตราย คุณสมบัติต่างๆ เช่น การสร้างเชื้อโรค การจำลองตัวเอง และการเจาะระบบ
ระบบที่อาจเป็นอันตรายจำเป็นต้องมีวิธีการควบคุมที่หลากหลาย โมเดลชายแดน ผู้สร้างยังต้องรับผิดชอบตามกฎหมายต่อความเสียหายต่อระบบของตนที่อาจหลีกเลี่ยงได้ สิ่งนี้ควรส่งเสริมการลงทุนด้านความปลอดภัย คุณสมบัติเพิ่มเติม เช่น การออกใบอนุญาตของรัฐบาล ความสามารถในการหยุดการพัฒนาเพื่อตอบสนอง อันตรายได้ ความสามารถ การควบคุมการเข้าถึง และมาตรการรักษาความปลอดภัยข้อมูลที่แฮกเกอร์ระดับรัฐไม่สามารถอนุญาตได้ อาจจำเป็นสำหรับระบบที่มีความสามารถอย่างยิ่ง
แม้ว่าจะไม่มีกฎเกณฑ์ใดๆ แต่ธุรกิจต่างๆ ควรชี้แจงความรับผิดชอบหากเกิดเหตุการณ์นั้นอย่างรวดเร็ว โดยสรุปขั้นตอนที่ชัดเจนที่พวกเขาจะดำเนินการหากความสามารถของโมเดลบางอย่างล้ำเส้นสีแดง มาตรการเหล่านี้จำเป็นต้องอธิบายอย่างละเอียดและยืนยันอย่างเป็นอิสระ เป็นเช่นนั้นเอง แบบแยก ส่วนเสริมนโยบาย รวบรวมบทสรุปวิทยานิพนธ์
- ในเดือนตุลาคม ฟอรั่มโมเดลชายแดน ได้แนะนำกองทุนความปลอดภัย AI มูลค่ากว่า 10 ล้านดอลลาร์โดยมีเป้าหมายเพื่อขับเคลื่อนความก้าวหน้าในการวิจัยด้านความปลอดภัยของ AI กองทุนซึ่งเป็นความร่วมมือระหว่าง Frontier Model Forum และพันธมิตรด้านการกุศล จะให้การสนับสนุนนักวิจัยอิสระทั่วโลกในเครือสถาบันการศึกษา องค์กรวิจัย และบริษัทสตาร์ทอัพ ผู้สนับสนุนหลักของโครงการริเริ่มนี้คือ Anthropic, Google, Microsoft, OpenAIพร้อมด้วยองค์กรการกุศล เช่น มูลนิธิ Patrick J. McGovern, มูลนิธิ David และ Lucile Packard, Eric Schmidt และ Jaan Tallinn กองทุนความปลอดภัยของ AI มุ่งเน้นไปที่การสนับสนุนการพัฒนาเทคนิคการประเมินใหม่ๆ และวิธีการรวมทีมสีแดงสำหรับโมเดล AI โดยมีเป้าหมายเพื่อเปิดเผยอันตรายที่อาจเกิดขึ้น ฟอรัมวางแผนที่จะจัดตั้งคณะกรรมการที่ปรึกษาในอีกไม่กี่เดือนข้างหน้า และจะประกาศการเสนอข้อเสนอและมอบรางวัลเป็นครั้งแรกหลังจากนั้นไม่นาน
| ที่เกี่ยวข้อง: หน่วยงานด้านการแข่งขันและการตลาดของสหราชอาณาจักรเปิดตัวการทบทวนโมเดล AI เนื่องจากความพยายามด้านกฎระเบียบของรัฐบาลทวีความรุนแรงขึ้น |
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
