Vitalik Buterin และ Nate Soares ผู้อำนวยการ MIRI เจาะลึกถึงอันตรายของ AI: ปัญญาประดิษฐ์อาจทำให้มนุษย์สูญพันธุ์ได้หรือไม่?
ในบทสรุป
Vitalik Buterin ผู้ก่อตั้ง Ethereum และผู้อำนวยการสถาบัน Machine Intelligence Research Institute Nate Soares กล่าวถึงความเสี่ยงของ AI ที่ Zuzalu ในวันนี้
Zuzalu เป็นชุมชนเมืองป๊อปอัพในมอนเตเนโกรที่ริเริ่มโดย Buterin และเพื่อนของเขาในชุมชน crypto
ในการอภิปราย Soares ได้แบ่งปันมุมมองของเขาเกี่ยวกับสาเหตุที่ AI มีแนวโน้มสูงที่จะยุติทุกชีวิตบนโลก
Vitalik Buterin ผู้ก่อตั้ง Ethereum และผู้อำนวยการสถาบัน Machine Intelligence Research Institute (MIRI) เนท โซอาเรส กล่าวถึงความเสี่ยงของ AI ที่ Zuzalu วันนี้
Zuzalu เป็น “ชุมชนเมืองป๊อปอัพ” ในมอนเตเนโกรที่ริเริ่มโดย Buterin และเพื่อนร่วมงานของเขาในชุมชน crypto ซึ่งเริ่มตั้งแต่วันที่ 25 มี.ค. ถึง 25 พ.ค. งานนี้รวบรวมผู้อยู่อาศัยหลัก 200 คนที่มีความปรารถนาร่วมกันในการเรียนรู้ สร้างสรรค์ มีชีวิตที่ยืนยาวขึ้น และมีสุขภาพดีขึ้น ชีวิตและสร้างชุมชนที่พึ่งตนเองได้ ตลอดระยะเวลาสองเดือน ชุมชนยังจัดกิจกรรมต่างๆ มากมายในหัวข้อต่างๆ เช่น ชีววิทยาสังเคราะห์ เทคโนโลยีเพื่อความเป็นส่วนตัว สินค้าสาธารณะ การมีอายุยืนยาว ธรรมาภิบาล และอื่นๆ
พื้นที่ การสนทนา เปิดงานโดย Soares แนะนำงานของเขาที่ MIRI ซึ่งเป็นองค์กรไม่แสวงผลกำไรในเบิร์กลีย์ซึ่งดำเนินกิจการมายาวนานกว่าที่เขาดำเนินการ ในช่วง 20 ปีที่ผ่านมา MIRI พยายามวางรากฐานเพื่อให้แน่ใจว่าการพัฒนา AI ดำเนินไปด้วยดี ในการอภิปราย Vitalik หวังที่จะกล่าวถึงสิ่งที่ทำให้ AI มีความเสี่ยงที่ไม่เหมือนใครเมื่อเทียบกับเทคโนโลยีอื่น ๆ ที่เปิดตัวในประวัติศาสตร์ของมนุษย์
ความน่าจะเป็นของ AI ที่ทำให้มนุษย์สูญพันธุ์
Vitalik กล่าวว่าเขาสนใจหัวข้อความเสี่ยงของ AI มานานแล้ว และจำได้ว่าเชื่อมั่นว่ามีโอกาส 0.5%-1% ที่ทุกชีวิตบนโลกจะหยุดอยู่ หาก AI ผิดพลาด ซึ่งเป็นความเสี่ยงที่มีอยู่ซึ่งจะทำให้เกิด การสูญพันธุ์ของเผ่าพันธุ์มนุษย์หรือการล่มสลายของอารยธรรมมนุษย์ที่ไม่อาจแก้ไขได้
จากมุมมองของ Soares การสูญพันธุ์ของมนุษย์ดูเหมือนเป็นผลลัพธ์เริ่มต้นของการพัฒนาเทคโนโลยี AI ที่ไม่ปลอดภัย เมื่อเปรียบเทียบกับวิวัฒนาการ เขากล่าวว่าการพัฒนาของมนุษยชาติดูเหมือนจะเกิดขึ้นเร็วกว่าการเปลี่ยนแปลงทางวิวัฒนาการเพียงอย่างเดียว ในกระบวนการทั้ง AI และวิวัฒนาการของมนุษย์ การเพิ่มประสิทธิภาพที่โดดเด่น ซึ่งเป็นกระบวนการค้นหาวิธีแก้ปัญหาที่ดีที่สุดเมื่อมีวัตถุประสงค์หลายอย่างที่ต้องพิจารณา กำลังเปลี่ยนไป มนุษย์มาถึงจุดที่พวกเขาสามารถถ่ายทอดความรู้ผ่านปากต่อปากแทนที่จะให้ข้อมูลที่เดินสายเป็นยีนผ่านการคัดเลือกโดยธรรมชาติ
“ในที่สุด AI ก็เป็นกรณีที่คุณสามารถเปลี่ยนกระบวนการเพิ่มประสิทธิภาพด้วยกล้องจุลทรรศน์ได้อีกครั้ง ฉันคิดว่าคุณสามารถทำได้ดีกว่าการเพิ่มประสิทธิภาพโดยมนุษย์ ฉันคิดว่าเรายังงี่เง่าเมื่อพูดถึงการปรับสภาพแวดล้อมให้เหมาะสม ด้วย AI เรากำลังเข้าสู่ช่วงเปลี่ยนผ่านที่การเพิ่มประสิทธิภาพโดยอัตโนมัติเป็นแรงที่กำหนดลักษณะทางมหภาคของเอกภพ” Soares อธิบาย
เขาเสริมว่าสิ่งที่ดูเหมือนในอนาคตคือสิ่งที่กระบวนการปรับให้เหมาะสมกำลังปรับให้เหมาะสม และนั่นน่าจะหยุดเป็นประโยชน์ต่อมนุษยชาติ เนื่องจากเป้าหมายการเพิ่มประสิทธิภาพส่วนใหญ่ไม่มีที่ว่างสำหรับมนุษย์
มนุษย์สามารถฝึก AI ให้ทำความดีได้หรือไม่?
Buterin ชี้ให้เห็นว่ามนุษย์เป็นผู้ฝึกฝน AI และบอกวิธีการเพิ่มประสิทธิภาพ หากจำเป็น พวกเขาสามารถเปลี่ยนวิธีเพิ่มประสิทธิภาพเครื่องได้ สำหรับสิ่งนั้น Soares กล่าวว่าโดยหลักการแล้วมันเป็นไปได้ในการฝึก AI ให้ทำความดี แต่การฝึก AI เพื่อให้บรรลุวัตถุประสงค์ไม่ได้หมายความว่ามันจะต้องการหรือต้องการที่จะทำอย่างนั้น
Buterin ชี้ประเด็นเกี่ยวกับการเรียนรู้แบบเสริมแรงในรูปแบบภาษาขนาดใหญ่ซึ่งได้รับข้อมูลจำนวนมากเกี่ยวกับความชอบของมนุษย์ Buterin ถามว่าทำไมมันถึงใช้ไม่ได้ เนื่องจากความฉลาดที่มีอยู่เริ่มดีขึ้นในการทำความเข้าใจว่าความชอบของเราคืออะไร
“มีช่องว่างขนาดใหญ่ระหว่างการทำความเข้าใจแรงจูงใจของเรากับการทำอะไรไร้สาระ”
Soares ได้ตอบกลับ
“คำกล่าวอ้างของฉันไม่ใช่ว่าโมเดลภาษาขนาดใหญ่หรือ AI จะไม่เข้าใจข้อปลีกย่อยของความชอบของมนุษย์ คำกล่าวอ้างของฉันคือการเข้าใจเรื่องเล็กน้อยเกี่ยวกับความชอบของมนุษย์นั้นแตกต่างอย่างมากกับการเพิ่มประสิทธิภาพเพื่อความดี” เขากล่าวเสริม
ผู้ชมคนหนึ่งเปรียบเทียบระหว่าง AI กับมนุษย์ โดยกล่าวว่า เช่นเดียวกับปัญญาประดิษฐ์ มนุษย์มักจะไม่เข้าใจสิ่งที่พวกเขากำลังทำหรือคาดการณ์ ซึ่งอาจเป็นอันตรายได้เช่นกัน จากนั้นเขาขอให้ Soares แสร้งทำเป็นว่าเขาเป็นมนุษย์ต่างดาวและอธิบายว่าทำไมไม่ควรมีมนุษย์
“ฉันคงไม่ตื่นเต้นกับการมอบพลังที่เหมือนพระเจ้าและการควบคุมอนาคตให้กับมนุษย์คนเดียว แยกกัน ฉันรู้สึกตื่นเต้นมากที่ได้มอบพลังให้กับมนุษย์แต่ละคนมากกว่าการให้ AI สวมบทบาทแบบสุ่ม ฉันไม่ได้พูดอย่างชัดเจนว่าเราไม่ควรมี AI ฉันกำลังบอกว่าเราต้องทำให้ถูกต้อง เราจำเป็นต้องให้พวกเขาสนใจเกี่ยวกับอนาคตที่เต็มไปด้วยความสนุกสนานและความสุข และอารยธรรมที่เฟื่องฟู ซึ่งมนุษย์ข้ามเพศมีส่วนร่วมกับการแลกเปลี่ยนผลบวกกับมนุษย์ต่างดาวและอื่นๆ” Soares ชี้แจง “หากคุณสร้างกระบวนการเพิ่มประสิทธิภาพที่แข็งแกร่งโดยให้ความสำคัญกับสิ่งต่างๆ ซึ่งอาจทำลายคุณค่าทั้งหมดของจักรวาลได้”
เขาเสริมว่าสิ่งที่มนุษย์ให้คุณค่านั้นไม่ได้เป็นสิ่งที่ดึงดูดใจในระดับสากล และศีลธรรมนั้นไม่ใช่สิ่งที่จิตใจใครก็ตามที่ศึกษาจะใฝ่หา แต่เป็นผลมาจากแรงผลักดันที่สร้างขึ้นในมนุษย์ซึ่งในสภาพแวดล้อมของบรรพบุรุษทำให้เราสืบพันธุ์ได้ดีและมีความเฉพาะเจาะจงกับมนุษย์
ท้ายที่สุดแล้ว Soares เชื่อว่าเราไม่ควรสร้างสิ่งที่ฉลาดใกล้เคียงกันหรือฉลาดกว่านั้นที่ไม่สอดคล้องกับความสนุกสนาน ความสุข และอนาคตที่เฟื่องฟู ในทางกลับกัน เขายังกล่าวด้วยว่ามนุษยชาติไม่ควรสร้างระบบข่าวกรองที่เป็นมิตรซึ่งปรับอนาคตที่สนุกสนานให้เหมาะสมในการทดลองครั้งแรกระหว่างการแข่งขันทางอาวุธ ในระยะสั้น AI ควรทุ่มเทเพื่อช่วยให้มนุษยชาติซื้อเวลาและพื้นที่เพื่อค้นหาสิ่งที่พวกเขาต้องการจริงๆ
ChatGPT จะไม่กินชีวมณฑลทั้งหมด
เนื่องจาก AI กำลังถูกสร้างขึ้นเพื่อให้บรรลุเป้าหมายเฉพาะ ซึ่งรวมถึงการทำนาย Buterin จึงถามว่าจะเกิดอะไรขึ้นถ้า AI ไม่ได้ขับเคลื่อนเป้าหมาย Soares กล่าวว่าเป็นเรื่องง่ายที่จะสร้าง AI ที่ปลอดภัยและไม่มีความสามารถ และเร็วๆ นี้เราอาจมี AI ที่มีความสามารถแต่กำลังดำเนินการในสิ่งที่แตกต่างกัน เขาไม่คิด ChatGPT จะกินพื้นที่ชีวมณฑลทั้งหมดเนื่องจากความสามารถไม่ถึงระดับนั้น
Soares ตั้งข้อสังเกตว่าแอปพลิเคชัน AI ที่น่าสนใจที่สุด เช่น การพัฒนาและการวิจัยทางวิทยาศาสตร์และเทคโนโลยีโดยอัตโนมัติ ดูเหมือนจะต้องการการแสวงหาเป้าหมายบางอย่าง
“มันไม่มีข้อผิดพลาดที่คุณจะได้รับ GPT เขียนไฮกุเรียบร้อย แต่คุณไม่สามารถเขียนนิยายได้ ข้อจำกัดของระบบปัจจุบันเกี่ยวข้องกับความจริงที่ว่าพวกเขาไม่ได้บรรลุเป้าหมายที่ลึกกว่านี้ อย่างน้อยก็สำหรับฉัน”
อ่านเพิ่มเติม:
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
ซินดี้เป็นนักข่าวที่ Metaverse Postครอบคลุมหัวข้อที่เกี่ยวข้องกับ web3, NFT, metaverse และ AI โดยเน้นไปที่การสัมภาษณ์กับ Web3 ผู้เล่นในอุตสาหกรรม เธอได้พูดคุยกับผู้บริหารระดับ C มากกว่า 30 คนและเพิ่มขึ้นเรื่อยๆ เพื่อนำข้อมูลเชิงลึกอันมีค่ามาสู่ผู้อ่าน Cindy มีพื้นเพมาจากสิงคโปร์ ปัจจุบันประจำอยู่ที่เมืองทบิลิซี รัฐจอร์เจีย เธอสำเร็จการศึกษาระดับปริญญาตรีสาขาการสื่อสารและสื่อศึกษาจากมหาวิทยาลัยเซาท์ออสเตรเลีย และมีประสบการณ์ด้านสื่อสารมวลชนและการเขียนมาหลายทศวรรษ ติดต่อเธอได้ทาง [ป้องกันอีเมล] ด้วยการแถลงข่าว ประกาศ และโอกาสในการสัมภาษณ์
บทความอื่น ๆ
ซินดี้เป็นนักข่าวที่ Metaverse Postครอบคลุมหัวข้อที่เกี่ยวข้องกับ web3, NFT, metaverse และ AI โดยเน้นไปที่การสัมภาษณ์กับ Web3 ผู้เล่นในอุตสาหกรรม เธอได้พูดคุยกับผู้บริหารระดับ C มากกว่า 30 คนและเพิ่มขึ้นเรื่อยๆ เพื่อนำข้อมูลเชิงลึกอันมีค่ามาสู่ผู้อ่าน Cindy มีพื้นเพมาจากสิงคโปร์ ปัจจุบันประจำอยู่ที่เมืองทบิลิซี รัฐจอร์เจีย เธอสำเร็จการศึกษาระดับปริญญาตรีสาขาการสื่อสารและสื่อศึกษาจากมหาวิทยาลัยเซาท์ออสเตรเลีย และมีประสบการณ์ด้านสื่อสารมวลชนและการเขียนมาหลายทศวรรษ ติดต่อเธอได้ทาง [ป้องกันอีเมล] ด้วยการแถลงข่าว ประกาศ และโอกาสในการสัมภาษณ์
