ผู้นำ AI เตือนถึงความเสี่ยงที่เพิ่มขึ้นและข้อกังวลด้านจริยธรรมในความก้าวหน้าอย่างรวดเร็ว
ในแถลงการณ์นโยบายล่าสุดบุคคลสำคัญในสาขา AI รวมถึง Bengio, Hinton, Russell, Harari และ Kahneman ได้ส่งสัญญาณเตือนเกี่ยวกับความก้าวหน้าที่รวดเร็วและความเสี่ยงทางสังคมที่เพิ่มขึ้นที่เกี่ยวข้องกับ AI
AI กำลังพัฒนาอย่างรวดเร็ว GPT-2 เมื่อสี่ปีที่แล้วไม่สามารถนับ 0 ถึง 100 ได้ แต่โมเดลสมัยใหม่สามารถเขียนโค้ด สร้างภาพที่น่าทึ่ง และให้คำแนะนำอันชาญฉลาดได้ และเนื่องจากเราอยู่ในการแข่งขัน ความก้าวหน้าจึงสามารถเพิ่มความเร็วได้มากขึ้น นอกจากนี้ AI ยังก้าวหน้าเร็วขึ้นด้วย เช่น การช่วยเหลือในการเขียนโปรแกรมระบบใหม่ และการรวบรวมข้อมูลสำหรับการฝึกอบรม
เมื่อความก้าวหน้าถึงระดับของมนุษย์ ก็ไม่มีเหตุผลที่จะคิดว่ามันจะช้าลงหรือหยุดลง ในบางภูมิภาค ระบบประดิษฐ์ได้มีประสิทธิภาพเหนือกว่ามนุษย์ในเรื่องนี้ไปแล้ว ความสามารถเช่นการประมวลผลที่เร็วขึ้น ความเร็ว ความสามารถในการประมวลผลข้อมูลที่มากขึ้น และความสามารถในการขยายขนาดขนาดใหญ่ ธุรกิจต่างๆ มีช่องทางทางการเงินในการดำเนินโครงการฝึกอบรมที่เกินกว่าขีดจำกัดปัจจุบันมาก
ผู้เขียนคิดว่ามีโอกาสที่ดีที่ผู้เชี่ยวชาญด้าน AI ที่ดีกว่าจะปรากฏตัวภายในสิบปีข้างหน้า เกินความสามารถของมนุษย์ ในขอบเขตที่สำคัญมากมาย
จะเกิดอะไรขึ้นต่อไป? ทุกชีวิตสามารถดีขึ้นได้หากได้รับการจัดการและแจกจ่ายอย่างเหมาะสม ตัวเลือกที่เลือกไม่ดีนำมาซึ่งความเสี่ยงที่สำคัญซึ่งเราไม่ได้เตรียมตัวไว้ แทนที่จะจัดสรรเพื่อความปลอดภัยและการป้องกันอันตราย มีการใช้ทรัพยากรจำนวนมากเพื่อสร้างระบบ AI ที่มีศักยภาพมากขึ้นเรื่อยๆ สิ่งนี้จำเป็นต้องเปลี่ยนแปลง การแสวงหาทักษะด้วยตนเองยังไม่เพียงพอ และกระบวนการนี้ใช้เวลานานกว่าที่คาดไว้ เราจำเป็นต้องวางแผนสำหรับความเสี่ยงที่สูงขึ้นก่อนที่มันจะเกิดขึ้นโดยคาดการณ์การเพิ่มขึ้นของภัยคุกคามในปัจจุบันและการเกิดขึ้นของภัยคุกคามใหม่ๆ เราไม่มีเวลาเท่ากันสำหรับ AI เนื่องจากต้องใช้เวลาหลายทศวรรษกว่าจะได้รับการยอมรับ อากาศเปลี่ยนแปลง.
มีความเสี่ยงมากมายในระดับสังคม รวมถึงการเพิ่มขึ้นของความอยุติธรรม ความมั่นคงที่ถดถอย และการรับรู้ถึงความเป็นจริงโดยทั่วไปที่เสื่อมลง ที่นี่ผู้ก่อการร้ายและอาชญากรมีส่วนร่วมในกิจกรรมมากมาย AI อาจกระจุกตัวอยู่ในมือของผู้เล่นเพียงไม่กี่คน ซึ่งนำไปสู่ความไม่เท่าเทียมกันทั่วโลกที่เพิ่มขึ้น การอำนวยความสะดวกในการทำสงครามอัตโนมัติ การจัดการมวลชนที่ปรับให้เหมาะกับแต่ละบุคคล และการเฝ้าระวังที่แพร่หลาย
เป็นแบบอัตโนมัติ AI มีความซับซ้อนมากขึ้นและสามารถวางแผนได้กระทำในโลกและบรรลุวัตถุประสงค์ความเสี่ยงเหล่านี้ก็จะเพิ่มขึ้นเท่านั้น วัตถุประสงค์เหล่านี้อาจไม่เป็นประโยชน์สูงสุดของเรา และในกรณีของผู้ไม่ประสงค์ดี อาจส่งผลเสียด้วยซ้ำ ขณะนี้ยังไม่มีความชัดเจนว่าจะแก้ไขปัญหา AI Alignment ได้อย่างไร ซึ่งเกี่ยวข้องกับการจับคู่พฤติกรรมของ AI กับวัตถุประสงค์ที่ซับซ้อนของเรา นอกจากนี้ เป็นเรื่องง่ายมากที่จะมองข้ามข้อควรระวังด้านความปลอดภัยเมื่อแข่งโดยมีเป้าหมายเพื่อชัยชนะ
ซอฟต์แวร์ทั่วไปเป็นเรื่องยากสำหรับมนุษย์ที่จะควบคุม ไม่ต้องพูดถึงระบบ AI ที่ซับซ้อนซึ่งมีความเชี่ยวชาญมากขึ้นในด้านวิศวกรรมสังคม การแฮ็ก การหลอกลวง และการวางแผนเชิงกลยุทธ์ นี่คือสิ่งที่ระบบ AI อัตโนมัติสามารถรับได้จากผู้คนหรือสร้างขึ้นเอง
ระบบเหล่านี้มีความสามารถในการสร้างแนวร่วมกับบุคคลและระบบอื่นๆ เอาชนะความไว้วางใจ เงินทุนที่ปลอดภัย และผู้มีอำนาจตัดสินใจ เช่นเดียวกับเวิร์ม พวกมันสามารถจำลองตัวเองได้ทั่วทั้งเครือข่าย โค้ดจำนวนมหาศาลถูกเขียนขึ้นแล้วโดยได้รับความช่วยเหลือจากผู้ช่วย AI ในอนาคต ระบบอาจรวมเอาช่องโหว่เข้ากับระบบที่สำคัญมากมาย ระบบ AI มีความสามารถในการใช้หรือคุกคามอาวุธชีวภาพหรืออาวุธอัตโนมัติในการต่อสู้แบบเปิด นี่เป็นเพียงความต่อเนื่องของ ความเคลื่อนไหวในปัจจุบันไปสู่การวิจัยทางชีววิทยา ปัญญาประดิษฐ์ และระบบอัตโนมัติของสงคราม. ผู้คนอาจพบว่ามันท้าทายเกินไปที่จะก้าวเข้ามาและต่อต้าน
ในหลายกรณี เรายินดีที่จะมอบบังเหียนให้พวกเขาโดยที่พวกเขาไม่ต้องถามด้วยซ้ำ บุคคลและธุรกิจจำนวนมากเต็มใจที่จะนำระบบดังกล่าวมาใช้ในสภาพแวดล้อมที่มีการแข่งขัน เพราะพวกเขากังวลว่าพวกเขาจะตามหลังคู่แข่ง
สามารถดูเอกสารฉบับเต็มได้ โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม.
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
บทความอื่น ๆ
Damir เป็นหัวหน้าทีม ผู้จัดการผลิตภัณฑ์ และบรรณาธิการที่ Metaverse Postซึ่งครอบคลุมหัวข้อต่างๆ เช่น AI/ML, AGI, LLMs, Metaverse และ Web3- สาขาที่เกี่ยวข้อง บทความของเขาดึงดูดผู้ชมจำนวนมากกว่าล้านคนทุกเดือน ดูเหมือนว่าเขาจะเป็นผู้เชี่ยวชาญที่มีประสบการณ์ 10 ปีในด้าน SEO และการตลาดดิจิทัล Damir ได้รับการกล่าวถึงใน Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto และสิ่งพิมพ์อื่น ๆ เขาเดินทางไปมาระหว่างสหรัฐอาหรับเอมิเรตส์ ตุรกี รัสเซีย และ CIS ในฐานะคนเร่ร่อนทางดิจิทัล Damir สำเร็จการศึกษาระดับปริญญาตรีสาขาฟิสิกส์ ซึ่งเขาเชื่อว่าทำให้เขามีทักษะการคิดเชิงวิพากษ์ที่จำเป็นต่อการประสบความสำเร็จในภูมิทัศน์ที่เปลี่ยนแปลงตลอดเวลาของอินเทอร์เน็ต
